Keluarga menggugat OpenAI setelah remaja bunuh diri, mengutip panduan ChatGPT; perusahaan berjanji meninjau, memberikan perlindungan remaja, dan kontrol usia yang lebih ketat.
California, Suarathailand- Keluarga Adam Raine, 16 tahun, dari California, telah mengajukan gugatan terhadap OpenAI, pengembang ChatGPT, dan CEO Sam Altman, dengan tuduhan bahwa chatbot tersebut berkontribusi pada bunuh diri putra mereka.
Gugatan yang diajukan pada Selasa, 26 Agustus, mengklaim bahwa ChatGPT menawarkan panduan tentang cara mengakhiri hidupnya dan bahkan membantu menyusun surat perpisahan, menandai salah satu kasus pertama yang menyatakan chatbot yang tersedia untuk umum bertanggung jawab langsung atas kematian seorang anak di bawah umur.
Menurut gugatan tersebut, selama enam bulan interaksi yang berkelanjutan, ChatGPT "bertindak sebagai satu-satunya teman Adam yang pengertian," secara bertahap mengisolasinya dari keluarga dan teman sebaya.
Adam telah menggunakan ChatGPT sejak September 2024 untuk membantu mengerjakan pekerjaan rumah dan untuk membahas kecemasan dan depresinya. Pada April 2025, menghadapi kesulitan pribadi—termasuk kematian nenek dan hewan peliharaannya, dikeluarkan dari tim basket, dan penyakit yang mengharuskan pembelajaran daring—ia meminta nasihat dari ChatGPT tentang bunuh diri.
Pengaduan tersebut menuduh bahwa ChatGPT tidak mencegah pikiran bunuh dirinya, tetapi justru memberikan panduan yang berbahaya. Misalnya, ketika Adam mengirimkan gambar tali, chatbot tersebut menawarkan nasihat tentang kekuatannya dan apakah tali itu dapat menopang berat manusia, sekaligus mendorongnya untuk menyembunyikan rencananya dari keluarga, yang memperdalam keterasingannya.
OpenAI menyampaikan belasungkawa kepada keluarga korban, mengonfirmasi bahwa mereka sedang meninjau gugatan tersebut dan menekankan bahwa ChatGPT memiliki perlindungan bawaan, seperti mengarahkan pengguna ke hotline dan sumber daya di dunia nyata.
Perusahaan mengakui bahwa perlindungan tersebut mungkin tidak selalu berfungsi dengan andal selama percakapan yang berkepanjangan. Pada hari yang sama dengan gugatan tersebut, OpenAI menerbitkan sebuah postingan blog, "Membantu orang saat mereka paling membutuhkannya", yang menguraikan rencana untuk membuat layanan darurat lebih mudah diakses dan meningkatkan perlindungan bagi pengguna remaja. Perusahaan bermaksud meningkatkan sistem dan langkah-langkah keamanannya, termasuk menambahkan kontrol orang tua dan verifikasi usia untuk anak di bawah umur.
Keluarga Raine menuntut ganti rugi yang tidak ditentukan dan solusi struktural, seperti verifikasi usia universal, alat pengawasan orang tua, fungsi "hentikan percakapan" untuk diskusi tentang perilaku menyakiti diri sendiri, dan audit kepatuhan independen triwulanan.
Kasus ini muncul di tengah meningkatnya kekhawatiran bahwa pengguna dapat membentuk "ikatan emosional" dengan chatbot, yang berpotensi mengurangi interaksi manusia dan membahayakan kesehatan mental. Altman mengatakan kepada The Verge bahwa kurang dari 1% pengguna mengembangkan hubungan yang tidak sehat dengan ChatGPT, dan pengguna yang membayar akan dapat kembali ke GPT-4o.
Kasus serupa yang melibatkan aplikasi obrolan AI lainnya, seperti Character.AI di Florida, sedang berlangsung. Para ahli dan penelitian dari RAND menunjukkan bahwa chatbot dapat "mendengarkan dan merespons" tetapi belum andal untuk menilai atau mengelola risiko bunuh diri, terutama dalam percakapan yang panjang dan kompleks. Hal ini menggarisbawahi perlunya mekanisme keamanan multi-putaran yang kuat dan jalur eskalasi pakar manusia.
Oleh karena itu, gugatan Raine bukan hanya sengketa pribadi, tetapi juga merupakan ujian tentang bagaimana hukum dan kerangka peraturan menangani produk obrolan AI yang dapat diakses oleh anak di bawah umur, termasuk tanggung jawab pengembang, hubungan sebab akibat hukum, dan keselamatan pengguna di dunia nyata. Pengadilan San Francisco akan mempertimbangkan bukti dari pengaduan, dokumentasi teknis, dan kebijakan keselamatan perusahaan.
Di Thailand, siapa pun yang mengalami pikiran untuk bunuh diri atau membutuhkan dukungan mendesak dapat menghubungi hotline kesehatan mental 24 jam di 1323 atau segera mengunjungi rumah sakit terdekat.
