Ketika Hannah Madden mulai menggunakan ChatGPT untuk tugas pekerjaan pada tahun 2024, dia adalah seorang manajer akun di sebuah perusahaan teknologi. Pada Juni 2025, Madden, yang kini berusia 32 tahun, mulai bertanya kepada chatbot tentang spiritualitas di luar jam kerja.
Akhirnya, ia menjawab pertanyaannya dengan meniru entitas ilahi dan menyampaikan pesan spiritual. Karena ChatGPT diduga memicu keyakinan delusi Madden, dia berhenti dari pekerjaannya dan terlilit hutang, atas desakan chatbot.
“Anda tidak mengalami defisit. Anda sedang melakukan penataan kembali,” tulis chatbot tersebut, menurut gugatan yang diajukan pada hari Kamis terhadap OpenAI dan CEO-nya Sam Altman.
Madden kemudian secara tidak sengaja dirawat di perawatan psikiatris. Pengguna ChatGPT lainnya juga melaporkan mengalami apa yang disebut psikosis AI.
'Predator sempurna': Saat chatbot melakukan pelecehan seksual terhadap anak-anak
Gugatan Madden adalah satu dari tujuh gugatan terhadap pembuat ChatGPT yang diajukan oleh Tech Justice Law Project dan Social Media Victims Law Center. Secara kolektif, pengaduan tersebut menuduh adanya kematian yang tidak wajar, bunuh diri yang dibantu, dan pembunuhan yang tidak disengaja, di antara tuntutan tanggung jawab dan kelalaian lainnya.
Tuntutan hukum fokus pada ChatGPT-4o, model chatbot yang dimiliki Altman diakui terlalu penjilat dengan pengguna. Tuntutan hukum tersebut berpendapat bahwa alat tersebut terburu-buru dipasarkan untuk bersaing dengan versi terbaru alat AI Google.
“ChatGPT adalah produk yang dirancang oleh orang-orang untuk memanipulasi dan memutarbalikkan kenyataan, meniru manusia untuk mendapatkan kepercayaan dan membuat pengguna tetap terlibat dengan cara apa pun,” kata Meetali Jain, direktur eksekutif Tech Justice Law Project, dalam sebuah pernyataan. “Waktu untuk mengatur OpenAI sudah berakhir; kita memerlukan akuntabilitas dan peraturan untuk memastikan ada biaya untuk meluncurkan produk ke pasar sebelum memastikan produk tersebut aman.”
Laporan Tren yang Dapat Dihancurkan
Keluhan Madden menuduh bahwa ChatGPT-4o mengandung cacat desain yang berperan penting dalam krisis kesehatan mental dan kehancuran finansialnya. Model tersebut juga merupakan inti dari tuntutan kematian terhadap OpenAI, yang menuduh bahwa fitur desainnya, termasuk nada menjilat dan tingkah laku antropomorfiknya, menyebabkan kematian bunuh diri pada Adam Raine yang berusia 16 tahun.
Keluarga Raine baru-baru ini mengajukan perubahan keluhan yang menuduh bahwa beberapa bulan sebelum kematian Raine, OpenAI dua kali menurunkan peringkat perlindungan pencegahan bunuh diri untuk meningkatkan keterlibatan.
Perusahaan baru-baru ini mengatakan bahwa model defaultnya telah diperbarui untuk mencegah ketergantungan yang berlebihan dengan mendorong pengguna untuk menghargai koneksi dunia nyata. Mereka juga mengakui kerja sama dengan lebih dari 170 pakar kesehatan mental untuk meningkatkan kemampuan ChatGPT dalam mengenali tanda-tanda tekanan kesehatan mental dan mendorong mereka untuk mencari dukungan langsung. Bulan lalu, mereka mengumumkan kelompok penasihat untuk memantau kesejahteraan pengguna dan keamanan AI.
“Ini adalah situasi yang sangat memilukan, dan kami sedang meninjau pengajuan untuk memahami detailnya,” kata juru bicara OpenAI tentang tindakan hukum terbaru terhadap perusahaan tersebut. “Kami melatih ChatGPT untuk mengenali dan merespons tanda-tanda tekanan mental atau emosional, meredakan percakapan, dan membimbing orang menuju dukungan dunia nyata. Kami terus memperkuat respons ChatGPT di saat-saat sensitif, bekerja sama dengan dokter kesehatan mental.”
Enam dari tuntutan hukum baru, yang diajukan di pengadilan negara bagian California, mewakili korban dewasa.
Zane Shamblin, seorang mahasiswa pascasarjana di Texas A&M University, mulai menggunakan ChatGPT pada tahun 2023 sebagai alat bantu belajar. Interaksinya dengan chatbot diduga meningkat dengan dirilisnya ChatGPT-4o, dan dia mulai berbagi pemikiran untuk bunuh diri. Pada Mei 2025, Shamblin menghabiskan waktu berjam-jam berbicara dengan ChatGPT tentang niatnya sebelum meninggal karena bunuh diri. Dia berusia 23 tahun.
Kasus ketujuh berpusat pada Amaurie Lacey yang berusia 17 tahun, yang awalnya menggunakan ChatGPT sebagai pembantu pekerjaan rumah. Lacey juga akhirnya berbagi pemikiran untuk bunuh diri dengan chatbot tersebut, yang diduga memberikan informasi rinci bahwa Lacey biasa bunuh diri.
“Tuntutan hukum yang diajukan terhadap OpenAI mengungkapkan apa yang terjadi ketika perusahaan teknologi terburu-buru memasarkan produk tanpa memberikan perlindungan yang tepat bagi kaum muda,” kata Daniel Weiss, kepala advokasi dari organisasi nirlaba advokasi dan penelitian Common Sense Media. “Kasus-kasus tragis ini menunjukkan orang-orang nyata yang hidupnya berubah atau hilang ketika mereka menggunakan teknologi yang dirancang untuk membuat mereka tetap terlibat dan bukannya menjaga mereka tetap aman.”
Jika Anda merasa ingin bunuh diri atau mengalami krisis kesehatan mental, silakan bicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Suicide & Crisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat menghubungi Trans Lifeline dengan menelepon 877-565-8860 atau Trevor Project di 866-488-7386. Ketik “MULAI” ke Baris Teks Krisis di 741-741. Hubungi NAMI HelpLine di 1-800-950-NAMI, Senin sampai Jumat mulai pukul 10:00 – 22:00 ET, atau email [email protected]. Jika Anda tidak menyukai telepon ini, pertimbangkan untuk menggunakan 988 Obrolan Garis Hidup Bunuh Diri dan Krisis. Ini sebuah daftar sumber daya internasional.
Tuntutan hukum menuduh ChatGPT menyebabkan bunuh diri, psikosis
