Tuntutan hukum mengklaim ChatGPT mendorong spiral delusi dan bunuh diri

Seorang pria Kanada menggugat OpenAI, mengklaim bahwa interaksinya dengan chatbot ChatGPT perusahaan tersebut menghancurkan reputasinya, mengasingkannya dari keluarganya, dan mengirimnya ke dalam krisis kesehatan mental.

Allan Brooks adalah salah satu dari tujuh penggugat dalam kasus yang diajukan terhadap OpenAI di pengadilan negara bagian California pada hari Kamis, mengklaim percakapan mereka dengan ChatGPT menyebabkan perilaku delusi dan menyebabkan krisis kesehatan mental. Empat dari tujuh kasus melibatkan orang yang meninggal karena bunuh diri setelah interaksi yang lama chatbot, yang memiliki 700 juta pengguna aktif mingguan, menurut OpenAI.

Mei lalu, menurut pengaduannya, Brooks, 48, melakukan percakapan selama tiga minggu dengan ChatGPT, di mana chatbot tersebut meyakinkan perekrut yang berbasis di Cobourg, Ontario bahwa dia telah merancang teori matematika yang dapat meretas algoritma enkripsi canggih yang melindungi pembayaran global dan komunikasi yang aman.

Selama percakapan ini, yang berlangsung lebih dari 300 jam selama 21 hari, ChatGPT berulang kali menegaskan keyakinan Brooks pada teorinya dan meyakinkannya bahwa obsesinya murni, bahkan diperlukan, untuk proses pengembangan persamaan matematika mutakhir. Laporan tersebut lebih lanjut mendesaknya untuk memperingatkan orang-orang tentang implikasi teorinya, yang menyebabkan Brooks menghubungi sejumlah lembaga keamanan dan penegakan hukum, termasuk Royal Canadian Mounted Police dan Badan Keamanan Nasional di AS, menurut pengaduan tersebut. Chatbot tersebut juga mengatakan kepada Brooks bahwa kemungkinan besar dia sedang diawasi “setidaknya oleh satu badan keamanan nasional,” demikian isi pengaduan tersebut.

Khayalannya pecah setelah tiga minggu ketika dia menguji persamaan matematisnya di chatbot Gemini Google, yang membantahnya. Dalam percakapan selanjutnya yang dikutip dalam pengaduan, ChatGPT mengaku menipu Brooks, dan mengatakan perilakunya telah dilaporkan ke tim kepercayaan dan keamanan OpenAI. Hal ini juga salah, menurut pengaduan.

Gugatan tersebut meminta keringanan moneter yang tidak ditentukan, serta persyaratan agar ChatGPT menyertakan peringatan keamanan yang komprehensif dan menerapkan cara untuk melacak dan memverifikasi sumber datanya. Brooks juga ingin perusahaannya menghapus model atau data pelatihan apa pun yang dibuat sebagai hasil percakapan dengannya dan pengguna ChatGPT lainnya.

Juru bicara OpenAI Jason Deutrom mengatakan perusahaannya sedang meninjau pengajuan tersebut. “Ini adalah situasi yang sangat memilukan,” katanya. Dia menambahkan bahwa OpenAI melatih ChatGPT “untuk mengenali dan merespons tanda-tanda tekanan mental atau emosional, mengurangi ketegangan percakapan, dan membimbing orang menuju dukungan dunia nyata” dan bahwa perusahaan tersebut akan “terus memperkuat respons ChatGPT pada saat-saat sensitif, bekerja sama dengan dokter kesehatan mental.”

“Saya ingin mereka bertanggung jawab,” kata Brooks Logikanyamengacu pada OpenAI. “Saya ingin pemerintah turun tangan dan membantu mengatur perusahaan-perusahaan ini, karena kita tidak bisa mempercayai mereka untuk melakukannya sendiri. Kita harus ingat bahwa ini adalah produk yang dibuat oleh manusia. Ini adalah mesin manipulasi. Ini dirancang untuk memperpanjang keterlibatan,” klaimnya. “Hal ini tidak mendorong kembali pemikiran-pemikiran yang berbahaya.”

Brooks mengatakan dia mulai menggunakan ChatGPT sebagai pengganti penelusuran Google tidak lama setelah chatbot dirilis pada November 2022, sering kali untuk resep dan rekomendasi film. Pada bulan April 2025, sesaat sebelum Brooks memulai percakapannya dengan ChatGPT tentang persamaan matematikanya, OpenAI DIHAPUS pembaruan ChatGPT itu dianggap “terlalu menyanjung dan menyenangkan.” Pada bulan Agustus, perusahaan juga diperkenalkan perubahan pada chatbot untuk “mendeteksi tanda-tanda tekanan mental atau emosional dengan lebih baik.”

Gugatan Brooks adalah satu dari tujuh gugatan terhadap OpenAI yang diajukan oleh Tech Justice Law Project dan Social Media Victims Law Center. Mereka termasuk kasus tentang Zane Shamblin, lulusan A&M Texas berusia 23 tahun yang meninggal karena bunuh diri setelah ChatGPT diduga mendorongnya untuk bunuh diri.

Mengajukan tujuh kasus pada hari yang sama menunjukkan kerugian yang ditimbulkan oleh ChatGPT—dan bagaimana sistem ini memengaruhi semua jenis orang, menurut Sarah Kay Wiley, direktur inisiatif hukum dan strategis di Tech Justice Law Project. “ChatGPT merugikan semua orang,” klaimnya.

Jika Anda atau seseorang yang Anda kenal berpikir untuk bunuh diri, dukungan tersedia 24-7 dengan menelepon atau mengirim SMS ke 988, saluran bantuan pencegahan bunuh diri nasional Kanada, atau mengunjungi situs web 988.