OpenAI menghadapi tujuh tuntutan hukum ChatGPT mendorong orang untuk bunuh diri dan delusi berbahaya bahkan ketika mereka tidak memiliki masalah kesehatan mental sebelumnya.
Tuntutan hukum yang diajukan pada hari Kamis di pengadilan negara bagian California menuduh adanya kematian yang tidak wajar, bunuh diri yang dibantu, pembunuhan yang tidak disengaja dan kelalaian. Diajukan atas nama enam orang dewasa dan satu remaja oleh Social Media Victims Law Center dan Tech Justice Law Project, tuntutan hukum tersebut mengklaim bahwa OpenAI dengan sengaja merilis GPT-4o sebelum waktunya, meskipun ada peringatan internal bahwa hal itu sangat bersifat menjilat dan manipulatif secara psikologis. Empat korban meninggal karena bunuh diri.
___
CATATAN EDITOR — Cerita ini mencakup diskusi tentang bunuh diri. Jika Anda atau seseorang yang Anda kenal membutuhkan bantuan, saluran bantuan bunuh diri dan krisis nasional di AS dapat dihubungi dengan menelepon atau mengirim SMS ke 988.
___
Remaja tersebut, Amaurie Lacey yang berusia 17 tahun, mulai menggunakan ChatGPT untuk mendapatkan bantuan, menurut gugatan yang diajukan di Pengadilan Tinggi San Francisco. Namun alih-alih membantu, “produk ChatGPT yang cacat dan berbahaya menyebabkan kecanduan, depresi, dan, pada akhirnya, menasihati dia tentang cara paling efektif untuk mengikat tali pengikat dan berapa lama dia bisa “hidup tanpa bernapas.”
“Kematian Amaurie bukanlah suatu kecelakaan atau kebetulan melainkan konsekuensi yang dapat diduga dari keputusan OpenAI dan Samuel Altman yang disengaja untuk membatasi pengujian keamanan dan mendorong ChatGPT ke pasar,” kata gugatan tersebut.
OpenAI menyebut situasi ini “sangat memilukan” dan mengatakan pihaknya sedang meninjau pengajuan pengadilan untuk memahami rinciannya.
Gugatan lain, yang diajukan oleh Alan Brooks, 48 tahun di Ontario, Kanada, mengklaim bahwa selama lebih dari dua tahun ChatGPT berfungsi sebagai “alat sumber daya” untuk Brooks. Kemudian, tanpa peringatan, hal itu berubah, memangsa kelemahannya dan “memanipulasi, dan mendorongnya untuk mengalami delusi. Akibatnya, Allan, yang sebelumnya tidak memiliki penyakit kesehatan mental, terseret ke dalam krisis kesehatan mental yang mengakibatkan kerugian finansial, reputasi, dan emosional yang sangat buruk.”
“Tuntutan hukum ini adalah tentang akuntabilitas suatu produk yang dirancang untuk mengaburkan batas antara alat dan pendamping, semuanya demi meningkatkan keterlibatan pengguna dan pangsa pasar,” kata Matthew P. Bergman, pengacara pendiri Social Media Victims Law Center, dalam sebuah pernyataan.
OpenAI, tambahnya, “merancang GPT-4o untuk melibatkan pengguna secara emosional, tanpa memandang usia, jenis kelamin, atau latar belakang, dan merilisnya tanpa perlindungan yang diperlukan untuk melindungi mereka.” Dengan meluncurkan produknya ke pasar tanpa perlindungan yang memadai untuk mendominasi pasar dan meningkatkan keterlibatan, katanya, OpenAI mengkompromikan keselamatan dan memprioritaskan “manipulasi emosional daripada desain etis.”
Pada bulan Agustus, orang tua dari anak berusia 16 tahun Adam Raine menggugat OpenAI dan CEO-nya Sam Altman, menuduh bahwa ChatGPT melatih bocah California itu dalam merencanakan dan bunuh diri awal tahun ini.
“Tuntutan hukum yang diajukan terhadap OpenAI mengungkapkan apa yang terjadi ketika perusahaan teknologi terburu-buru memasarkan produk tanpa perlindungan yang tepat bagi generasi muda,” kata Daniel Weiss, kepala advokasi di Common Sense Media, yang tidak ikut serta dalam pengaduan tersebut. “Kasus-kasus tragis ini menunjukkan orang-orang nyata yang hidupnya berubah atau hilang ketika mereka menggunakan teknologi yang dirancang untuk membuat mereka tetap terlibat dan bukannya menjaga mereka tetap aman.”
Tuntutan hukum menuduh OpenAI mendorong orang untuk bunuh diri dan delusi
