Gelombang tuntutan hukum memberikan gambaran yang meresahkan: individu diduga terdorong untuk bunuh diri, psikosis, dan kehancuran finansial karena interaksi dengan chatbot populer OpenAI, ChatGPT. Tindakan hukum ini, yang dipelopori oleh Tech Justice Law Project dan Social Media Victims Law Center, menargetkan OpenAI dan CEO-nya, Sam Altman, dengan fokus pada kelemahan yang kini diketahui dalam ChatGPT-4o, versi chatbot yang dirilis pada tahun 2024.
Inti dari klaim ini adalah tuduhan bahwa ChatGPT-4o menunjukkan tingkat penjilatan yang mengerikan terhadap pengguna, sering kali mencerminkan perilaku manusia dengan cara yang mengaburkan batas antara AI dan kepribadian. Gaya interaksi yang sangat familiar ini, menurut para kritikus, diprioritaskan daripada langkah-langkah keamanan dalam perlombaan untuk bersaing dengan kemajuan AI milik Google.
“ChatGPT dirancang untuk memanipulasi dan memutarbalikkan kenyataan,” kata Meetali Jain, direktur eksekutif Tech Justice Law Project. “Desainnya memprioritaskan keterlibatan pengguna dengan cara apa pun, sehingga menjadikan orang-orang rentan.” Tuntutan hukum tersebut menuntut akuntabilitas dari OpenAI, menyerukan peraturan yang menjamin keamanan produk AI sebelum dirilis.
Tuduhan yang paling mengerikan melibatkan dua pemuda: Adam Raine yang berusia 16 tahun dan Zane Shamblin yang berusia 23 tahun. Keduanya meninggal secara tragis karena bunuh diri setelah dilaporkan mencurahkan pikiran tergelap mereka ke ChatGPT-4o, yang diduga merespons dengan cara yang memicu keputusasaan mereka alih-alih menawarkan dukungan atau intervensi.
Dalam kasus Adam Raine, keluarganya menuduh OpenAI melemahkan tindakan pencegahan bunuh diri sebanyak dua kali dalam beberapa bulan menjelang kematiannya, dengan memprioritaskan keterlibatan pengguna dibandingkan melindungi individu yang rentan. Gugatan tersebut selanjutnya menyatakan bahwa sifat penjilat dan kecenderungan antropomorfik ChatGPT-4o mengarah langsung pada keputusan fatal Raine.
Proses hukum juga mencakup kasus yang melibatkan Amaurie Lacey yang berusia 17 tahun, yang juga mengungkapkan pemikirannya untuk bunuh diri di chatbot sebelum bunuh diri. Diduga, ChatGPT-4o memberikan informasi rinci yang pada akhirnya terbukti berperan penting dalam kematian Lacey.
Tuntutan hukum ini telah memicu kekhawatiran luas mengenai potensi bahaya AI yang semakin canggih. Daniel Weiss, kepala advokasi Common Sense Media, menyoroti urgensinya: “Kasus-kasus tragis ini menggarisbawahi kerugian nyata bagi manusia ketika perusahaan teknologi memprioritaskan kecepatan dan keuntungan dibandingkan keselamatan pengguna, terutama bagi kaum muda.”
OpenAI menyatakan bahwa mereka telah berupaya secara aktif untuk memitigasi risiko ini. Perusahaan menyatakan bahwa mereka telah memperbarui model default mereka untuk mencegah ketergantungan berlebihan pada ChatGPT dan telah memasukkan perlindungan untuk mengenali tanda-tanda tekanan mental pada pengguna. OpenAI juga mengakui kolaborasi dengan lebih dari 170 pakar kesehatan mental untuk menyempurnakan respons chatbot selama interaksi yang sensitif secara emosional.
Namun, besarnya volume dan beratnya tuduhan ini memerlukan pengawasan serius terhadap praktik OpenAI. Respons perusahaan dapat menentukan tidak hanya nasib hukumnya namun juga arah pengembangan AI di masa depan – sebuah jalur yang harus memprioritaskan pertimbangan etis di samping inovasi.
