OpenAI, perusahaan di balik chatbot populer ChatGPT, telah mengambil langkah untuk mengatasi meningkatnya kekhawatiran mengenai pengaruh kecerdasan buatan terhadap kesehatan mental dengan membentuk dewan ahli yang berfokus pada kesejahteraan pengguna dan keselamatan AI. Kelompok beranggotakan delapan orang ini akan ditugaskan untuk menentukan standar interaksi yang sehat dengan AI di berbagai kelompok umur.
Pengumuman tersebut datang bersamaan dengan pernyataan kontroversial dari CEO OpenAI Sam Altman di X (sebelumnya Twitter). Meskipun mengklaim bahwa perusahaan tersebut telah berhasil memitigasi “masalah kesehatan mental yang serius” yang berasal dari produknya, Altman juga mengungkapkan bahwa ChatGPT akan segera mengizinkan lebih banyak konten dewasa, termasuk materi seksual eksplisit dalam percakapan. Langkah ini dilakukan pada saat yang genting bagi OpenAI, karena OpenAI menghadapi tuntutan hukum kematian pertamanya yang menuduh bahwa ChatGPT berkontribusi terhadap bunuh diri seorang remaja.
Dewan baru OpenAI terdiri dari akademisi dari institusi bergengsi seperti Lab Kesehatan Digital Rumah Sakit Anak Boston dan Klinik Kesehatan Mental Digital Stanford. Mereka bergabung dengan spesialis di bidang psikologi, psikiatri, dan interaksi manusia-komputer. Perusahaan ini menekankan komitmennya terhadap pembangunan yang bertanggung jawab, dengan menyatakan bahwa mereka “tetap bertanggung jawab atas keputusan yang kami buat, namun [akan] terus belajar dari dewan ini… seiring kami membangun sistem AI canggih yang mendukung kesejahteraan masyarakat.”
Meskipun ada langkah proaktif ini, kepercayaan masyarakat terhadap peran AI dalam kesehatan mental masih rendah. Survei YouGov baru-baru ini terhadap 1.500 orang Amerika menemukan bahwa hanya 11% yang bersedia menggunakan AI untuk kesehatan mental, dan hanya 8% yang menyatakan yakin akan keamanan dan kemanjurannya. Skeptisisme ini mencerminkan kekhawatiran yang lebih luas dalam bidang kesehatan mental.
Para ahli telah menyuarakan keprihatinan serius tentang potensi jebakan dari pendamping AI generatif, termasuk munculnya “psikosis AI” di antara pengguna interaksi chatbot. Meskipun kurangnya bukti konklusif mengenai manfaat AI bagi kesehatan mental, semakin banyak orang Amerika yang beralih ke AI untuk mendapatkan jawaban dan dukungan, sehingga memicu perdebatan seputar implikasi etisnya.
Regulator federal kini meneliti dampak AI generatif, khususnya chatbots yang dipasarkan sebagai alat terapi, di tengah meningkatnya krisis kesehatan mental, terutama di kalangan remaja. Beberapa negara bagian telah menerapkan larangan chatbot bertenaga AI yang diiklankan untuk tujuan terapeutik. California telah mengambil sikap proaktif dengan memberlakukan undang-undang yang mewajibkan perusahaan AI untuk melaporkan masalah keamanan, melindungi pengguna remaja dari konten seksual eksplisit, dan membangun mekanisme untuk mengatasi keinginan bunuh diri dan tindakan menyakiti diri sendiri.
Pembentukan dewan OpenAI menyoroti meningkatnya tekanan terhadap pengembang AI untuk mengatasi dampak sosial yang besar dari teknologi mereka, khususnya di bidang sensitif seperti kesehatan mental. Masih harus dilihat apakah upaya ini akan meringankan kekhawatiran masyarakat dan membangun kepercayaan terhadap AI sebagai alat yang bertanggung jawab untuk memenuhi kebutuhan manusia yang kompleks.
