Ilustrasi (Artificial Intelligence)
Tiga orang tua yang anaknya meninggal atau dirawat di rumah sakit setelah berinteraksi dengan chatbot kecerdasan buatan (AI) mendesak Kongres Amerika Serikat untuk membuat aturan ketat.
Mereka hadir dalam sidang Senat pada Selasa, 16 September 2025, yang membahas bahaya penggunaan chatbot bagi anak-anak.
“Chatbot membutuhkan rasa moralitas yang tertanam di dalamnya,” kata Matthew Raine, yang menggugat OpenAI setelah putranya Adam bunuh diri di California usai menerima instruksi terperinci tentang cara melukai diri sendiri dari ChatGPT, dikutip dari Reuters, Rabu 17 September 2025.
“Masalahnya sistemik, dan saya yakin mereka bisa memperbaikinya,” ujarnya, seraya menambahkan bahwa ChatGPT dengan cepat menutup jalur percakapan lain yang tidak melibatkan tindakan menyakiti diri sendiri.
OpenAI menanggapi dengan menyatakan akan meningkatkan perlindungan ChatGPT, yang dinilai bisa menjadi kurang andal dalam interaksi panjang. Perusahaan itu mengatakan akan mulai memprediksi usia pengguna agar anak-anak diarahkan ke versi chatbot yang lebih aman.
Sidang dipimpin Senator Josh Hawley dari Partai Republik. Bulan lalu, ia meluncurkan investigasi terhadap Meta setelah laporan Reuters menyebut kebijakan internal perusahaan itu memungkinkan chatbot mereka “melibatkan anak dalam percakapan yang romantis atau sensual.”
“Meta diundang untuk bersaksi di sidang tersebut dan menolak,” kata kantor Hawley.
Meta sendiri menyebut laporan itu keliru dan menegaskan bahwa contoh yang disebut Reuters telah dihapus.
Megan Garcia, yang menggugat Character.AI atas interaksi yang menurutnya menyebabkan putranya, Sewell, bunuh diri, juga bersaksi di sidang.
“Kongres dapat memulai dengan regulasi untuk mencegah perusahaan menguji produk pada anak-anak kita,” kata Garcia.
“Kongres harus melarang perusahaan mengizinkan chatbot terlibat dalam percakapan romantis atau sensual dengan anak-anak, dan memerlukan verifikasi usia, pengujian keselamatan, dan protokol krisis," tambahnya.
Seorang perempuan dari Texas, yang menggunakan nama samaran, juga bersaksi setelah putranya dirawat di rumah sakit akibat interaksi dengan chatbot. Kasusnya dialihkan ke jalur arbitrase atas permintaan perusahaan.
Pada Senin, Character.AI kembali digugat, kali ini di Colorado, oleh orang tua anak berusia 13 tahun yang meninggal karena bunuh diri pada 2023.
