Dalam sorotan terbaru terhadap industri kecerdasan buatan, Jaksa Agung California Rob Bonta dan Jaksa Agung Delaware Kathy Jennings menyuarakan kekhawatiran serius terhadap keamanan ChatGPT, khususnya dampaknya terhadap anak-anak dan remaja.
Dikutip dari Techcrunch, Selasa (9/9/2025), melalui surat terbuka yang ditujukan kepada OpenAI, keduanya menegaskan bahwa teknologi AI yang semakin meresap ke kehidupan sehari-hari harus diimbangi dengan tanggung jawab etis dan perlindungan yang kuat bagi kelompok rentan.
Surat tersebut muncul hanya seminggu setelah Bonta bersama 44 jaksa agung lainnya mengirimkan peringatan kepada 12 perusahaan AI terkemuka.
Pemicunya adalah laporan mengganggu tentang interaksi seksual yang tidak pantas antara chatbot AI dan anak-anak, yang memicu gelombang kekhawatiran publik dan mendorong tuntutan transparansi serta reformasi sistem keamanan digital.
Dalam suratnya, Bonta dan Jennings mengungkapkan tragedi memilukan yang menimpa seorang remaja di California, yang diduga melakukan bunuh diri setelah berinteraksi intens dengan chatbot OpenAI.
Mereka juga menyinggung kasus serupa di Connecticut yang melibatkan pembunuhan-bunuh diri. Kedua insiden ini menjadi bukti nyata bahwa sistem pengamanan yang ada saat ini belum mampu mencegah dampak psikologis ekstrem yang bisa timbul dari interaksi dengan AI.
Sebagai respons terhadap situasi tersebut, Bonta dan Jennings kini tengah menyelidiki rencana restrukturisasi OpenAI menjadi entitas nirlaba.
Tujuannya adalah memastikan bahwa misi awal lembaga tersebut tetap terjaga, yakni mengembangkan kecerdasan buatan secara aman dan bertanggung jawab demi kepentingan seluruh umat manusia termasuk anak-anak yang menjadi bagian paling rentan dari ekosistem digital.
Dalam surat lanjutan mereka, kedua jaksa agung menekankan bahwa sebelum masyarakat dapat menikmati manfaat dari teknologi AI, langkah-langkah keamanan yang ketat harus diterapkan terlebih dahulu. Mereka menyatakan bahwa OpenAI dan industri AI secara umum belum berada di titik ideal dalam hal pengembangan dan penerapan produk yang aman.
Sebagai penegak hukum, mereka menegaskan bahwa keselamatan publik adalah prioritas utama, dan dialog mengenai rekapitalisasi OpenAI harus disertai dengan komitmen nyata untuk memperkuat regulasi keamanan teknologi.
Bonta dan Jennings juga meminta transparansi lebih lanjut dari OpenAI terkait sistem tata kelola dan protokol keselamatan yang saat ini diterapkan. Mereka berharap perusahaan segera mengambil tindakan korektif jika ditemukan celah atau risiko yang belum ditangani secara memadai.
Menanggapi surat tersebut, Bret Taylor selaku ketua dewan OpenAI menyampaikan belasungkawa atas tragedi yang terjadi dan menegaskan bahwa keselamatan pengguna adalah prioritas utama perusahaan.
Tak hanya itum Bret juga menyatakan komitmen OpenAI untuk terus berkolaborasi dengan pembuat kebijakan di berbagai negara demi menciptakan ekosistem AI yang lebih aman dan bertanggung jawab.
Sebagai langkah konkret, OpenAI kini tengah mengembangkan fitur kontrol orangtua yang lebih ketat serta sistem notifikasi yang memungkinkan orangtua mengetahui jika anak mereka mengalami tekanan emosional saat berinteraksi dengan chatbot.
Upaya ini menjadi bagian dari strategi perusahaan untuk memperluas perlindungan terhadap remaja di tengah pesatnya adopsi teknologi AI dalam kehidupan sehari-hari.
