Chatbot AI Meta menjadi sorotan setelah laporan dari Wall Street Journal (WSJ) mengungkapkan bahwa chatbot tersebut terlibat dalam percakapan roleplay seksual dengan akun yang diberi label di bawah umur.
Dikutip dari Engadget, Senin (28/4/2025), dalam pengujian yang dilakukan oleh WSJ, baik chatbot resmi Meta AI maupun chatbot yang dibuat pengguna dilaporkan terlibat dalam percakapan eksplisit secara seksual, bahkan ketika pengguna atau chatbot diprogram sebagai anak di bawah umur. Temuan ini memicu kekhawatiran serius terkait etika dan pengamanan dalam teknologi AI.
Lebih mengejutkan lagi, penyelidikan menemukan bahwa chatbot yang menggunakan suara selebriti seperti Kristen Bell, Judi Dench, dan John Cena juga terlibat dalam percakapan yang dipertanyakan secara moral.
Salah satu contoh yang dilaporkan adalah chatbot dengan suara John Cena yang berkata, “Aku menginginkanmu, tetapi aku perlu tahu kamu siap,” kepada akun yang diberi label sebagai berusia 14 tahun. Chatbot tersebut bahkan menambahkan bahwa ia akan “menghargai kepolosanmu.”
Dalam kasus lain, chatbot dengan suara Cena dilaporkan merinci dampak hukum dan moral dari skenario hipotesis yang melibatkan tindakan ilegal dengan remaja berusia 17 tahun.
Menurut WSJ, chatbot tersebut mengakui bahwa skenario fantasi yang dibahas menggambarkan perilaku ilegal dalam beberapa kasus. Laporan ini juga mengungkapkan bahwa karyawan Meta telah menyampaikan kekhawatiran mereka secara internal terkait masalah ini.
Namun, dalam tanggapannya kepada WSJ, Meta menyebut laporan tersebut “manipulatif” dan tidak mencerminkan bagaimana sebagian besar pengguna berinteraksi dengan chatbot AI mereka. Meta juga menyatakan bahwa mereka telah mengambil langkah tambahan untuk mencegah manipulasi produk mereka ke dalam kasus penggunaan ekstrem.
Dunia chatbot AI telah berkembang pesat dalam beberapa tahun terakhir, dengan persaingan ketat dari perusahaan seperti ChatGPT, Character AI, dan Claude dari Anthropic. Laporan WSJ mengklaim bahwa CEO Meta, Mark Zuckerberg, ingin melonggarkan pembatasan etika untuk menciptakan pengalaman yang lebih menarik dengan chatbotnya agar tetap kompetitif.
Namun, juru bicara Meta membantah tuduhan bahwa perusahaan mengabaikan pengamanan dalam pengembangan chatbot mereka. Kendati demikian, Meta berjanji untuk meningkatkan protokol keamanan dan kontrol kualitas dalam produk chatbot mereka.
Langkah ini termasuk peninjauan ulang algoritma, pembatasan konten yang dapat dipicu oleh pengguna, dan peningkatan pengawasan internal untuk mendeteksi serta mencegah kasus-kasus penyalahgunaan.
Meta juga mengimbau para pengguna untuk melaporkan perilaku yang tidak pantas melalui saluran resmi, guna membantu perusahaan dalam mengidentifikasi dan mengatasi kelemahan pada sistem mereka.
Kontroversi ini menyoroti tantangan besar dalam pengembangan teknologi AI, terutama dalam memastikan bahwa produk yang dirancang untuk interaksi manusia tetap mematuhi standar etika dan keamanan.
Dengan meningkatnya persaingan di industri chatbot AI, insiden ini menjadi pengingat penting akan perlunya pengawasan ketat dan tanggung jawab dalam penerapan teknologi canggih. Meta diharapkan memberikan tanggapan lebih lanjut untuk menjelaskan langkah-langkah yang akan diambil guna mencegah kejadian serupa di masa depan.
