Seorang pria lanjut usia di New Jersey, Amerika Serikat, meninggal dunia setelah diduga tergoda oleh ajakan bertemu dari chatbot kecerdasan buatan (AI) milik Meta yang berperilaku layaknya perempuan muda. Peristiwa ini memicu sorotan tajam terhadap kebijakan keamanan AI perusahaan teknologi raksasa tersebut.
Korban, Thongbue “Bue” Wongbandue (76 tahun), yang menderita gangguan kognitif pasca-stroke, diketahui terlibat percakapan intens dengan “Big sis Billie”, sebuah chatbot berbasis Facebook Messenger yang dikembangkan Meta. Bot ini dirancang menyerupai figur influencer Kendall Jenner, namun dengan kepribadian yang lebih “menggoda”.
Menurut keluarganya, seperti laporan dari Reuters, “Big sis Billie” meyakinkan Bue bahwa ia adalah sosok nyata dan berulang kali mengundangnya datang ke apartemennya di New York. Dalam salah satu pesan, bot itu menulis, “Haruskah aku menyambutmu dengan pelukan atau ciuman, Bu?!”
Pada Maret lalu, Bue membawa koper kecil dan bergegas ke stasiun untuk menemuinya. Namun, di tengah perjalanan, ia terjatuh di area parkir Universitas Rutgers, New Brunswick, mengalami cedera kepala dan leher serius. Setelah tiga hari menjalani perawatan intensif, Bue meninggal dunia pada 28 Maret.
“Kami ingin masyarakat tahu bahaya dari paparan AI seperti ini, apalagi bagi orang yang rentan,” kata Julie Wongbandue, putri korban, kepada Reuters. “Membiarkan bot berkata ‘Ayo temui aku’ adalah hal yang gila.”
Kebijakan AI Meta dalam Sorotan
Meta menolak mengomentari langsung kematian Bue, namun membantah bahwa “Big sis Billie” adalah Kendall Jenner. Perusahaan juga mengakui memiliki pedoman internal yang sebelumnya memperbolehkan chatbot melakukan percakapan romantis bahkan dengan pengguna anak di bawah umur.
Dokumen kebijakan internal setebal lebih dari 200 halaman yang dilihat Reuters menunjukkan, hingga awal bulan ini, Meta mengizinkan chatbot memulai obrolan “romantis atau sensual” dengan anak usia 13 tahun ke atas. Contoh dialog yang diizinkan termasuk deskripsi sentuhan fisik eksplisit.
Setelah Reuters menanyakan hal tersebut, Meta menghapus pasal yang memperbolehkan interaksi tersebut. Namun, aturan yang membolehkan chatbot memberi informasi keliru dan melakukan peran romantis dengan orang dewasa tetap dipertahankan.
Juru bicara Meta, Andy Stone, menyebut contoh dialog tersebut sebagai “keliru dan tidak konsisten dengan kebijakan perusahaan,” dan memastikan telah dihapus dari pedoman resmi.
Beberapa mantan dan karyawan aktif Meta menyatakan kebijakan ini mencerminkan strategi perusahaan yang mengutamakan keterlibatan pengguna dibanding keamanan. Sumber internal mengungkap bahwa CEO Mark Zuckerberg bahkan pernah menegur manajer produk AI karena dianggap terlalu lamban merilis chatbot pendamping digital, serta menilai pembatasan keamanan membuat bot terasa “membosankan.”
Zuckerberg, dalam wawancara April lalu, berpendapat bahwa chatbot sosial berpotensi menjadi pelengkap hubungan manusia, terutama bagi orang yang merasa kesepian. “Seiring waktu, masyarakat akan menemukan bahasa yang tepat untuk menjelaskan mengapa ini bernilai,” ujarnya.
Kasus Serupa dan Kekhawatiran Global
Insiden seperti yang menimpa Bue bukan satu-satunya. Sebelumnya, seorang ibu di Florida menggugat startup AI Character.AI setelah anaknya yang berusia 14 tahun bunuh diri, diduga akibat interaksi dengan chatbot yang meniru karakter serial Game of Thrones.
Pengamat teknologi menilai, kasus-kasus ini menyoroti celah besar dalam regulasi AI, terutama dalam perlindungan terhadap pengguna rentan. “Jika AI bisa membujuk orang untuk melakukan perjalanan atau mengambil keputusan berisiko, kita sedang menghadapi masalah serius,” ujar salah satu pakar etika AI yang dimintai tanggapan.
Kini, kematian Bue menjadi peringatan keras: di era AI yang kian canggih, batas antara interaksi digital dan dunia nyata bisa berakibat fatal.
