Setelah bertahun-tahun mendapat kritik terkait penanganannya terhadap krisis kesehatan mental remaja, Instagram telah berinvestasi besar-besaran untuk meningkatkan fitur keselamatan bagi pengguna remaja.
Termasuk memperkenalkan cara baru bagi pengguna di bawah umur untuk mengunggah, berkomunikasi, dan berselancar di aplikasi. Namun, pengujian terbaru terhadap fitur-fitur baru ini menunjukkan bahwa upaya tersebut mungkin masih belum cukup.
Menurut hasil investigasi dari organisasi nirlaba yang dipimpin oleh kaum muda, Design It For Us, bersama lembaga pengawas Accountable Tech, yang kemudian dikonfirmasi oleh kolumnis Washington Post, Geoffrey Fowler, platform ini tetap menampilkan konten yang tidak pantas untuk usia remaja, termasuk konten seksual eksplisit dan materi berbahaya lainnya, meskipun sudah ada perlindungan pengendalian konten.
Dalam studi tersebut, perwakilan berusia Gen-Z dari Design It For Us menguji lima akun palsu remaja dengan pengaturan default Akun Remaja selama dua minggu. Dalam semua kasus, akun-akun tersebut tetap direkomendasikan konten sensitif dan seksual.
Empat dari lima akun menerima rekomendasi konten terkait citra tubuh yang buruk dan gangguan makan. Hanya satu akun yang algoritmanya menampilkan konten yang dianggap “edukatif” oleh organisasi tersebut.
Algoritma juga merekomendasikan deskripsi penggunaan zat ilegal, dan unggahan seksual eksplisit yang menggunakan bahasa gaul atau kode populer berhasil lolos dari filter. Namun, tidak semua perlindungan gagal, misalnya pembatasan bawaan untuk fitur perpesanan dan penandaan (tagging) tetap berfungsi.
“Temuan ini menunjukkan bahwa Meta belum benar-benar menciptakan lingkungan daring yang aman seperti yang diklaim kepada orang tua dan pembuat undang-undang,” tulis laporan tersebut.
“Para pembuat kebijakan harus mendorong Meta untuk mempublikasikan data mengenai Akun Remaja agar regulator dan organisasi nirlaba dapat menilai apakah remaja benar-benar terlindungi saat menggunakan Instagram.”
Menanggapi laporan tersebut kepada Washington Post, juru bicara Meta, Liza Crenshaw, mengatakan bahwa cakupan tes tersebut terlalu terbatas sehingga tidak mencerminkan dampak sebenarnya dari fitur keselamatan Instagram.
“Sebuah laporan yang dibuat-buat tidak mengubah fakta bahwa puluhan juta remaja kini memiliki pengalaman yang lebih aman berkat Akun Remaja Instagram. Laporannya cacat, namun jika pun dianggap valid, hanya mengidentifikasi 61 konten yang dianggap ‘sensitif’, kurang dari 0,3 persen dari seluruh konten yang kemungkinan besar dilihat oleh peneliti selama pengujian.”
Masalah yang Terus Berlanjut di Seluruh Platform
Eksperimen yang dilakukan Wall Street Journal dan Northeastern University pada Juni 2024 menemukan bahwa akun anak di bawah umur sering kali direkomendasikan konten seksual eksplisit dan grafis dalam fitur video Reels, meskipun akun-akun tersebut secara otomatis telah diatur ke pengaturan konten paling ketat.
Fenomena ini merupakan masalah algoritma yang telah diketahui oleh perusahaan induk, Meta. Berdasarkan dokumen internal, para karyawan sudah menandai masalah ini dalam tinjauan keamanan sejak 2021.
Sebagai tanggapan, pihak Instagram menyatakan bahwa eksperimen tersebut tidak mencerminkan bagaimana remaja sebenarnya menggunakan aplikasinya.
Pada saat itu, Instagram belum meluncurkan produk andalan terbarunya, Akun Remaja, yang diperkenalkan sebagai cara baru dan lebih diawasi bagi pengguna muda untuk eksis dan memposting secara online, termasuk kontrol konten yang lebih kuat.
Pengguna di bawah umur secara otomatis dimasukkan ke dalam Akun Remaja saat mendaftar Instagram, yang secara default mengatur akun menjadi privat, membatasi kemampuan berkirim pesan dan siaran langsung, serta menyaring konten sensitif dari feed dan pesan.
Remaja usia 13-15 tahun bahkan mendapatkan batasan yang lebih ketat dalam penggunaan aplikasi, dan akun-akun yang luput kini mulai dikenali dan ditandai oleh AI internal Meta.
Menurut Meta, lebih dari 54 juta remaja telah dipindahkan ke Akun Remaja sejak peluncuran awal, dan sebagian besar pengguna di bawah usia 16 tetap menggunakan pengaturan keamanan yang lebih ketat secara default.
Meski angka ini menunjukkan perubahan positif, CEO Meta Mark Zuckerberg sendiri mengakui bahwa ada batasan dalam kemampuan perusahaan untuk mengawasi basis pengguna yang sangat besar dan algoritma yang kompleks.
