LANGGAMPOS.COM – Platform media sosial milik Meta kembali terjerat skandal serius terkait perlindungan anak.
Sebuah investigasi mendalam yang dirilis oleh BBC mengungkap bahwa Instagram diduga meraup keuntungan finansial dari peredaran material kekerasan seksual pada anak di India melalui sistem periklanan mereka.
Kasus ini mencuat di tengah keputusan kontroversial raksasa teknologi tersebut yang memangkas tim moderator manusia dan mengalihkan tugas pengawasan sepenuhnya kepada kecerdasan buatan (Artificial Intelligence/AI).
Dalam laporan investigasi terbaru tersebut, ditemukan bahwa sistem iklan Instagram meloloskan promosi yang secara vulgar menggunakan kata kunci sensitif, seperti "video pemerkosaan" dan "video anak."
Iklan-iklan ini mengarahkan pengguna ke tautan luar menuju kanal Telegram, tempat material ilegal tersebut diperjualbelikan dengan harga mulai dari US$ 1 atau sekitar Rp17.000.
Kasus ini mencuat di tengah keputusan kontroversial raksasa teknologi tersebut yang memangkas tim moderator manusia dan mengalihkan tugas pengawasan sepenuhnya kepada kecerdasan buatan (Artificial Intelligence/AI).
Dalam laporan investigasi terbaru tersebut, ditemukan bahwa sistem iklan Instagram meloloskan promosi yang secara vulgar menggunakan kata kunci sensitif, seperti "video pemerkosaan" dan "video anak."
Iklan-iklan ini mengarahkan pengguna ke tautan luar menuju kanal Telegram, tempat material ilegal tersebut diperjualbelikan dengan harga mulai dari US$ 1 atau sekitar Rp17.000.
Kegagalan Total Sistem Moderasi AI Meta
Temuan ini menjadi bukti kuat bahwa sistem AI yang diandalkan Meta gagal total dalam membendung peredaran konten terlarang.
Langkah efisiensi perusahaan yang mengganti tenaga kerja manusia dengan algoritma terbukti tidak lebih baik, bahkan memperburuk pengawasan ruang digital.
Mantan Wakil Presiden Facebook, Brian Boland, memberikan kesaksian bawaan yang mengonfirmasi cacat desain pada sistem tersebut.
Kepada BBC, Boland memaparkan bahwa algoritma Instagram pada dasarnya dirancang untuk mengejar keterlibatan (engagement) demi memaksimalkan keuntungan finansial perusahaan, bukan untuk menyaring konten berbahaya.
"Yang menyedihkan dan tragis selama ini, trade-off [pertimbangan pertukaran] antara pendapatan dan pengalaman pengguna selalu menjadi pembicaraan," kata Boland.
Skandal ini langsung memicu gelombang desakan dari otoritas hukum di Asia Selatan.
Kementerian Elektronik dan Teknologi Informasi India merespons keras temuan ini dengan memerintahkan Meta untuk segera mematikan seluruh iklan dan promosi yang berafiliasi dengan jaringan kekerasan seksual pada anak.
Menanggapi tuntutan tersebut, perwakilan korporasi yang dipimpin Mark Zuckerberg ini menyatakan telah mengambil tindakan penertiban pasca-laporan diterbitkan.
"Tidak ada sistem yang sempurna dan proses review kami tidak mendeteksi pelanggaran kebijakan," ujar juru bicara Meta secara tertulis kepada BBC. Pihak perusahaan mengklaim telah menonaktifkan iklan bermasalah dan melakukan suspensi massal terhadap akun-akun yang terlibat.
Krisis pembiaran konten berbahaya ini bukan pertama kalinya menimpa perusahaan induk Facebook dan WhatsApp tersebut.
Langkah efisiensi perusahaan yang mengganti tenaga kerja manusia dengan algoritma terbukti tidak lebih baik, bahkan memperburuk pengawasan ruang digital.
Mantan Wakil Presiden Facebook, Brian Boland, memberikan kesaksian bawaan yang mengonfirmasi cacat desain pada sistem tersebut.
Kepada BBC, Boland memaparkan bahwa algoritma Instagram pada dasarnya dirancang untuk mengejar keterlibatan (engagement) demi memaksimalkan keuntungan finansial perusahaan, bukan untuk menyaring konten berbahaya.
"Yang menyedihkan dan tragis selama ini, trade-off [pertimbangan pertukaran] antara pendapatan dan pengalaman pengguna selalu menjadi pembicaraan," kata Boland.
Reaksi Keras Pemerintah India dan Tanggapan Meta
Skandal ini langsung memicu gelombang desakan dari otoritas hukum di Asia Selatan.
Kementerian Elektronik dan Teknologi Informasi India merespons keras temuan ini dengan memerintahkan Meta untuk segera mematikan seluruh iklan dan promosi yang berafiliasi dengan jaringan kekerasan seksual pada anak.
Menanggapi tuntutan tersebut, perwakilan korporasi yang dipimpin Mark Zuckerberg ini menyatakan telah mengambil tindakan penertiban pasca-laporan diterbitkan.
"Tidak ada sistem yang sempurna dan proses review kami tidak mendeteksi pelanggaran kebijakan," ujar juru bicara Meta secara tertulis kepada BBC. Pihak perusahaan mengklaim telah menonaktifkan iklan bermasalah dan melakukan suspensi massal terhadap akun-akun yang terlibat.
Rekam Jejak Hukum Meta di Pengadilan Global
Krisis pembiaran konten berbahaya ini bukan pertama kalinya menimpa perusahaan induk Facebook dan WhatsApp tersebut.
Di Amerika Serikat, rekam jejak digital Meta terkait isu serupa sudah berada di bawah radar hukum pidana yang ketat.
Dalam persidangan di New Mexico, Meta telah dinyatakan bersalah atas dakwaan manipulasi publik mengenai tingkat keselamatan pengguna anak di bawah umur.
Pada Maret lalu, dewan juri pengadilan setempat menyatakan perusahaan membiarkan material ilegal beredar luas, bahkan menyimpulkan bahwa ekosistem mereka telah beralih fungsi menjadi pasar gelap digital (marketplace) untuk sindikat perdagangan anak (trafficking).
Jaksa Agung New Mexico, Raul Torrez, memberikan pernyataan menohok mengenai pengabaian sistematis yang dilakukan oleh jajaran eksekutif tertinggi perusahaan teknologi tersebut.
"Bos di Meta tahu bahwa produk mereka berdampak buruk pada anak, tidak menghiraukan peringatan dari pegawai sendiri, dan berbohong ke publik," tegas Raul Torrez.
Hingga saat ini, tekanan publik global terus meningkat menuntut Meta melakukan reformasi total pada sistem moderasi konten dan mengembalikan peran pengawas manusia demi mencegah eksploitasi anak di ruang siber.
#FAQ:
Investigasi BBC menemukan bahwa Instagram menerima pembayaran dari iklan yang mempromosikan konten kekerasan seksual pada anak di India. Iklan tersebut memuat kata kunci seperti "video pemerkosaan" dan mengarahkan pengguna ke kanal Telegram untuk transaksi konten ilegal.
Kegagalan ini terjadi setelah Meta menghapus tim moderator manusia dan menggantikannya dengan sistem AI. Selain itu, mantan petinggi Facebook menyatakan bahwa algoritma Instagram dirancang untuk memaksimalkan keuntungan pendapatan perusahaan, bukan memblokir konten.
Kementerian Elektronik dan Teknologi Informasi India bergerak cepat dengan memerintahkan Meta untuk segera mematikan semua bentuk iklan dan promosi yang berkaitan dengan materi kekerasan seksual anak di platform mereka.
Meta berdalih bahwa tidak ada sistem pengawasan yang sempurna sehingga proses tinjauan mereka meloloskan pelanggaran tersebut. Namun, mereka menyatakan telah menonaktifkan iklan yang dimaksud dan menyuspensi akun-akun pengiklan terkait.
Di New Mexico, AS, Meta dinyatakan bersalah karena membohongi publik terkait tingkat keselamatan anak di platformnya. Pengadilan menyatakan Meta membiarkan konten eksploitasi anak beredar luas hingga platformnya dicap menyerupai marketplace untuk trafficking anak.
Dalam persidangan di New Mexico, Meta telah dinyatakan bersalah atas dakwaan manipulasi publik mengenai tingkat keselamatan pengguna anak di bawah umur.
Pada Maret lalu, dewan juri pengadilan setempat menyatakan perusahaan membiarkan material ilegal beredar luas, bahkan menyimpulkan bahwa ekosistem mereka telah beralih fungsi menjadi pasar gelap digital (marketplace) untuk sindikat perdagangan anak (trafficking).
Jaksa Agung New Mexico, Raul Torrez, memberikan pernyataan menohok mengenai pengabaian sistematis yang dilakukan oleh jajaran eksekutif tertinggi perusahaan teknologi tersebut.
"Bos di Meta tahu bahwa produk mereka berdampak buruk pada anak, tidak menghiraukan peringatan dari pegawai sendiri, dan berbohong ke publik," tegas Raul Torrez.
Hingga saat ini, tekanan publik global terus meningkat menuntut Meta melakukan reformasi total pada sistem moderasi konten dan mengembalikan peran pengawas manusia demi mencegah eksploitasi anak di ruang siber.
#FAQ:
1. Apa temuan utama dari investigasi BBC terkait Instagram?
Investigasi BBC menemukan bahwa Instagram menerima pembayaran dari iklan yang mempromosikan konten kekerasan seksual pada anak di India. Iklan tersebut memuat kata kunci seperti "video pemerkosaan" dan mengarahkan pengguna ke kanal Telegram untuk transaksi konten ilegal.
2. Mengapa sistem moderasi Meta gagal menyaring iklan berbahaya tersebut?
Kegagalan ini terjadi setelah Meta menghapus tim moderator manusia dan menggantikannya dengan sistem AI. Selain itu, mantan petinggi Facebook menyatakan bahwa algoritma Instagram dirancang untuk memaksimalkan keuntungan pendapatan perusahaan, bukan memblokir konten.
3. Bagaimana respons pemerintah India terhadap kasus ini?
Kementerian Elektronik dan Teknologi Informasi India bergerak cepat dengan memerintahkan Meta untuk segera mematikan semua bentuk iklan dan promosi yang berkaitan dengan materi kekerasan seksual anak di platform mereka.
4. Apa pembelaan resmi dari pihak Meta?
Meta berdalih bahwa tidak ada sistem pengawasan yang sempurna sehingga proses tinjauan mereka meloloskan pelanggaran tersebut. Namun, mereka menyatakan telah menonaktifkan iklan yang dimaksud dan menyuspensi akun-akun pengiklan terkait.
5. Kasus hukum apa yang dihadapi Meta di Amerika Serikat terkait isu perlindungan anak?
Di New Mexico, AS, Meta dinyatakan bersalah karena membohongi publik terkait tingkat keselamatan anak di platformnya. Pengadilan menyatakan Meta membiarkan konten eksploitasi anak beredar luas hingga platformnya dicap menyerupai marketplace untuk trafficking anak.
Hashtag:
