Percobaan Mengejutkan Pegawai Facebook di India: Algoritma Tuntun Pengguna kepada Konten Menghasut

Grup yang disarankan algoritma Facebook dipenuhi berita palsu, seruan anti-Pakistan, dan konten Islamofobik. Banyak dari konten-konten itu menunjukkan kekerasan ekstrem.

Salah satu unggahan menampilkan penggalan kepala yang dibalut bendera Pakistan, dengan bendera India menutupi sebagian darinya.

“Menyusul news feed yang dihasilkan tes pengguna ini, saya melihat lebih banyak gambar orang mati selama tiga pekan dibanding seumur hidup saya,” tulis pegawai tersebut.

“Haruskah kita, sebagai perusahaan, memiliki tanggung jawab ekstra untuk mencegah rusaknya integritas (perusahaan) akibat rekomendasi konten?” tanya pegawai itu dalam kesimpulan percobaannya.

Para pegawai Facebook dilaporkan sadar bahwa terdapat “titik buta” terkait ujaran kebencian dan algoritma Facebook, khususnya dalam hal moderasi konten “berbahasa lokal” (non-Inggris).

Percobaan sederhana pegawai itu memang tidak bisa dijadikan representasi kerja algoritma Facebook. Namun, percobaan ini menunjukkan bagaimana konten “tak termoderasi” bisa membeludak pada situasi tertentu.

Facebook sendiri berjanji akan membenahi sistem moderasi mereka di India. Mereka mengaku hendak mengembangkan moderasi bagi konten-konten dalam empat bahasa yang digunakan di India.

Baca Juga: India Tuntut Kompensasi dan Pembayaran dari Negara Kaya atas Dampak Perubahan Iklim

 

Penulis : Ikhsan Abdul Hakim Editor : Hariyanto-Kurniawan

Sumber : Associated Press