Dewan Pengawas Meta Perketat Aturan Gambar Eksplisit yang Dihasilkan AI

Meskipun peraturan Meta sudah melarang pornografi di Facebook dan Instagram, dewan mengatakan dalam sebuah pernyataan bahwa mereka ingin membahas apakah kebijakan Meta dan praktik penegakannya efektif dalam menangani gambar eksplisit yang dihasilkan AI.

Salah satu kasus yang diajukan melibatkan postingan Instagram yang menunjukkan gambar seorang wanita  telanjang yang dibuat oleh AI yang menyerupai tokoh masyarakat dari India. Gambar itu diposting oleh akun yang biasanya membagikan gambar wanita India yang dihasilkan AI.

Postingan tersebut kemudian dilaporkan ke Meta tetapi laporan ditutup setelah 48 jam karena tidak ditinjau. Pengguna yang sama mengajukan banding atas keputusan tersebut, namun pengajuan banding tersebut juga ditutup dan tidak pernah ditinjau.

Meta akhirnya menghapus postingan tersebut setelah pengguna mengajukan banding ke Dewan Pengawas dan dewan setuju untuk mengambil alih kasus tersebut.

Kasus kedua melibatkan postingan Facebook di grup yang didedikasikan untuk seni AI.

Postingan tersebut menunjukkan gambar seorang wanita yang dihasilkan AI, menunjukkan dirinya telanjang dengan seorang pria meraba-raba area sensitifnya. Wanita itu dimaksudkan untuk menyerupai seorang tokoh masyarakat Amerika yang namanya juga ada di caption postingan tersebut.

Postingan tersebut dihapus secara otomatis karena telah dilaporkan sebelumnya dan sistem internal Meta dapat mencocokkannya dengan postingan sebelumnya.

Pengguna mengajukan banding atas keputusan untuk menghapusnya, tetapi pengajuan banding tersebut “ditutup secara otomatis”. Pengguna kemudian mengajukan banding ke Dewan Pengawas, yang setuju untuk mempertimbangkan kasus tersebut.

Dalam sebuah pernyataan, salah satu ketua Dewan Pengawas Helle Thorning-Schmidt mengatakan bahwa dewan tersebut menangani dua kasus dari negara berbeda untuk menilai potensi kesenjangan dalam bagaimana kebijakan Meta ditegakkan.

“Kami tahu bahwa Meta lebih cepat dan efektif dalam memoderasi konten di beberapa pasar dan bahasa dibandingkan pasar dan bahasa lainnya,” kata Thorning-Schmidt, seperti dikutip dari Engadget, Rabu (18/4).

“Dengan mengambil satu kasus dari AS dan satu kasus dari India, kami ingin melihat apakah Meta melindungi semua perempuan secara global dengan cara yang adil," ujarnya.

Dewan Pengawas meminta komentar publik untuk dua minggu ke depan dan akan mempublikasikan keputusannya dalam beberapa minggu ke depan, bersama dengan rekomendasi kebijakan untuk Meta.