Penangkapan ini merupakan kasus pertama bagi DOJ, di tengah upaya menetapkan preseden yudisial bahwa materi yang bersifat eksploitatif tetap dilarang meskipun tidak ada sosok anak yang digunakan untuk membuatnya.
“Sederhananya, CSAM yang dihasilkan oleh AI tetaplah CSAM,” tulis Wakil Jaksa Agung Lisa Monaco dalam siaran persnya, seperti dikutip dari Engadget, Kamis (23/5).
Dalam pernyataannya, DOJ mengatakan tersangka Steven Anderegg dari Holmen yang merupakan seorang insinyur perangkat lunak berusia 42 tahun, telah menggunakan generator gambar AI sumber terbuka, Stable Diffusion untuk membuat gambar, yang kemudian ia gunakan untuk mencoba memikat anak di bawah umur ke dalam situasi seksual.
Tersangka didakwa atas empat dakwaan yaitu memproduksi, mendistribusikan, dan memiliki penggambaran visual yang tidak senonoh dari anak di bawah umur yang terlibat dalam perilaku seksual eksplisit dan mentransfer materi cabul kepada anak di bawah umur 16 tahun.
Pemerintah mengatakan gambar-gambar Anderegg menunjukkan anak-anak di bawah umur tanpa berpakaian, sedang disentuh bagian sensitifnya atau melakukan hubungan seksual dengan laki-laki dewasa.
DOJ mengklaim pihaknya menggunakan petunjuk spesifik, termasuk petunjuk negatif (panduan tambahan untuk model AI, memberi tahu model apa yang tidak boleh diproduksi) untuk memacu generator agar membuat CSAM.
Generator gambar berbasis cloud seperti Midjourney dan DALL-E 3 memiliki perlindungan terhadap jenis aktivitas ini. Namun Ars Technica melaporkan bahwa Anderegg diduga menggunakan Stable Diffusion 1.5, varian dengan batasan yang lebih sedikit. Stability AI mengatakan kepada publikasi bahwa fork diproduksi oleh Runway ML.
Menurut DOJ, Anderegg berkomunikasi secara online dengan anak laki-laki berusia 15 tahun tersebut, menjelaskan bagaimana dia menggunakan model AI untuk membuat gambar. Agensi mengatakan bahwa terdakwa mengirim pesan langsung kepada remaja tersebut di Instagram, termasuk beberapa gambar AI yang menunjukkan anak di bawah umur memperlihatkan area sensitifnya.
Instagram melaporkan gambar-gambar tersebut ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC), yang kemudian memberi tahu penegak hukum.
Atas kasus ini Andegg bisa menghadapi hukuman lima hingga 70 tahun penjara jika terbukti bersalah atas keempat tuduhan tersebut. Dia saat ini berada dalam tahanan federal.
Temukan berita-berita hangat terpercaya dari Kantor Berita Politik RMOL di Google News.
Untuk mengikuti silakan klik tanda bintang.
Seorang pria asal Winconsin ditangkap pihak Departemen Kehakiman (DOJ) AS setelah membuat dan mendistribusikan materi pelecehan seksual terhadap anak (CSAM) yang dibuat oleh teknologi AI. 
BERITA TERKAIT: