Platform perpesanan, Telegram diduga telah digunakan para oknum untuk mendistribusikan pornografi deepfake atau pembuatan konten palsu dengan menempatkan wajah seseorang pada gambar atau video tidak senonoh menggunakan kecerdasan buatan (AI).
Kepala Biro Investigasi di Badan Kepolisian Nasional Korea, Woo Jong-soo mengatakan pihaknya mulai melancarkan penyelidikan terhadap kasus pornografi deepfake, setelah menerima 88 laporan dalam seminggu.
"Mengingat kejahatan (deepfake) ini, Badan Kepolisian Nasional Seoul meluncurkan penyelidikan mereka minggu lalu terhadap Telegram karena diduga memfasilitasi kejahatan tersebut," ungkapnya, seperti dimuat
AFP pada Senin (2/9).
Dikatakan Woo, hingga kini Telegram masih belum merespon permintaan kerjasama untuk mengusut kasus pornografi deepfake di Korea.
"Telegram tidak menanggapi permintaan kami sebelumnya untuk informasi akun selama investigasi kejahatan terkait Telegram sebelumnya," ujarnya, seraya menambahkan bahwa pihaknya berhasil mengidentifikasi 24 tersangka.
Penyelidikan Telegram dimulai setelah Pavel Durov, pendiri dan kepala Telegram, ditangkap bulan lalu di Prancis.
Milyarder berusia 39 tahun itu didakwa dengan beberapa tuduhan karena gagal mengekang konten ekstremis dan ilegal di aplikasi perpesanan populer Telegram.
Polisi Korea Selatan telah berjanji untuk menemukan cara bekerja sama dengan berbagai badan investigasi, termasuk Prancis, untuk meningkatkan investigasi mereka terhadap Telegram.
Korea Selatan tengah dilanda epidemi kejahatan seks digital, termasuk yang melibatkan kamera pengintai tersembunyi atau "Molka", dan undang-undang yang tersedia tidak memadai untuk menghukum para pelanggar.
Sebuah akun di X menyebutkan terdapat 300 sekolah di Korea Selatan, termasuk SD, SMP, SMA, dan perguruan tinggi, yang menjadi korban pornografi deepfake.
Data itu menunjukkan sebuah fakta yang mengejutkan bahwa siswa perempuan di bawah umur ditargetkan dalam pembuatan konten buatan AI berunsur pornografi.
Mengutip
Korea Times, salah satu obrolan grup pornografi deepfake beranggotakan 227 ribu anggota dan beberapa anggota diduga masih berusia belasan tahun.
Dalam grup tersebut, terdapat bot atau AI yang mampu mengedit otomatis ketika pengguna mengirimkan sebuah foto perempuan ke dalam grup itu.
Pada awalnya, bot tersebut dapat digunakan secara gratis dengan limit sebanyak dua foto. Setelahnya, pengguna wajib membayar 0,49 dolar AS (Rp6.853) dalam bentuk mata uang kripto untuk satu foto.
Cara pengguna mendapatkan foto korban cukup mudah. Mereka memanfaatkan akun media sosial dari teman, kolega, guru, dan kerabat lainnya yang berjenis kelamin perempuan.
Kemudian, mereka akan mengomentari hasil konten palsu tersebut dengan kalimat-kalimat yang merendahkan dan melecehkan perempuan.
Hal ini telah memicu kemarahan publik dan mendorong Presiden Yoon Suk Yeol mendesak para pejabat untuk menyelidiki secara menyeluruh dan menangani kejahatan seks digital ini untuk memberantasnya sepenuhnya.
