Presiden AS Joe Biden/Net
Perusahaan ElevenLabs menangguhkan pembuat audio deepfake yang menampilkan Presiden AS Joe Biden yang mendesak masyarakat untuk tidak memilih pada pemilihan pendahuluan di New Hampshire.
Kasus penggunaan teknologi ElevenLabs untuk membuat audio deepfake diungkapkan Pindrop Security, sebuah perusahaan pendeteksi penipuan suara setelah mereka menganalisisnya.
"ElevenLabs diberitahu minggu ini tentang temuan Pindrop dan sedang menyelidikinya," kata sumber yang mengetahui masalah tersebut, seperti dikutip dari
Bloomberg, Senin (29/1).
"Setelah deepfake dilacak ke pembuatnya, akun pengguna tersebut ditangguhkan," kata orang tersebut, yang meminta untuk tidak disebutkan namanya karena informasi tersebut tidak bersifat publik.
ElevenLabs, sebuah startup yang menggunakan perangkat lunak kecerdasan buatan untuk mereplikasi suara dalam lebih dari dua lusin bahasa, mengatakan dalam sebuah pernyataan bahwa mereka tidak dapat mengomentari insiden tertentu.
"Kami berdedikasi untuk mencegah penyalahgunaan alat audio AI dan menangani setiap insiden penyalahgunaan dengan sangat serius," kata ElevenLabs.
Awal pekan ini, ElevenLabs mengumumkan putaran pembiayaan 80 juta dolar AS dari investor termasuk Andreessen Horowitz dan Sequoia Capital. Chief Executive Officer Mati Staniszewski mengatakan pendanaan terbaru ini memberikan valuasi startupnya sebesar 1,1 miliar miliar dolar AS.
Dalam sebuah wawancara minggu lalu, Staniszewski mengatakan bahwa audio yang meniru suara tanpa izin akan dihapus.
Di situs webnya, perusahaan tersebut mengatakan bahwa mereka mengizinkan kloning suara tokoh masyarakat, seperti politisi, jika klip tersebut mengekspresikan humor atau ejekan dengan cara yang jelas bagi pendengar bahwa apa yang mereka dengar adalah parodi.
Pernyataan palsu Biden yang mendesak masyarakat untuk menyimpan suara mereka untuk pemilu AS pada bulan November telah mengkhawatirkan para ahli disinformasi dan pejabat pemilu.
Hal ini tidak hanya menggambarkan kemudahan dalam membuat audio deepfake, namun juga mengisyaratkan potensi pelaku kejahatan menggunakan teknologi ini untuk menjauhkan pemilih dari tempat pemungutan suara.
Siwei Lyu, seorang profesor di University of Buffalo yang berspesialisasi dalam deepfake dan forensik media digital, juga menganalisis salinan deepfake tersebut dan menjalankannya melalui pengklasifikasi ElevenLabs, dan menyimpulkan bahwa salinan tersebut kemungkinan dibuat dengan perangkat lunak perusahaan tersebut.
Lyu mengatakan pengklasifikasi ElevenLabs adalah salah satu pengklasifikasi pertama yang dia periksa saat mencoba menentukan asal audio deepfake karena perangkat lunak tersebut sangat umum digunakan.
“Kita akan melihat lebih banyak hal seperti ini menjelang pemilu,” katanya.
“Ini jelas merupakan masalah yang harus diwaspadai semua orang," demikian Lyu.
