Berita

Presiden AS Joe Biden/Net

Tekno

ElevenLabs Tangguhkan Akun Pembuat Suara Palsu Presiden Joe Biden

SENIN, 29 JANUARI 2024 | 10:30 WIB | LAPORAN: RENI ERINA

Perusahaan ElevenLabs menangguhkan pembuat audio deepfake yang menampilkan Presiden AS Joe Biden yang mendesak masyarakat untuk tidak memilih pada pemilihan pendahuluan di New Hampshire.

Kasus penggunaan teknologi ElevenLabs untuk membuat audio deepfake diungkapkan Pindrop Security, sebuah perusahaan pendeteksi penipuan suara setelah mereka menganalisisnya.

"ElevenLabs diberitahu minggu ini tentang temuan Pindrop dan sedang menyelidikinya," kata sumber yang mengetahui masalah tersebut, seperti dikutip dari Bloomberg, Senin (29/1).


"Setelah deepfake dilacak ke pembuatnya, akun pengguna tersebut ditangguhkan," kata orang tersebut, yang meminta untuk tidak disebutkan namanya karena informasi tersebut tidak bersifat publik.

ElevenLabs, sebuah startup yang menggunakan perangkat lunak kecerdasan buatan untuk mereplikasi suara dalam lebih dari dua lusin bahasa, mengatakan dalam sebuah pernyataan bahwa mereka tidak dapat mengomentari insiden tertentu.

"Kami berdedikasi untuk mencegah penyalahgunaan alat audio AI dan menangani setiap insiden penyalahgunaan dengan sangat serius," kata ElevenLabs.

Awal pekan ini, ElevenLabs mengumumkan putaran pembiayaan 80 juta dolar AS dari investor termasuk Andreessen Horowitz dan Sequoia Capital.  Chief Executive Officer Mati Staniszewski mengatakan pendanaan terbaru ini memberikan valuasi startupnya sebesar 1,1 miliar miliar dolar AS.

Dalam sebuah wawancara minggu lalu, Staniszewski mengatakan bahwa audio yang meniru suara tanpa izin akan dihapus.  

Di situs webnya, perusahaan tersebut mengatakan bahwa mereka mengizinkan kloning suara tokoh masyarakat, seperti politisi, jika klip tersebut mengekspresikan humor atau ejekan dengan cara yang jelas bagi pendengar bahwa apa yang mereka dengar adalah parodi.

Pernyataan palsu Biden yang mendesak masyarakat untuk menyimpan suara mereka untuk pemilu AS pada bulan November telah mengkhawatirkan para ahli disinformasi dan pejabat pemilu.  

Hal ini tidak hanya menggambarkan kemudahan dalam membuat audio deepfake, namun juga mengisyaratkan potensi pelaku kejahatan menggunakan teknologi ini untuk menjauhkan pemilih dari tempat pemungutan suara.

Siwei Lyu, seorang profesor di University of Buffalo yang berspesialisasi dalam deepfake dan forensik media digital, juga menganalisis salinan deepfake tersebut dan menjalankannya melalui pengklasifikasi ElevenLabs, dan menyimpulkan bahwa salinan tersebut kemungkinan dibuat dengan perangkat lunak perusahaan tersebut.

Lyu mengatakan pengklasifikasi ElevenLabs adalah salah satu pengklasifikasi pertama yang dia periksa saat mencoba menentukan asal audio deepfake karena perangkat lunak tersebut sangat umum digunakan.

“Kita akan melihat lebih banyak hal seperti ini menjelang pemilu,” katanya.

“Ini jelas merupakan masalah yang harus diwaspadai semua orang," demikian Lyu.

Populer

Panglima TNI Bantah Seskab Teddy Diperiksa Polisi Militer

Sabtu, 07 November 2026 | 09:32

Upaya Makar Geng Solo

Sabtu, 07 November 2026 | 05:07

Jokowi Sumber Masalah Bangsa

Minggu, 08 November 2026 | 08:43

Kapolri Suyudi Berpeluang dapat Serangan Balik

Jumat, 06 November 2026 | 04:27

Grace Natalie Ditantang Pilih PSI atau Komisaris BUMN

Senin, 09 November 2026 | 23:02

Fahd A Rafiq Akui Dimintai Uang Rp70 Miliar, Sebut Dana Talangan Muktamar NU

Selasa, 10 November 2026 | 20:53

Dituntut Ketegasan Danantara soal Dugaan Rangkap Jabatan Grace Natalie

Sabtu, 14 November 2026 | 20:04

UPDATE

Awas! Pengisian Jabatan Wapres Jadi Transaksi Politik Elite

Senin, 16 November 2026 | 02:25

Tantangan Pemerintahan Prabowo Makin Kompleks Usai Gibran Mundur

Senin, 16 November 2026 | 02:01

Ancaman Tsunami dan Anak Krakatau Bukan Alasan Pindahkan Badak Jawa

Senin, 16 November 2026 | 01:44

Gibran Lari dari Pemakzulan DPR

Senin, 16 November 2026 | 01:17

Dirjen Bina Keuda Fatoni Raih Anugerah Penggerak Transformasi Digital 2026

Senin, 16 November 2026 | 01:01

HUT ke-15 Partai Nasdem Diisi Aksi Nyata untuk Kemanusiaan

Senin, 16 November 2026 | 00:45

Persoalan Hukum Gibran Belum Selesai, Jangan Buru-buru Cari Cawapres

Senin, 16 November 2026 | 00:32

Manuver Senyap Prabowo di Balik Mundurnya Gibran

Senin, 16 November 2026 | 00:15

Piala Eman-Yoshua 2026 Jadi Ajang Seleksi Talenta Muda

Senin, 16 November 2026 | 00:02

Kompetensi dan Profesionalisme Perawat Mendesak Ditingkatkan

Minggu, 15 November 2026 | 23:49

Selengkapnya