Deepfake dan Kebenaran di Era Post Truth

Deepfake adalah produk manipulasi audiovisual digital yang sulit untuk dipastikan keasliannya.

Dahulu produksi video manipulasi seperti ini hanya dapat dilakukan oleh studio efek khusus Hollywood dan agensi intelijen seperti CIA, sekarang siapapun dapat membuatnya. Deepfake adalah produk dari aplikasi berbasis artificial intelligence (AI) yang mengonfigurasi media target dengan media yang ada untuk menghasilkan konstruk menyesatkan yang mampu menipu mata audiens.

Istilah deepfake berasal dari kata “deep learning” dan “fake”. Aplikasi yang paling populer dalam membuat deepfake adalah FakeApp yang tersedia secara online gratis dan memanfaatkan kerangka kerja TensorFlow Google.

Melalui FakeApp memungkinkan siapa saja dengan sedikit pengetahuan tentang machine learning (ML) untuk membuat deepfake, dengan demikian cukup banyak profesional industri hiburan dan sarjana komputer yang bisa melakukannya.

Dalam arti luas, pemalsuan yang terjadi mencakup “manipulasi digital suara, gambar, atau video untuk menyamarkan sebagai seseorang atau membuatnya tampak bahwa seseorang melakukan sesuatu”. Manipulasi ini dilakukan dengan cara yang semakin realistis, sampai pada titik dimana para pengamat tanpa bantuan teknologi tidak dapat mendeteksi yang palsu.

Ketika aplikasi berkembang menjadi senjata informasi yang lebih canggih, teknologi yang lebih maju akan mengembangkan manipulasi lebih lanjut sehingga deepfake dapat meluncurkan pembunuhan karakter terhadap tokoh-tokoh politik, memeras tokoh pemerintahan, mengalihkan perhatian media massa, mendiskreditkan lawan ideologis, menyebabkan konflik antara masyarakat, menimbulkan keraguan pada bukti yang sah, mengaburkan sumber daya penyidikan forensik atau bahkan mengambil alih narasi dengan menggantikan kenyataan dengan ilusi manipulatif.

Deepfake menggunakan AI yang dikenal sebagai deep learning. Dalam kasus deepfake, yang digunakan adalah salah satu bentuk deep learning di mana sepasang algoritma machine learning (ML) disandingkan di dalam sebuah jaringan adversarial generatif (generative adversarial networks/GAN).

Dalam jaringan itu, algoritma pertama (generator) menciptakan konten berdasarkan data sumber. Sementara algoritma kedua (discriminator) mencoba mencari konten buatan yang dibuat oleh algoritma pertama.

Semakin banyak kumpulan data, semakin mudah bagi si pemalsu untuk membuat video deepfake yang bisa dipercaya publik. Inilah sebabnya mengapa video mantan presiden dan selebritas Hollywood telah sering digunakan pada generasi pertama pemalsu, karena terdapat ribuan rekaman video yang tersedia dan bisa diakses oleh publik.

Aplikasi deepfake memanfaatkan algoritma ML, perangkat lunak pemetaan wajah dan pengambilan gambar serta video untuk secara mudah dan murah membajak wajah seseorang dan membuat narasi palsu. Wajah seseorang dapat ditukar dengan kepala orang lain, seperti video wajah Steve Buscemi dengan tubuh Jennifer Lawrence pada momen Golden Globe Awards tahun 2016.

Wajah seseorang  dapat dimanipulasi di kepala mereka sendiri, seperti video Presiden Donald Trump yang memperdebatkan kebenaran perubahan iklim, atau video CEO Facebook Mark Zuckeberg yang mengatakan dia “mengendalikan masa depan”.

Suara manusia juga dapat ditiru dengan teknologi canggih, dengan menggunakan hanya beberapa menit audio. Perusahaan Modulate AI yang berbasis di Cambridge dapat membuat “kulit suara” untuk individu yang kemudian dapat dimanipulasi untuk mengatakan apapun.

Di luar kekhawatiran tentang privasi dan pelecehan seksual, diperkirakan bahwa deepfake dapat menimbulkan ancaman besar bagi demokrasi dan keamanan suatu negara. Para hacker dapat menggunakan ML untuk membuat file gambar, audio, dan video palsu sebagai bentuk kampanye hitam kepada lawan politik. Tentu saja situasi ini menjadi ancaman keamanan siber yang merepotkan banyak negara.

Deepfake dapat digunakan untuk menghilangkan kepercayaan pada pejabat dan lembaga pemerintahan, pembunuhan karakter terhadap tokoh-tokoh politik, memperburuk konflik sosial dan memanipulasi proses pemilihan umum.

Video hasil manipulasi bisa secara salah memperlihatkan tentara membantai warga sipil, para politisi yang menerima suap, membuat pernyataan rasis, skandal seks, bertemu dengan mata-mata atau melakukan hal-hal negatif lainnya menjelang pemilihan umum.

Kontroversi mengenai deepfake menguat setelah Presiden Donald Trump menyebarkan video manipulasi melalui laman Twitter-nya. Presiden Trump diduga telah menyebarkan video yang dimanipulasi untuk menipu publik dan memicu ketegangan partisan.

Pada 23 Mei 2019, Presiden Trump men-tweet video yang menampilkan Nancy Pelosi, politisi senior Partai Demokrat, yang dimana videonya secara selektif diedit untuk menyoroti masalah kesulitan verbalnya.

“Pelosi Stammers Through News Conference”, tulis Presiden Trump dalam tweetnya, yang mendapatkan respon 31,539  retweets dan 96,868 likes (per 6 Juli 2019). Setelah dianalisis, video tersebut dimanipulasi dan memperlambat ucapan Pelosi yang memberikan kesan bahwa ia sedang mabuk atau sakit.

Segera setelah dibagikan secara online, video itu menyebar di berbagai platform, mengumpulkan jutaan komentar dan memicu desas-desus tentang kebugaran Pelosi sebagai pemimpin politik.

Segera setelah itu, YouTube mengatakan akan menghapus video, tetapi beberapa hari kemudian, salinan video masih beredar di situs tersebut. Twitter menolak untuk menghapus atau bahkan mengomentari video. Facebook juga menolak untuk menghapus video tersebut, bahkan setelah mengetahui bahwa video tersebut adalah hasil manipulasi digital.

Contoh populer lain dalam penggunaan deepfake adalah video palsu Presiden Barack Obama yang dirilis oleh komedian Jordan Peele pada 17 April 2018. Dalam video tersebut Presiden Obama mengucapkan perkataan aneh seperti “Killmonger was right” atau “President Trump is a total and complete dipsh*t”.

Jordan Peele memberikan pesan moral bahwa melalui penggunaan deepfake, siapapun dapat membuat manipulasi video tokoh politik yang membingungkan masyarakat. Tidak mudah lagi untuk mengetahui mana kenyataan dan mana yang palsu.

Deepfake menjadi menakutkan karena membiarkan wajah siapa pun dapat terkooptasi, dan meragukan kemampuan orang untuk memercayai apa yang dilihatnya.

Melalui deepfake orang-orang dapat dikorbankan secara salah dalam suatu video skandal. Bahkan jika rekaman video tersebut kemudian terbukti palsu, kerusakan pada reputasi dan nama baik korban tidak mudah untuk diperbaiki. Bahkan mungkin ada figur publik yang sepenuhnya imajiner, terlihat asli tetapi sebenarnya tidak.

Jika publik tidak dapat mendeteksi yang mana video asli dan palsu, maka publik akan tidak mempercayai apa yang dilihat dan didengar.

Internet saat ini mampu memediasi setiap aspek kehidupan manusia, dan ketidakmampuan untuk memercayai apapun yang dilihat dapat mengarah pada akhir kebenaran. Hal ini tidak hanya mengancam kepercayaan pada sistem politik, tetapi dalam jangka panjang, keyakinan manusia pada apa yang disebut realitas objektif.

Jika publik tidak dapat menyepakati tentang apa yang nyata dan apa yang tidak, bagaimana mungkin publik bisa memperdebatkan suatu masalah atau keputusan?

Yang dipertaruhkan dalam fenomena deepfake ini adalah struktur sosial dimana kita semua sepakat bahwa ada suatu bentuk kebenaran, dan realitas sosial yang didasarkan pada kepercayaan ini.

Hal ini bukan masalah akhir dari kebenaran, tetapi akhir dari kepercayaan kepada kebenaran, yaitu munculnya sebuah masyarakat post truth. Segera setelah era disinformasi yang masif, bahkan figur publik yang jujur pun akan dengan mudah didiskreditkan. Organisasi tradisional yang sebelumnya memungkinkan konsesus di masyarakat seperti pemerintah atau pers tidak akan lagi dipercaya sepenuhnya oleh publik.

Adhe Nuansa Wibisono
Penulis adalah Ketua Majelis Pertimbangan KAMMI Turki dan Dewan Pakar PPI Turki