Rawan Disalahgunakan, India Segera Susun Undang-undang yang Mengatur Deepfake

Menteri Teknologi Informasi Ashwini Vaishnaw pada Kamis (23/11) mengatakan pemerintah saat ini sedang menyusun peraturan untuk mendeteksi dan membatasi penyebaran konten palsu dan media AI berbahaya lainnya.

“Kami berencana menyelesaikan rancangan peraturan tersebut dalam beberapa minggu ke depan,” kata Vaishnaw, sehari setelah Perdana Menteri Narendra Modi menyampaikan kekhawatirannya atas teknologi tersebut, seperti dimuat Reuters.

"Proses penyusunan peraturan juga akan mempertimbangkan sanksi bagi orang yang mengunggah konten tersebut dan platform media sosial tempat konten tersebut diposting," tambahnya.

Deepfake adalah video realistis namun dibuat-buat yang ditayangkan dengan algoritma kecerdasan buatan (AI) yang diterapkan pada rekaman online.

Ashwini mengatakan kementeriannya mengadakan pertemuan dengan semua perusahaan media sosial besar, badan industri Nasscom, dan akademisi, pada hari sebelumnya. Mereka telah mencapai konsensus bahwa peraturan diperlukan untuk memerangi penyebaran video deepfake.

“Perusahaan-perusahaan tersebut memiliki keprihatinan yang sama dengan kami dan mereka memahami bahwa ini (deepfakes) bukanlah kebebasan berpendapat. Mereka memahami bahwa itu adalah sesuatu yang sangat merugikan masyarakat,” ujarnya.

Dalam pidato pembukaannya pada pertemuan puncak virtual negara-negara G20 pada Rabu (22/11), PM Modi meminta para pemimpin global bersama-sama berupaya mengatur AI, dan menyampaikan kekhawatiran atas dampak negatif deepfake terhadap masyarakat.

Langkah India dilakukan ketika negara-negara di seluruh dunia berlomba menyusun peraturan untuk mengatur AI.

Bulan lalu di Amerika Serikat, Presiden Joe Biden menandatangani perintah eksekutif yang mewajibkan pengembang sistem AI yang menimbulkan risiko terhadap keamanan nasional, perekonomian, atau kesehatan atau keselamatan masyarakat AS untuk membagikan hasil uji keamanan kepada pemerintah sebelum dipublikasikan ke publik.

PBB juga telah membentuk badan penasihat yang beranggotakan 39 orang untuk mengatasi permasalahan tata kelola AI, sementara anggota parlemen Eropa telah menyiapkan rancangan peraturan yang dapat disetujui Desember mendatang.