Parlemen Eropa Setujui Undang-undang AI, Pelanggar Terancam Denda Rp596 Miliar

Dalam sidang yang berlangsung Rabu (13/3), anggota parlemen menyetujui UU AI dengan 523 suara mendukung dan 46 suara menentang, serta 49 suara lainnya abstain.

Uni Eropa (UE) melarang praktik-praktik yang diyakini akan mengancam hak-hak warga negara.

"Undang-undang berupaya untuk melindungi hak-hak dasar, demokrasi, supremasi hukum, dan kelestarian lingkungan dari AI yang berisiko tinggi, sekaligus meningkatkan inovasi dan menjadikan Eropa sebagai pemimpin di bidang ini," isi pernyataan UE, seperti dikutip dari Engadget, Kamis (14/3).

Peraturan perundang-undangan tersebut belum menjadi undang-undang. Aturan ini masih harus melalui pemeriksaan ahli bahasa, sementara Dewan Eropa perlu menegakkannya secara formal.

Namun UU AI kemungkinan akan mulai berlaku sebelum berakhirnya masa legislatif, menjelang pemilihan parlemen berikutnya pada awal Juni mendatang.

Setelah berlaku, UU AI akan melarang sistem kategorisasi biometrik berdasarkan karakteristik sensitif, begitu pula pengambilan gambar wajah yang tidak ditargetkan dari internet atau rekaman CCTV untuk membuat database pengenalan wajah. Aktivitas Clearview AI termasuk dalam kategori tersebut.

Aplikasi lain yang akan dilarang antara lain penilaian sosial, pengenalan emosi di sekolah dan tempat kerja, dan AI yang memanipulasi perilaku manusia atau mengeksploitasi kerentanan manusia.

Meskipun Undang-Undang AI pada umumnya melarang penggunaan sistem identifikasi biometrik oleh penegak hukum, hal ini akan diizinkan dalam keadaan tertentu dengan izin sebelumnya, seperti untuk membantu menemukan orang hilang atau mencegah serangan teroris.

Aplikasi yang dianggap berisiko tinggi – termasuk penggunaan AI dalam penegakan hukum dan layanan kesehatan – akan tunduk pada kebijakan kondisi tertentu.

Mereka tidak boleh melakukan diskriminasi dan harus mematuhi aturan privasi. Pengembang harus menunjukkan bahwa sistemnya transparan, aman, dan juga dapat dijelaskan oleh pengguna.

Seperti peraturan UE lainnya yang menargetkan teknologi, hukuman bagi pelanggaran ketentuan UU AI bisa sangat berat. Perusahaan yang melanggar peraturan akan dikenakan denda hingga 35 juta euro (596 miliar rupiah) atau hingga tujuh persen dari keuntungan tahunan global mereka, mana saja yang lebih tinggi.

UU AI ini berlaku untuk semua model yang beroperasi di UE, sehingga penyedia AI yang berbasis di AS harus mematuhinya, setidaknya di Eropa. Namun, UU tersebut mengecualikan praktik Model AI yang dibuat semata-mata untuk penelitian, pengembangan, dan pembuatan prototipe.

Sam Altman, CEO pencipta OpenAI, OpenAI, menyatakan pada bulan Mei lalu bahwa perusahaannya mungkin akan menarik diri dari Eropa jika UU AI menjadi undang-undang.