Mahasiswa Magister Hukum Fakultas Hukum Universitas Indonesia, Pangeran M Negara. (Foto: Dokumentasi Pribadi)
Pemanfaatan kecerdasan buatan (artificial intelligence/AI) di Indonesia terus berkembang pesat mulai dari pengawasan digital, pelayanan publik, hingga pengelolaan informasi di ruang digital.
Namun, di tengah percepatan tersebut, Indonesia menghadapi persoalan mendasar, yakni belum adanya Undang-Undang khusus yang secara komprehensif mengatur kecerdasan buatan.
Hal tersebut disampaikan mahasiswa Magister Hukum Fakultas Hukum Universitas Indonesia, Pangeran M Negara, dalam risetnya yang menegaskan bahwa kerangka hukum Indonesia saat ini belum memadai untuk melindungi hak asasi manusia di tengah penggunaan AI yang semakin luas dan kompleks.
“Pengaturan kecerdasan buatan di Indonesia saat ini masih bertumpu pada regulasi umum seperti Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP), serta peraturan turunannya. Instrumen tersebut tidak dirancang untuk merespons karakteristik AI yang otonom, adaptif, dan berbasis pengambilan keputusan otomatis,” ujar Pangeran dalam keterangan tertulis yang diterima redaksi di Jakarta, Kamis, 8 Januari 2026.
“UU ITE dan UU PDP memang mengatur sistem elektronik dan perlindungan data pribadi, tetapi belum mengatur kecerdasan buatan sebagai sistem algoritmik yang mampu mengambil keputusan secara mandiri dan berdampak langsung pada hak warga negara,” tambah dia.
Dalam praktiknya, teknologi berbasis AI telah digunakan dalam berbagai sektor strategis, termasuk pengawasan publik, pengenalan wajah, pemrosesan data pribadi, serta layanan administrasi pemerintahan.
Namun, penggunaan tersebut belum disertai dengan kewajiban transparansi algoritma, mekanisme audit, pengawasan manusia, serta pertanggungjawaban hukum yang jelas apabila terjadi pelanggaran.
Menurut Pangeran dalam tesisnya berjudul “Urgensitas Pembentukan Undang-Undang Kecerdasan Buatan dalam Menghadapi Ancaman Keamanan Nasional melalui Perspektif HAM dan Good Governance”, meskipun UU ITE mengatur sistem dan agen elektronik, serta UU PDP memberikan perlindungan atas data pribadi.
Keduanya belum mengatur secara spesifik tata kelola AI, seperti kewajiban transparansi algoritma, pengawasan manusia (human oversight), mekanisme audit, maupun pertanggungjawaban negara atas dampak sistem berbasis AI.
Akibatnya, penggunaan AI berpotensi menimbulkan pelanggaran terhadap hak-hak dasar warga negara, termasuk hak atas privasi, rasa aman, dan kepastian hukum, sebagaimana dijamin dalam Pasal 28G ayat (1) UUD 1945. Selain itu, prinsip perlindungan HAM juga ditegaskan dalam Undang-Undang Nomor 39 Tahun 1999 tentang Hak Asasi Manusia, yang mewajibkan negara untuk melindungi dan menghormati hak-hak fundamental setiap warga negara.
“Tanpa regulasi khusus, masyarakat tidak memiliki mekanisme hukum yang jelas untuk meminta pertanggungjawaban atau pemulihan hak apabila dirugikan oleh sistem kecerdasan buatan,” jelasnya.
Penelitian tersebut juga menyoroti risiko bias algoritma dalam pengambilan keputusan berbasis AI, terutama dalam layanan publik. Tanpa standar hukum yang tegas, sistem otomatis berpotensi memperkuat diskriminasi dan ketimpangan akses, khususnya bagi kelompok rentan.
“Selain itu, penggunaan AI dalam pengawasan digital dapat mendorong terjadinya surveillance creep, yakni perluasan pengawasan negara terhadap warga secara bertahap tanpa kontrol hukum yang transparan dan akuntabel,” pungkasnya.
