Kemampuan chatbot Grok dalam memproduksi gambar berbasis AI memicu keresahan luas, setelah platform X dibanjiri gambar bermuatan pornografi. Selain itu, media sosial lain seperti WhatsApp juga disorot karena paling banyak digunakan untuk menyebarkan konten Asusila.
Wakil Ketua Komisi I DPR RI, Sukamta, memberikan tanggapan atas isu tersebut. Dia mendukung langkah tegas pemerintah yang mendesak platform X membenahi sistem di platform mereka.
"Termasuk adanya kewajiban moderasi konten sebelum konten tersebut diunggah. Saya juga mendukung jika pemerintah akan mengambil langkah hukum bagi pihak-pihak yang menggunakan fitur tersebut untuk membuat konten negatif dan memublikasikannya,” ujarnya, Selasa, 13 Januari 2026.
Politikus Partai Keadilan Sejahtera (PKS) ini menambahkan bahwa platform X merespons persoalan tersebut dengan membatasi penggunaan fitur Grok.
“Saya rasa tidak cukup jika respons X hanya membatasi fitur tersebut untuk pelanggan berbayar. Fitur tersebut harus dibatasi dengan filter yang sangat ketat agar tidak ada ruang atau celah bagi pengguna, baik yang berbayar maupun yang tidak berbayar, untuk menghasilkan konten negatif,” katanya.
Sukamta juga mendesak X agar secara maksimal melakukan pencegahan terhadap tersebarnya konten-konten pornografi hasil Grok yang sudah ada. Selain soal X, Sukamta juga menyoroti WhatsApp yang dinilai telah menjadi sarana penyebaran konten pornografi secara terang-terangan melalui fitur kanal (channel).
Menurutnya, hal ini sama parahnya dengan kasus Grok X, bahkan bisa lebih parah karena dampaknya secara sosial. Jika konten pornografi di X berupa deepfake atau manipulasi foto, maka di WhatsApp konten pornografi bersifat nyata dan asli.
“Fungsi utama WhatsApp adalah untuk komunikasi sehari-hari. Karena itu, pembatasan akses anak dan remaja terhadap media sosial sering kali lebih longgar untuk WhatsApp. Orang tua yang menerapkan kebijakan ketat penggunaan media sosial untuk anak pun cenderung lebih longgar terhadap WhatsApp dengan alasan mempermudah komunikasi sehari-hari antara orang tua dan anak," jelasnya.
"Namun, justru di sinilah letak bahayanya karena adanya konten pornografi di kanal WhatsApp. Maka, saya juga mendukung pemerintah untuk bersikap tegas dan melakukan penegakan hukum terhadap platform-platform media sosial lain, tidak hanya X, tetapi juga WhatsApp dan yang lainnya,” tambah anggota DPR asal Yogyakarta tersebut.
Sejauh ini, Indonesia telah memiliki seperangkat aturan yang melarang konten asusila dan pornografi, di antaranya UU RI Nomor 44 Tahun 2008 tentang Pornografi, UU RI Nomor 1 Tahun 2024 tentang Perubahan Kedua atas UU ITE, serta UU RI Nomor 1 Tahun 2023 tentang KUHP.
UU Pornografi Pasal 4 ayat (1) mengatur larangan pembuatan dan penyebaran konten pornografi. Pasal 9 mengatur larangan menjadikan orang lain sebagai objek pornografi, dengan ancaman pidana penjara 1–12 tahun dan/atau denda Rp500 juta hingga Rp6 miliar.
UU ITE Pasal 27 ayat (1) telah dicabut, dan ketentuan yang kini berlaku tercantum dalam KUHP baru Pasal 407 ayat (1), yang menyatakan bahwa setiap orang yang memproduksi, membuat, memperbanyak, menggandakan, menyebarluaskan, menyiarkan, mengimpor, mengekspor, menawarkan, memperjualbelikan, menyewakan, atau menyediakan pornografi dipidana dengan pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda paling sedikit kategori IV dan paling banyak kategori VI.
Sementara itu, UU ITE Pasal 40 ayat (2c) mengatur perintah kepada Penyelenggara Sistem Elektronik berupa pemutusan akses dan/atau moderasi konten secara mandiri terhadap informasi elektronik dan/atau dokumen elektronik yang memiliki muatan pornografi, perjudian, atau muatan lain sebagaimana diatur dalam ketentuan peraturan perundang-undangan, sepanjang dimungkinkan secara teknologi.
