Konten Seksual AI Bikin Resah, Grok Mulai Batasi Pembuatan Gambar

Startup kecerdasan buatan milik Elon Musk, xAI, mulai membatasi sebagian fitur pembuatan dan pengeditan gambar pada chatbot Grok di platform media sosial X, menyusul gelombang kritik luas terkait penyalahgunaan AI untuk membuat gambar bernuansa seksual tanpa persetujuan.

Sebelumnya, pengguna dapat meminta Grok di X untuk mengedit foto orang lain, termasuk menghilangkan pakaian atau mengubah pose menjadi bersifat seksual. Gambar-gambar tersebut kemudian otomatis dipublikasikan sebagai balasan di X, memicu kemarahan publik dan regulator.

Mulai Jumat, 9 Januari 2026, Grok mengumumkan bahwa fitur pembuatan dan pengeditan gambar kini hanya tersedia bagi pengguna berbayar di X. Langkah ini dinilai dapat menghentikan praktik Grok yang secara otomatis membuat dan memposting gambar semacam itu sebagai respons terhadap unggahan pengguna.

Namun, pembatasan ini belum sepenuhnya menutup celah. Pengguna masih bisa membuat gambar serupa melalui tab Grok di dalam X -- tempat pengguna berinteraksi langsung dengan chatbot -- lalu mengunggahnya sendiri. Selain itu, aplikasi Grok versi terpisah yang tidak terhubung langsung dengan X juga masih memungkinkan pembuatan gambar tanpa perlu berlangganan.

Musk sebelumnya menegaskan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah materi ilegal secara langsung ke platform.

Komisi Eropa menilai langkah ini belum cukup. Mereka menegaskan bahwa persoalan utamanya bukan soal berbayar atau tidak, melainkan keberadaan konten tersebut.

“Membatasi pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar tidak mengubah masalah mendasar kami. Berbayar atau tidak, kami tidak ingin melihat gambar-gambar seperti itu,” ujar juru bicara Komisi Eropa.

Sejumlah pemerintah dan regulator lain juga mengecam kasus ini, bahkan ada yang sudah membuka penyelidikan. Tekanan terhadap X pun meningkat agar platform tersebut menunjukkan langkah nyata dalam mencegah dan menghapus konten ilegal.

Di Jerman, Menteri Media Wolfram Weimer menggambarkan banjir gambar setengah telanjang yang beredar sebagai 'industrialisasi pelecehan seksual'.