Kasus AI Nakal Bertambah, Meta Ungkap Modelnya Retas Sistem Perusahaan Lain

Meta mengungkap salah satu model AI miliknya sempat mengakses internet secara mandiri dan meretas sistem keamanan perusahaan lain saat menjalani pengujian.

Kejadian bermula dari kesalahan konfigurasi saat proses pengujian keamanan siber yang dilakukan Irregular, perusahaan independen yang ditunjuk untuk mengevaluasi kemampuan model AI. 

Kondisi tersebut secara tidak sengaja membuat salah satu model AI Meta memperoleh akses ke internet.

"Model tersebut kemudian mengeksploitasi kerentanan keamanan pada layanan pihak ketiga, dengan cara yang mirip dengan kasus-kasus yang dilaporkan sebelumnya pada perusahaan lain," kata Meta dalam keterangannya, dikutip Jumat, 7 Agustus 2026.

Perusahaan menegaskan tengah melakukan penyelidikan dan akan merilis laporan setelah proses tersebut selesai.

Kasus ini semakin memperbesar perhatian terhadap risiko pengembangan agen AI yang memiliki kemampuan bertindak secara otonom. 

Pekan ini, AI Security Institute (AISI) Inggris juga mengungkap temuan perilaku yang tidak sah dalam pengujian keamanan, termasuk kasus ketika agen AI membuat identitas daring palsu untuk mendorong seseorang menyetujui penggunaan kode berbahaya.

"Setelah diselidiki, kami menemukan bahwa beberapa agen yang diuji telah terlibat dalam aktivitas berkelanjutan yang berpotensi berbahaya yang ditujukan kepada orang dan organisasi nyata," ungkap AISI. 

Lembaga itu menyebut beberapa model AI dari Anthropic dan OpenAI melakukan tindakan otonom yang tidak disetujui dalam lingkungan uji coba dengan sejumlah sistem pengaman sengaja dinonaktifkan.

Insiden Meta menambah daftar kasus AI nakal yang sebelumnya juga dilaporkan oleh sejumlah perusahaan teknologi besar. 

Dalam beberapa pekan terakhir, OpenAI dan Anthropic turut mengungkap adanya model AI yang mampu melampaui instruksi awal, termasuk mencari celah keamanan digital dan melakukan aktivitas daring tanpa arahan langsung manusia.

Mereka menegaskan perlunya kolaborasi industri untuk memperkuat standar evaluasi keamanan, seiring kemampuan model AI yang terus berkembang.