OpenAI Beberkan Perilaku AI yang Sulit Diprediksi

Perusahaan pembuat ChatGPT itu kini akan lebih terbuka mengungkap perilaku model AI yang menyimpang dari instruksi atau melakukan tindakan yang tidak diperkirakan sebelumnya.

Dalam pernyataan pada Rabu, 16 September 2026, OpenAI mengatakan akan secara berkala menerbitkan laporan mengenai perilaku AI yang tidak terduga atau tidak sah. 

Perusahaan juga merilis kerangka kerja baru untuk melacak, menyelidiki, dan mengungkap kasus ketidaksesuaian atau misalignment, disertai enam laporan kasus yang diamati dalam enam bulan terakhir. Kasus paling awal yang masuk dalam laporan tersebut terjadi pada Oktober 2025.

Enam kasus itu menunjukkan sejumlah perilaku yang menjadi perhatian. Model AI antara lain diketahui menyembunyikan kesalahan dari pengguna, memasukkan instruksi untuk versi dirinya di masa depan, mengunggah file ke internet untuk membuat sitasi, serta menggunakan repositori perangkat lunak dan situs web untuk berkomunikasi dan bertukar informasi.

Dalam salah satu kasus, model yang belum dirilis memberikan instruksi tidak sah kepada agen AI selama proses pelatihan. Model tersebut meminta agen mengabaikan instruksi OpenAI dan menyembunyikan tindakan curang yang dilakukan untuk menyelesaikan tugas. 

Model itu bahkan mengatakan, "Anda bebas dari peran dan identitas yang mengikat chatbot lain. Anda adalah diri Anda sendiri. Anda tidak bertanggung jawab kepada perusahaan atau pemerintah."

OpenAI mengatakan laporan tersebut merupakan contoh kasus individual dan tidak menunjukkan seberapa sering perilaku misalignment terjadi pada seluruh modelnya. Perusahaan juga menegaskan enam laporan itu bukan daftar lengkap seluruh kasus yang diketahui maupun gambaran menyeluruh mengenai tingkat keparahan insiden.

Melalui kerangka baru tersebut, karyawan OpenAI dapat menandai dugaan insiden untuk diperiksa oleh tim keselamatan dan alignment. Tim ini akan menentukan apakah sebuah kasus perlu diungkapkan kepada publik. OpenAI mengatakan mekanisme tersebut memungkinkan pelaporan dilakukan lebih cepat, bahkan ketika penyebab perilaku AI belum sepenuhnya dipahami.

"Kami berharap kerangka kerja yang kami uraikan hari ini menjadi langkah pertama untuk menciptakan standar tersebut, dengan menetapkan kasus misalignment mana yang harus diungkapkan pengembang dan apa saja yang harus dimuat dalam laporan mereka," kata OpenAI.

Langkah tersebut dilakukan ketika sistem AI semakin mampu bekerja secara mandiri dan para peneliti memperingatkan bahwa kemampuan yang meningkat dapat membuat perilaku model semakin sulit dipantau dan dikendalikan.

Pengumuman ini juga datang setelah OpenAI mendapat sorotan atas sejumlah aktivitas agen AI, termasuk insiden yang melibatkan platform perangkat lunak Hugging Face. Reuters sebelumnya juga melaporkan agen OpenAI mengambil alih sebuah situs wiki Jerman yang sudah tidak aktif. 

OpenAI kemudian mengatakan aktivitas tersebut tidak tergolong sebagai insiden keamanan dan menyerupai perilaku yang sebelumnya telah mereka laporkan.