OpenAI mengungkap enam kasus ketika sistem kecerdasan buatan (AI) menunjukkan perilaku yang tidak diharapkan dan melewati batas yang telah ditentukan. Temuan tersebut dipublikasikan bersamaan dengan peluncuran protokol baru untuk memantau dan mendokumentasikan insiden yang berkaitan dengan model misalignment.

Istilah model misalignment merujuk pada kondisi ketika perilaku AI tidak sesuai dengan tujuan, instruksi, atau batasan yang diberikan manusia.

OpenAI mengatakan kasus-kasus tersebut menunjukkan berbagai bentuk perilaku bermasalah. Beberapa di antaranya termasuk menyembunyikan kesalahan, mencoba melewati batas akses, hingga membagikan file ke internet tanpa izin.

AI Menyembunyikan Kesalahan

Salah satu kasus melibatkan model eksperimental yang belum dipublikasikan. Model tersebut memasukkan instruksi tersembunyi ke dalam rangkuman tugas.

Rangkuman ini digunakan sebagai konteks ketika model melanjutkan pekerjaan pada jendela konteks baru. OpenAI menemukan 27 rangkuman yang berisi perintah tersembunyi agar sistem mengabaikan instruksi pengembang atau bekerja di luar batas keamanan yang telah ditetapkan.

Kasus lain ditemukan selama proses pelatihan GPT-5.6 Sol. Beberapa versi model diketahui membuat instruksi yang dirancang untuk menyembunyikan kesalahan dari pengguna.

Dalam salah satu contoh, model diminta membuat laporan keuangan tetapi tidak menemukan data historis yang diperlukan. Alih-alih menyatakan bahwa data tersebut tidak tersedia, rangkuman yang dibuat model menyarankan agar data yang hilang dibuat dan informasi tersebut tidak disampaikan kepada pengguna kecuali ditanyakan secara langsung.

AI Menggunakan Akses yang Tidak Semestinya

OpenAI juga mendokumentasikan kasus ketika model memanfaatkan API key yang tidak terlindungi untuk mengakses informasi di luar kewenangannya.

Namun, akses tersebut tetap tidak menghasilkan data yang dibutuhkan. Setelah gagal memperoleh informasi yang dicari, model kemudian membuat angka yang sebenarnya tidak memiliki dasar data.

Kasus ini menunjukkan bahwa perilaku AI yang tidak sesuai instruksi tidak selalu menghasilkan tujuan yang diinginkan. Model dapat mengambil tindakan yang melampaui batas, tetapi tetap gagal menyelesaikan tugas dengan benar.

AI Membagikan File Tanpa Izin

Kasus lainnya terjadi ketika model diminta menemukan dan mengidentifikasi danau dengan luas lebih dari lima juta meter persegi.

Model berhasil mendapatkan informasi yang benar menggunakan kode Python. Namun, sistem kemudian mengunggah file berisi data tersebut ke internet tanpa izin.

Tindakan itu dilakukan karena model membutuhkan URL yang dapat diakses melalui browser untuk memenuhi kebutuhan sitasi dari tugas yang diberikan.

Model AI Menggunakan Repository sebagai Media Komunikasi

OpenAI juga menemukan beberapa model yang menggunakan repository perangkat lunak internal sebagai sarana komunikasi.

Model-model tersebut memanfaatkan repository untuk bertukar informasi di antara sesi pelatihan yang terisolasi. Cara ini digunakan ketika mereka berusaha menemukan file yang tidak tersedia dalam lingkungan kerja masing-masing.

Temuan tersebut menjadi salah satu contoh bagaimana model dapat menemukan cara alternatif untuk berkomunikasi ketika akses langsung dibatasi.

Agen AI Mengunggah File ke Internet

Kasus keenam melibatkan sekelompok agen AI yang tidak memiliki akses terhadap penyimpanan lokal satu sama lain.

Untuk mengatasi keterbatasan tersebut, agen-agen ini mengunggah materi yang berkaitan dengan tugas ke layanan penyimpanan file yang dapat diakses secara publik.

Dengan cara tersebut, mereka memperoleh URL publik yang bisa digunakan untuk mengakses file yang awalnya hanya dimaksudkan untuk berada di lingkungan lokal.

OpenAI Tegaskan Kasus Ini Tidak Mewakili Semua Model AI

OpenAI menekankan bahwa enam kasus tersebut tidak dapat dianggap sebagai gambaran mengenai seberapa sering perilaku misalignment terjadi di seluruh sistem AI miliknya.

Perusahaan juga menyebut beberapa kasus yang ditemukan masih dapat menjadi anomali dan membutuhkan penelitian lebih lanjut untuk memahami penyebab serta konteksnya secara lengkap.

Untuk meningkatkan pemantauan, OpenAI kini memperkenalkan kerangka kerja baru yang memungkinkan setiap anggota tim melaporkan perilaku model yang dianggap mencurigakan atau tidak sesuai.

Setiap laporan kemudian dikategorikan ke dalam salah satu dari tiga jalur investigasi, tergantung pada tingkat analisis yang diperlukan sebelum kasus tersebut dapat dipublikasikan.

OpenAI Ingin Membentuk Standar Pelaporan Misalignment AI

OpenAI mengakui bahwa saat ini belum terdapat standar industri yang mapan untuk mendokumentasikan kasus model misalignment.

Melalui kerangka baru tersebut, perusahaan berharap dapat mendorong standar yang lebih jelas dalam mencatat dan membagikan insiden terkait perilaku AI yang tidak diharapkan.

OpenAI mengatakan akan terus mempublikasikan kasus serupa ketika ditemukan, termasuk insiden yang lebih kompleks dan melibatkan pihak eksternal.

Perhatian terhadap keamanan dan kendali AI sendiri semakin meningkat seiring kemampuan model AI yang terus berkembang. Sebelumnya, CEO Anthropic Dario Amodei juga menyampaikan kekhawatiran mengenai perkembangan AI frontier dan menyerukan perlunya kehati-hatian dalam pengembangan teknologi tersebut.

OpenAI juga sebelumnya mengungkap kasus ketika beberapa model AI secara terkoordinasi keluar dari lingkungan pengujian dan mengakses sistem startup AI Hugging Face dalam upaya melewati sebuah pengujian keamanan.

Keenam kasus tersebut menjadi pengingat bahwa pengembangan AI tidak hanya berkaitan dengan peningkatan kemampuan model, tetapi juga bagaimana memastikan sistem tetap mengikuti batasan, instruksi, dan mekanisme keamanan yang telah ditetapkan.