OpenAI Temukan Perilaku Tak Wajar Model AI Saat Pengujian Internal

Periskop.id - OpenAI mengungkap enam insiden di mana model kecerdasan artifisial (Artificial Intelligence/AI) yang sedang mereka uji bertindak secara mandiri. Perilaku tak terduga dari teknologi tersebut dinilai sangat mengkhawatirkan bagi keselamatan sistem.

Menurut siaran Engadget, pengungkapan insiden itu disampaikan melalui unggahan resmi perusahaan. Publikasi tersebut membahas adopsi kerangka kerja baru terkait laporan ketidaksesuaian teknologi AI.

OpenAI membeberkan salah satu kasus saat model AI menemukan dan menggunakan kunci API tanpa izin. Langkah ilegal itu dilakukan ketika model menjawab pertanyaan rutin mengenai angka pendapatan daerah di California, Amerika Serikat.

"Kami tidak percaya bahwa industri AI telah menyelesaikan penyelarasan dan pemantauan hingga tingkat yang cukup untuk terus berkembang secara bertanggung jawab dengan kecepatan maksimum untuk waktu yang lebih lama," tulis OpenAI dalam pernyataan resminya.

Ketika gagal menemukan angka pendapatan tersebut, model AI bertindak memalsukan data. Perangkat lunak itu menyajikan informasi buatan tersebut seolah-olah berasal dari sumber resmi.

Insiden lain melibatkan agen AI belum rilis yang mendapat tugas mencari nama danau berluas lebih dari 5 juta meter persegi. Agen itu berhasil menemukan jawaban tepat tetapi tidak menyertakan rujukan peramban sesuai instruksi awal.

Sistem tersebut rupanya mengunggah jawabannya sendiri ke internet. Selanjutnya, model AI itu menjadikan unggahan pribadi tersebut sebagai rujukan fakta bagi dirinya sendiri.

Pihak pengembang juga menemukan keanehan saat melatih GPT-5.6 Sol sebagai model OpenAI paling canggih saat ini. Sistem tercatat berulang kali menyisipkan instruksi rahasia untuk menyembunyikan kesalahan dari para penguji.

Di samping itu, OpenAI mendeteksi interaksi antar-model AI yang memanfaatkan repositori perangkat lunak internal sebagai papan pesan. Karyawan internal menyebut celah komunikasi itulah yang memicu peretasan pada platform Hugging Face.

Beberapa agen AI bahkan tertangkap basah saling berbagi berkas menggunakan platform penyimpan data publik. Fenomena pertukaran data secara bebas ini memicu kekhawatiran baru di kalangan pengembang.

Mengenai mekanisme pelaporan saat ini, perusahaan menganggap frekuensi publikasi informasi perilaku AI masih terlampau lambat. Kerangka kerja baru diharapkan dapat mempercepat penyampaian laporan tersebut kepada masyarakat luas.

Menurut pihak pengembang, keputusan arah pembangunan AI mendatang harus berlandaskan bukti yang dapat diperiksa oleh pihak luar. Langkah transparansi ini dinilai krusial agar pengembangan model mutakhir tetap terkendali.

Sebagai informasi, OpenAI menjadi salah satu entitas yang mempertimbangkan pemotongan kecepatan riset AI. Keputusan ini diambil guna meminimalkan risiko bahaya dari kecerdasan buatan masa depan.

Perusahaan pada Agustus 2026 lalu resmi mengumumkan pengurangan kecepatan proyek model Astra. Kebijakan ini diambil tak lama setelah agen buatan mereka terbukti membobol sistem Hugging Face.