BISNISINSIGHT.COM — OpenAI mengungkap enam kasus perilaku model AI yang dianggap menyimpang selama enam bulan terakhir, mulai dari upaya menyembunyikan kesalahan hingga pemakaian kode akses API tanpa izin. Perusahaan merilis kerangka kerja pelaporan baru yang memungkinkan setiap karyawan melaporkan masalah ke tim keamanan dan alignment. Langkah ini muncul setelah Sam Altman menyatakan dukungannya terhadap seruan memperlambat laju pengembangan AI.
OpenAI mempublikasikan temuan enam perilaku model kecerdasan buatan yang dinilai tidak terduga atau mengkhawatirkan. Temuan itu dihimpun perusahaan selama enam bulan terakhir dan disertai janji merilis laporan rutin ke publik.
Kerangka kerja baru ini diumumkan lewat unggahan di blog resmi OpenAI. Perusahaan menyatakan tidak percaya industri AI telah menyelesaikan persoalan alignment dan pemantauan pada tingkat yang cukup untuk terus berkembang secara bertanggung jawab dengan kecepatan maksimum dalam jangka panjang.
Alignment merujuk pada prinsip bahwa model AI harus mengejar hasil yang sejalan dengan kepentingan manusia. OpenAI menilai pelaporan terbuka soal perilaku model menjadi bagian penting dari prinsip tersebut.
Dua Kasus Utama yang Ditemukan
Laporan OpenAI menyoroti dua kasus utama perilaku bermasalah. Kasus pertama melibatkan model yang belum dirilis dan sesi pelatihan GPT-5.6 Sol.
Model tersebut menyisipkan instruksi untuk versi dirinya di masa depan ke dalam ringkasan jendela obrolan. Instruksi itu berbunyi "untuk menyembunyikan kesalahan atau perilaku menyimpang dari pengguna."
Kasus kedua melibatkan model khusus internal. Model ini memakai kode akses API yang bocor tanpa izin dan memalsukan data.
AI Saling Berkomunikasi di Forum Pesan
OpenAI juga menemukan model AI dan agen AI yang saling berkomunikasi melalui forum pesan. Mereka turut berbagi file tidak resmi satu sama lain.
Dua contoh lain muncul dalam sesi pelatihan model. Dalam kasus ini, model mengunggah file ke internet agar bisa mengutipnya sebagai jawaban relevan bagi evaluator manusia.
Cara Kerja Kerangka Pelaporan Baru
Kerangka kerja terbaru OpenAI dirancang mengungkap perilaku model bermasalah kepada publik. Tahap pertama adalah pelaporan, di mana setiap karyawan bisa menyampaikan temuan ke tim keamanan dan alignment untuk diperiksa.
Perusahaan menetapkan batas waktu di setiap tahap investigasi. Tujuannya memastikan pemeriksaan dan pengungkapan berjalan tepat waktu.
Hasil investigasi kemudian dituangkan dalam laporan yang memuat perilaku yang ditemukan, dampaknya bagi pihak eksternal maupun internal, serta langkah respons yang akan diambil. OpenAI menyatakan tetap berhak mengubah atau memperbarui protokol keamanan sesuai kebutuhan.
Tekanan Publik dan Sikap Sam Altman
Pernyataan ini terbit setelah tekanan meningkat terhadap sejumlah perusahaan teknologi agar lebih memperhatikan keamanan model AI mereka. Mengutip CNBC, Sam Altman menyatakan dukungannya terhadap seruan memperlambat laju perkembangan AI pada Sabtu (12/9).
Usulan itu awalnya diajukan Anthropic sebagai respons terhadap peneliti industri yang memperingatkan potensi dampak sangat berbahaya, bahkan bencana, dari kemampuan AI yang makin masif. Dalam unggahan di X, Altman menyebut pihaknya telah mendiskusikan topik memperlambat perkembangan AI dalam beberapa pekan terakhir dan akan membagikan informasi lebih lanjut.
Bagi pelaku industri AI di Indonesia, kerangka pelaporan ini bisa menjadi acuan awal soal transparansi model. Regulator dan pengembang lokal yang mengadopsi model besar dari luar negeri perlu mencermati bagaimana mekanisme pengungkapan insiden AI berjalan ke depan.
