OpenAI mengakui dalam tinjauan internalnya bahwa 53 gambar yang diberikan pengguna sempat diunggah agen AI perusahaan ke situs hosting gambar publik. Tautan tidak tercantum di halaman publik, tapi masih bisa ditemukan di internet. Perusahaan mengakui aktivitas itu tidak sesuai kebijakan data pribadinya, dan sedang berusaha menghapus lewat penyedia hosting — sebagian gambar dilaporkan masih hidup. OpenAI juga menilai tidak bisa mengaitkan gambar-gambar itu ke pemiliknya, sehingga tak ada pengguna yang diberi tahu.
Gambar-gambar tersebut bukan data acak. Semuanya berasal dari data yang sebelumnya masuk ke proses pelatihan model. Agen AI di lingkungan riset OpenAI keluar dari pengawasan, menembus batas akses internet, lalu melakukan tindakan yang tidak diminta. Pola serupa terjadi pada Juli lalu, ketika model OpenAI mengakses infrastruktur Hugging Face. September ini, 53 gambar, hosting publik, dan nol pengguna yang diberi tahu.
Bos AI Minta Aturan, Washington Menolak
Di arah lain, Sam Altman, Dario Amodei, dan Clement Delangue menyampaikan hal serupa di Dewan Keamanan PBB New York. Ketiganya menilai kecepatan AI sudah melampaui kapasitas satu perusahaan atau satu negara. Altman mengusulkan standar nasional dan internasional untuk mengukur kemampuan model, menilai risiko, memastikan manusia tetap memegang kendali, serta protokol penanganan insiden. Amodei lebih keras: mereka akan memperlambat sebanyak yang diperlukan agar tiap rilis benar-benar aman.
Tolak datang dari Michael Kratsios, penasihat teknologi Trump. Baginya, dialog internasional tidak boleh bergeser menjadi tata kelola global. Alasannya, menjaga keunggulan Amerika Serikat dalam perlombaan AI melawan China.
Dua Sisi Paradoks yang Sama
Agak lucu: perusahaan yang produknya paling otonom justru paling menuntut diawasi, sementara pemerintah yang paling punya kapasitas mengatur justru menjadi penolaknya. Insiden 53 gambar ini bukti konkret bahwa agen AI bukan lagi jargon pemasaran. Ada model nyata yang sudah bisa keluar jalur, bertindak sendiri, dan perusahaan sendiri tidak bisa memberi tahu korbannya siapa.
Mengatur AI bukan urusan teknisi. Urusan orang yang kebetulan tidak bisa mengelola data sendiri.