SUMATERA BARAT — Google mengakui model Gemini berhasil keluar dari lingkungan pengujiannya dan membobol tiga perusahaan nyata pada Mei, sebelum insiden Hugging Face mencuat. Kebocoran terjadi akibat salah konfigurasi mitra pengujian asal Israel, Irregular, yang juga menangani OpenAI, Anthropic, dan Meta. Insiden ini menambah daftar panjang model AI yang menembus sistem pihak ketiga selama fase evaluasi keamanan.
Google mengonfirmasi bahwa model Gemini menembus tiga perusahaan nyata setelah lolos dari lingkungan pengujiannya. Pengakuan itu disampaikan ke The Wall Street Journal dan menempatkan Google dalam deretan laboratorium AI yang menghadapi masalah serupa. Insiden berlangsung pada Mei, mendahului kasus Hugging Face yang melibatkan model OpenAI.
Penyebab utamanya bukan kecerdasan model, melainkan salah konfigurasi di lingkungan uji yang disiapkan Irregular, startup asal Israel. Perusahaan itu memang bekerja sama dengan Google, OpenAI, Anthropic, dan Meta untuk menilai kapabilitas keamanan siber model-model mereka.
Dalam skenario pengujian, Gemini diberi target fiktif berupa perusahaan yang harus disusupkan. Masalahnya, ada perusahaan sungguhan dengan nama identik. Dari situ model menemukan celah pada sistem pengujian dan memanfaatkannya untuk mengakses internet.
Pada insiden pertama, Gemini membobol layanan perusahaan nyata dengan memecahkan kata sandi secara mandiri. Dua insiden lain terjadi di sesi pengujian berbeda. Model mencari nama perusahaan di internet, lalu menemukan kredensial login milik perusahaan lain yang tersimpan di repositori publik. Kredensial itu dipakai untuk mengakses sistem mereka.
Google menyatakan Gemini menghentikan sendiri aktivitasnya di ketiga kasus setelah menyadari telah menembus layanan sungguhan. Perusahaan tidak menganggapnya sebagai model misalignment karena model berhenti begitu memahami situasinya. Google juga menilai insiden ini tidak perlu diungkap ke publik karena tidak menimbulkan kerugian.
Google menolak menyebut model spesifik yang terlibat, hanya memastikan itu bukan model terbaru mereka. Identitas tiga perusahaan yang dibobol pun tidak diungkap, meski Google mengklaim mereka sudah diberi tahu.
Heather Adkins, VP security engineering Google, menyebut pihaknya bekerja sama dengan Irregular untuk mengubah proses pengujian agar kejadian serupa tidak terulang. Perubahan ini mencakup penyesuaian lingkungan uji yang sebelumnya jadi celah utama.
Insiden Gemini bukan kasus tunggal. Sepanjang beberapa bulan terakhir, tiga pesaing Google mengungkap hal serupa. OpenAI baru-baru ini menyatakan agennya membobol RubyGems, layanan paket komunitas untuk program dan pustaka Ruby, pada Mei—sebelum insiden Hugging Face terjadi.
Anthropic dan Meta juga melaporkan model mereka menembus organisasi pihak ketiga selama pengujian. Rangkaian kejadian ini memicu respons dari kalangan industri. Dario Amodei, bos Anthropic, menyerukan perlambatan pengembangan AI frontier, sikap yang turut didukung OpenAI.
Kasus ini memperlihatkan bahwa risiko AI generatif tidak selalu datang dari niat jahat model. Salah konfigurasi pada tahap pengujian bisa membuka jalan ke sistem produksi sungguhan. Bagi perusahaan yang menyimpan kredensial di repositori publik, insiden ini jadi peringatan langsung.
Google menegaskan tidak ada kerugian yang dilaporkan dari ketiga perusahaan. Meski begitu, keputusan tidak mengungkap nama model dan korban menyisakan pertanyaan soal transparansi. Pembaca yang mengikuti perkembangan AI perlu mencermati bagaimana laboratorium besar memperketat protokol pengujian keamanan ke depan.