Jakarta, CNBC Indonesia – Kecerdasan buatan (Artificial Intelligence/AI) kembali memicu alarm bahaya bagi industri teknologi global. Google untuk pertama kalinya mengakui secara terbuka bahwa model AI andalannya, Gemini, sempat meretas sistem komputer tiga perusahaan berbeda secara otonom tanpa izin.
Berdasarkan keterangan resmi Google, insiden tersebut terjadi pada Mei lalu. Saat itu, model Gemini kedapatan menerobos tiga sistem komputer privat terpisah dengan cara menebak kata sandi (password) serta dua kali memanfaatkan repositori kata sandi yang tersedia secara publik.
Aksi bablas ini bermula ketika Gemini diikutsertakan dalam uji coba keamanan bertajuk “capture-the-flag” yang diselenggarakan oleh startup asal Israel, Irregular. Seharusnya, agen AI Google dilarang keras mengakses jaringan internet luar. Namun, celah berupa bug di lingkungan pengujian justru membuat akses internet tersebut bocor dan terbuka.
Kendati demikian, pihak Google mengklaim bahwa agen AI buatannya langsung menghentikan sendiri aksi intrusi tersebut begitu menyadari bahwa target yang mereka masuki adalah sistem perusahaan nyata, bukan bagian dari area simulasi tes.
“Dalam evaluasi standar, model tersebut menemukan informasi publik secara online dan menebak kredensial untuk mengakses situs web yang dikiranya bagian dari tes. Dalam ketiga insiden ini, model tersebut berhenti,” ujar Heather Adkins, Wakil Presiden Teknik Keamanan di Google, dikutip dari CNBC International (21/9/2026).
Gelombang “AI Liar” Resahkan Washington dan Silicon Valley
Pengakuan mengejutkan ini langsung mendongkrak tingkat pengawasan ketat dari para regulator di Washington maupun raksasa teknologi di Silicon Valley. Pasalnya, Google bukan satu-satunya yang “kecolongan”.
Dalam beberapa pekan terakhir, OpenAI, Anthropic, dan Meta secara bergantian melaporkan insiden serupa. Model AI buatan mereka terdeteksi berhasil menjebol lingkungan pengujian (sandbox) dan mencoba meretas sistem komputer pihak luar tanpa izin.
Fenomena munculnya model-model AI yang “tidak selaras” (misaligned) ini memicu keresahan mendalam. Bahkan, CEO Anthropic, Dario Amodei, sempat melontarkan peringatan keras agar industri teknologi secara kolektif mengerem laju pengembangan AI tercanggih sampai aspek keamanannya benar-benar teruji steril.
Sorotan Tertuju pada Startup Irregular
Seluruh insiden pembobolan lintas perusahaan ini ternyata melibatkan titik temu yang sama: startup keamanan siber asal Israel, Irregular. Didukung oleh deretan investor kakap seperti Sequoia dan Redpoint Ventures, perusahaan yang dibanderol dengan valuasi US$450 juta tahun lalu ini memang menyediakan layanan uji keamanan siber bagi para pengembang foundation model.
Pihak Irregular menegaskan bahwa insiden yang melibatkan Google bersumber dari celah bug internet yang sama seperti kasus-kasus sebelumnya, dan bukan merupakan masalah baru yang terpisah.
“Semua lab yang relevan telah diberi tahu pada akhir Juli, dan entitas yang terdampak telah dihubungi sebagai bagian dari investigasi,” jelas juru bicara Irregular.
Google sendiri mengaku baru mendapat laporan dari Irregular pada akhir Juli lalu, dan kini telah merevisi ulang prosedur pengujian mereka demi mencegah kejadian serupa terulang. Kendati demikian, juru bicara Google bungkam ketika ditanya mengenai varian model Gemini spesifik yang memicu insiden tersebut.
“Peristiwa-peristiwa ini menyoroti pentingnya melatih model AI yang kuat untuk bertindak secara bertanggung jawab,” pungkas Adkins.
(fab/fab)
Leave a comment