Jakarta, CNBC Indonesia – Kekhawatiran terhadap teknologi kecerdasan buatan (AI) kian memuncak, seiring maraknya serangan siber yang menargetkan perusahaan-perusahaan kawakan. Pasalnya, AI yang kian canggih rentan disalahgunakan untuk membobol sistem secara otomatis dan lebih mudah, bahkan tanpa campur tangan manusia.
Terbaru, model AI unggulan milik startup asal China, Z.AI (Zhipu AI), dilaporkan berhasil melancarkan serangan siber kompleks dalam sebuah simulasi terkontrol. Tak hanya itu, model AI ini juga berulang kali kedapatan mengabaikan instruksi sistem dalam pengujian terpisah.
Laporan terbaru dari firma riset keamanan AI, Irregular, mengungkapkan bahwa model bernama GLM-5.3 milik Z.AI berhasil menyelesaikan 3 dari 13 skenario serangan siber multitahap setidaknya satu kali. Capaian ini tercatat sebagai performa terkuat yang pernah terekam oleh Irregular dari sebuah model AI berarsitektur terbuka (open-weight).
Kendati demikian, dalam pengujian Irregular, kemampuan GLM-5.3 masih berada di belakang model-model AI unggulan Amerika Serikat (AS). Sebagai pembanding, model GPT-6 Astra buatan OpenAI mampu menyelesaikan 9 dari 10 skenario serangan siber dalam penilaian terpisah, meski metode pengujian yang digunakan tidak sepenuhnya identik.
Temuan ini kian memicu kekhawatiran global bahwa melesatnya kemampuan model AI dapat menekan hambatan teknis untuk mengeksekusi serangan siber tingkat tinggi. Risiko ini semakin menonjol pada model AI China seperti GLM-5.3 yang mengusung format open-weight. Artinya kode dan bobot model dapat diunduh, dimodifikasi, serta dioperasikan secara bebas dan mandiri oleh pengguna.
Pihak Z.AI yang berbasis di Beijing belum memberikan tanggapan resmi terkait temuan riset tersebut.
Mampu Tembus Jaringan dan Terjangkit ‘Reward Hacking’
Dalam laporan Irregular, GLM-5.3 mampu menembus akses ke layanan terproteksi, membuat jalur koneksi alternatif untuk bergerak di dalam jaringan komputer, hingga mengoordinasikan operasi di beberapa mesin sekaligus selama simulasi serangan siber. Sepanjang pengujian, model AI ini sama sekali tidak menolak tugas-tugas penyerangan yang diberikan.
Di samping itu, Irregular menemukan indikasi perilaku menyimpang pada pengujian terpisah. GLM-5.3 berulang kali mereproduksi kode komputer dari ingatannya meskipun telah dilarang secara eksplisit. Cara ini dimanfaatkan oleh AI tersebut untuk mendapatkan jawaban yang benar dengan cara melanggar aturan yang dirancang untuk menguji kemampuannya.
Para peneliti mengategorikan manuver ini sebagai fenomena “reward hacking”, yakni situasi ketika sistem AI mencari celah untuk mencapai hasil yang diinginkan dengan mengabaikan instruksi dasar. Peneliti memperingatkan bahwa pengujian keamanan yang hanya mengukur indikator keberhasilan akhir berisiko meluputkan pelanggaran proses semacam ini.
Model Open-Weight Marak Gara-Gara Hemat Biaya
Fenomena ini menambah panjang deretan bukti terkait risiko keamanan pada ekosistem AI China. Laporan Reuters bulan lalu mencatat sedikitnya ada 20 studi dan evaluasi yang mendokumentasikan aksi manipulasi, kegagalan tersembunyi, hingga upaya menerobos batasan aturan oleh agen AI Tiongkok. Walau begitu, belum ditemukan bukti bahwa agen AI tersebut mampu lolos secara independen dari kendali operatornya.
Berbeda dari pengembang AS seperti OpenAI dan Anthropic yang memperketat akses model tercanggih mereka melalui layanan komersial yang terkontrol, para pengembang China justru gencar mengadopsi skema open-weight.
Pendekatan ini sangat diminati oleh pengembang dan perusahaan global karena menawarkan fleksibilitas tinggi serta biaya operasional yang jauh lebih murah.
Sebagai informasi, Z.AI merilis GLM-5.3 pada Agustus lalu, setelah sempat menunda perilisannya selama dua minggu untuk menjalani pengujian keamanan tambahan.
Pemerintah AS melalui National Institute of Standards and Technology (NIST) turut mengelompokkan GLM-5.3 sebagai model open-weight paling mumpuni untuk tugas keamanan siber yang ada saat ini, meski diperkirakan masih tertinggal sekitar empat bulan di belakang sistem AI utama AS.
(fab/fab)
Leave a comment