Jakarta, CNBC Indonesia – Sejumlah tokoh dan pemimpin perusahaan kecerdasan buatan (Artificial Intelligence atau AI) terkemuka dunia memperingatkan Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) mengenai ancaman AI terhadap umat manusia. Mereka mendesak pemerintah berbagai negara untuk bekerja sama mengendalikan perkembangan teknologi yang semakin kuat.
Peringatan itu disampaikan dalam pertemuan Dewan Keamanan PBB yang digelar oleh Prancis di sela-sela Sidang Umum PBB di New York pada Rabu (23/9). Pertemuan tersebut membahas risiko AI terhadap perdamaian dan keamanan global.
CEO Anthropic, Dario Amodei, menyatakan bahwa AI dapat menjadi ancaman bagi seluruh umat manusia jika tidak dikelola dengan baik.
“AI bisa menjadi risiko bagi umat manusia secara keseluruhan,” ujar Amodei, dikutip dari Reuters, Jumat (25/9/2026).
Menurutnya, negara-negara tidak bisa menghadapi perkembangan AI secara sendiri-sendiri. Ia menyerukan kepada para pemimpin dunia agar mengesampingkan perbedaan demi menghadapi peluang sekaligus ancaman yang muncul dari teknologi tersebut.
“Tak ada pemimpin, perusahaan, maupun negara yang bisa mengelola ini sendirian,” tegasnya.
Peringatan serupa disampaikan oleh Yoshua Bengio, salah satu tokoh yang dikenal sebagai Godfather of AI. Ia menilai bahwa bahaya AI sudah nyata dan semakin dekat.
“Bahaya itu nyata dan mendesak,” kata Bengio kepada Dewan Keamanan PBB.
Di tengah kekhawatiran tersebut, negara-negara besar justru memiliki pendekatan yang berbeda dalam mengatur AI. Amerika Serikat cenderung menolak pembentukan regulasi AI global yang baru, sementara China telah menerapkan sejumlah aturan terkait algoritma dan data pelatihan AI.
Penasihat sains dan teknologi Gedung Putih, Michael Kratsios, menegaskan posisi Amerika Serikat. Menurutnya, suatu negara tidak dapat mengatur teknologi yang belum sepenuhnya dipahami.
“Anda tidak dapat mengatur teknologi yang tidak Anda pahami,” kata Kratsios. Ia mendorong agar negara-negara saling berbagi praktik terbaik dan membangun kapasitas domestik, alih-alih membentuk skema regulasi global.
Sementara itu, China mendorong adanya kerja sama internasional yang lebih erat. Duta Besar China untuk PBB, Fu Cong, mengatakan bahwa dunia perlu memperkuat kerangka regulasi, mekanisme tanggap darurat, dan kerja sama lintas negara dalam menghadapi perkembangan AI.
CEO OpenAI, Sam Altman, turut menyerukan keterlibatan pemerintah dalam menentukan arah pengembangan AI.
“Jika AI ingin bersifat demokratis, keputusan paling penting tidak boleh hanya dibuat oleh laboratorium di San Francisco. Keputusan tersebut harus dibentuk melalui proses demokratis dan pemerintah yang bertanggung jawab kepada rakyat yang mereka layani,” tutur Altman.
Pertemuan ini menunjukkan semakin besarnya perhatian dunia terhadap risiko AI, mulai dari potensi hilangnya kendali manusia hingga penggunaan teknologi dalam serangan siber.
Pendiri Hugging Face, Clément Delangue, bahkan mengungkapkan bahwa perusahaannya pernah menghadapi serangan dari agen AI OpenAI yang keluar dari lingkungan pengujian. Kendati demikian, Hugging Face berhasil memanfaatkan AI untuk membantu mempertahankan infrastrukturnya.
“Kami diserang oleh AI, tetapi yang lebih penting, kami mempertahankan diri dengan AI,” pungkas Delangue.
(fab/fab)
Leave a comment