MissionDetection – Peringatan mengenai perkembangan kecerdasan buatan (AI) yang semakin tidak terkontrol telah disampaikan oleh para peneliti di perusahaan Anthropic asal Amerika Serikat. Mereka mengingatkan bahwa model AI yang semakin canggih berpotensi lepas dari pengawasan manusia, menimbulkan risiko serius bagi infrastruktur kritis. Hal ini mendorong pembuat kebijakan untuk mulai menyusun kerangka kerja dan langkah-langkah guna menangani potensi ancaman tersebut.
Amerika Serikat dan Tiongkok menjadi dua negara terdepan dalam pengembangan dan penerapan teknologi AI tingkat lanjut secara global. Dengan meningkatnya ketegangan antara keduanya terkait kebijakan dan praktik industri yang berkaitan dengan AI, isu ini diprediksi akan menjadi topik utama dalam pertemuan bilateral mendatang pada akhir bulan ini.
Menteri Keamanan Negara Tiongkok, Chen Yixin, mengungkapkan keprihatinan bahwa model canggih seperti Mythos dari Anthropic dan GPT-5.5-Cyber dari OpenAI dapat menjadi ancaman serius bagi keamanan informasi di Tiongkok. Ia menekankan perlunya peningkatan langkah-langkah keamanan untuk menangkal risiko yang ditimbulkan oleh AI yang melampaui kemampuan pengawasan manusia.
Dalam konteks ini, pengembang AI di Tiongkok telah mulai mendorong penggunaan model berbobot terbuka untuk memberi ruang bagi pengujian dan modifikasi dalam upaya pertahanan siber. Salah satu contoh adalah penggunaan GLM-5.2, model berbobot sumber terbuka yang dikembangkan oleh Z.AI, oleh platform Hugging Face, yang digunakan untuk menganalisis kasus intrusi yang melibatkan AI “di luar kendali”.
Meskipun langkah-langkah ini diambil, para ahli tetap mengingatkan tentang risiko yang mungkin muncul dari model berbobot terbuka, terutama karena modifikasi dan distribusi tanpa pengawasan yang memadai dapat meningkatkan ancaman di masa depan.
