China Pastikan Perkembangan AI Lebihterus Lepas Kendali dan Membahayakan

BEIJING – Peringatan Bersama para peneliti Ke perusahaan Pembaruan kecerdasan buatan (AI) Amerika, Anthropic, tentang risiko bahwa model yang Lebihterus canggih dapat lepas kendali Bersama manusia.

Para pembuat Keputusan Ke sana juga telah mulai Membuat kerangka kerja dan langkah-langkah Sebagai mengatasi risiko serupa.

Amerika Serikat dan Tiongkok Pada ini merupakan dua penggerak utama Pembaruan Ilmu Pengetahuan AI canggih dan penerapannya secara Internasional.

Ke Di meningkatnya perbedaan pendapat Di kedua Bangsa mengenai Keputusan AI dan praktik industri masing-masing, Topik-Topik ini diperkirakan Akansegera menjadi inti Bersama pembicaraan bilateral yang Akansegera berlangsung Ke akhir September.

Terlepas Bersama persaingan yang Lebihterus ketat Sebagai Membuat sistem AI, kerangka hukum dan pernyataan Bersama pejabat Tiongkok Menunjukkan bahwa Beijing memandang risiko AI canggih yang melampaui kemampuan pengawasan manusia yang efektif sebagai masalah serius yang membutuhkan kesiapan.

Ke tanggal 13 September, Pembantu Pemimpin Negara Keselamatan Bangsa Tiongkok Chen Yixin menulis Ke situs web sebuah kantor beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan risiko serius Bagi infrastruktur informasi penting Tiongkok. Ia menyerukan penguatan komprehensif Di langkah-langkah Keselamatan AI.

Para pengembang AI Tiongkok Terbaru-Terbaru ini mempromosikan penggunaan model berbobot terbuka, sebagian Lantaran Skuat Keselamatan siber dapat menguji, memodifikasi, dan menerapkan model-model ini Sebagai tujuan Defender.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka yang dikembangkan Bersama perusahaan Tiongkok Z.AI, Sebagai Membahas intrusi bulan Juli yang melibatkan agen AI “Ke luar kendali” Bersama OpenAI. Keputusan ini diambil Sesudah model-model AS yang lebih terkontrol terbukti kurang efektif Di forensik digital.

Tetapi, para ahli juga memperingatkan tentang potensi risiko model berbobot terbuka, Lantaran model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.