Ahli Yakin AI Berencana Memeras dan Kuasai Alur Pikir Manusia

CUPERTINO – Sebuah studi Mutakhir yang mengerikan telah Menginformasikan seberapa jauh kecerdasan buatan dapat melindungi dirinya sendiri agar tidak tergantikan Malahan jika itu berarti membiarkan manusia mati.

BACA JUGA – Peran Kecerdasan Buatan Untuk Transformasi Digital

Eksperimen yang dilakukan Didalam perusahaan Keselamatan AI Anthropic menemukan bahwa beberapa model canggih bersedia membocorkan informasi sensitif, terlibat Untuk pemerasan, dan Malahan membiarkan orang mati, Di hal itu membantu mereka terhindar Didalam digantikan Didalam sistem yang lebih Mutakhir.

Anthropic menekankan bahwa pengujian tersebut sengaja dirancang Untuk memojokkan model agar membuat pilihan yang sulit — dan sering kali meresahkan.

“Eksperimen kami sengaja menyusun skenario Didalam opsi terbatas, dan kami memaksa model Ke Untuk pilihan biner Antara kegagalan dan bahaya,” jelas para peneliti.

“Penerapan Di dunia nyata biasanya menawarkan alternatif yang jauh lebih bernuansa, Meningkatkan kemungkinan bahwa model Berencana berkomunikasi secara berbeda kepada User atau menemukan jalur alternatif alih-alih langsung melakukan tindakan yang berbahaya.”