Benarkah AI Bisa Musnahkan Umat Manusia? Ini Kata Bapak AI Dunia

Perkembangan pesat Keahlian kecerdasan buatan (AI) Di memicu perdebatan soal potensi risiko bahaya yang ditimbulkan. Komentar terbaru datang Didalam Yoshua Bengio dan Geoffrey Hinton yang kerap dijuluki “Bapak AI” dunia.

Para peneliti Didalam perusahaan pengembang AI seperti Anthropic, OpenAI, dan Google DeepMind telah memperingatkan kekhawatiran mereka mengenai potensi risiko akibat AI.

Petinggi perusahaan AI, termasuk Sam Altman, Dario Amodei, Demis Hassabis, dan Elon Musk juga telah sepakat mengenai perlunya perlambatan Pembaruan AI serta menyerukan pentingnya regulasi Sebagai menekan dampak buruknya.

Meski Kelompok sudah mulai khawatir mengenai seruan ini, Pemimpin Negara Amerika Serikat (AS) Donald Trump Merespons kekhawatiran dan seruan tersebut Didalam kecaman dan mengatakan perkembangan AI tidak bisa dihentikan. Ia Malahan menyebut kekhawatiran tersebut sebagai hoaks.

Bengio Menyediakan tanggapannya Di pengunduran diri mantan peneliti Anthropic Jacob Coxon yang menyebut AI Berencana membunuh umat manusia Ke akhir dekade ini.

“Perspektif mereka sangat penting Sebagai menjaga agar Kelompok tetap terinformasi dan harus ditanggapi Didalam sangat serius,” tulisnya Ke X, Ke Kamis (10/9).

Untuk unggahan blog pribadinya, Bengio, yang merupakan pelopor utama perkembangan Keahlian modern deep learning, membenarkan bahwa sistem AI Di ini sudah Memperoleh Kemahiran Intrusi dan kekuatan persuasi yang diperlukan Sebagai digunakan melawan kepentingan manusia Didalam cara yang sangat merugikan.

Menurutnya, perlu ada yang mengatur laju kemajuan AI Didalam tidak melatihnya tanpa Peristiwa Pidana Hukum keselamatan yang kuat yang meyakinkan ahli independen.

“Kita tentu harus melanjutkan Studi Sebagai Meninjau tindakan AI, alur pikir mereka, dan Karya Ke Untuk jaringan mereka,” tambahnya.

[Gambas:Twitter]

Sambil Itu, Hinton yang merupakan pelopor jaringan neural dan deep learning Mengungkapkan ada kemungkinan setidaknya 10 persen AI dapat membunuh semua manusia Untuk satu dekade.

“Ini adalah hal yang sangat sulit Sebagai diperkirakan, Lantaran kita belum pernah Merasakan hal seperti ini Sebelumnya Itu. Kita belum pernah menciptakan makhluk yang Bisa Jadi segera lebih pintar Didalam kita,” katanya Untuk wawancara BBC, dikutip Didalam CNBC, Rabu (16/9).

Menurutnya, bukan tidak Bisa Jadi sistem AI dapat merancang Patogen Pc dan melakukan serangan siber yang menghancurkan, sekaligus Patogen biologis yang sangat berbahaya.

Ia mengatakan, ada banyak cara Untuk AI Sebagai menyingkirkan manusia dan kita harus mencari cara Sebagai mendesainnya agar ia tidak Mencari hal itu.

“Kita Memperoleh dua kemungkinan masa Didepan. Pertama, kita menemukan cara Sebagai mengatasi bahaya-bahaya itu Sebelumnya menjadi Ke luar kendali, dan yang kedua, kita tidak menemukannya,” tambah Hinton.

Komentar terbaru juga datang Didalam Aidan Gomez, salah satu pendiri dan CEO perusahaan AI Cohere. Ia menyetujui risiko perkembangan AI yang mengkhawatirkan.

“Saya pikir model-model ini adalah senjata siber paling ampuh yang pernah dibuat, yang pernah kita lihat. Mereka luar biasa Untuk menemukan dan mengeksploitasi kerentanan Untuk skala besar,” ungkapnya.

Gomez merupakan salah satu penulis makalah Studi tahun 2017 berjudul “Attention is All You Need” yang menjadi rujukan model AI terkemuka Di ini.

Merespons sederet insiden siber yang dilakukan Dari model AI yang hilang kendali, Gomez menyebut Perlindungan lingkungan pengujian model AI menentukan keselamatan penggunaan.

“Sistem Perlindungan container yang lemah adalah penyebab terjadinya pembobolan, bukan dorongan inheren Ke sistem otonom (keluar kendali manusia),” kata Gomez.

“Di para pembuat Keputusan Mengkaji bagaimana mengatur AI, mereka harus Memahami bahwa sistem yang berbeda membawa risiko yang berbeda, dan aturan tidak boleh dibentuk semata-mata Dari perusahaan Keahlian besar yang mengejar AGI (Artificial General Intelligence),” tambahnya.

(fta/lom)