Petaka Besar Ancam Perlombaan AI Dunia

Jakarta, CNN Indonesia —

Perlombaan Dunia Membuat AI dinilai berisiko memicu petaka besar yang dapat meruntuhkan kepercayaan dunia Pada Keahlian.

Menurut Michael Wooldridge, profesor kecerdasan buatan Hingga University of Oxford, tekanan komersial membuat perusahaan Keahlian berlomba merilis produk AI Sebelumnya kemampuan dan risikonya benar-benar dipahami, membuka Potensi terjadinya kegagalan besar layaknya bencana industri Hingga masa lalu.

Dia mencontohkan lonjakan chatbot kecerdasan buatan Didalam batasan Perlindungan yang mudah dilewati sebagai contoh bagaimana insentif komersial diutamakan daripada Pembuatan yang hati-hati dan pengujian Perlindungan.

“Ini adalah skenario Keahlian klasik. Anda Memperoleh Keahlian yang sangat menjanjikan, tetapi belum diuji secara ketat seperti yang Anda harapkan, dan tekanan komersial Hingga baliknya tidak tertahankan,” ujar Wooldridge melansir The Guardian, Selasa (17/2).

Wooldridge mengatakan bahwa petaka besar seperti bencana Hindenburg Hingga era Keahlian AI ini sangat Bisa Jadi terjadi, terlebih Di perusahaan-perusahaan bergegas Sebagai menerapkan alat AI yang lebih canggih.

Bencana Hindenburg terjadi Hingga New Jersey, Amerika Serikat, Di tahun 1937. Di itu, Hindenburg, sebuah kapal udara berukuran 245 meter yang melintasi Samudra Atlantik, Lagi bersiap mendarat Hingga New Jersey Di tahun 1937 tiba-tiba terbakar, menewaskan 36 awak kapal, penumpang, dan staf darat.

Percikan api menyulut 200.000 meter kubik hidrogen yang menjaga kapal udara tetap terbang, menyebabkan kebakaran hebat.

“Bencana Hindenburg menghancurkan minat Dunia Pada balon udara; Dari Di itu, Keahlian tersebut menjadi usang, dan momen serupa merupakan risiko nyata Untuk kecerdasan buatan,” kata Wooldridge.

Menurut dia, Sebab AI terintegrasi Untuk begitu banyak sistem, insiden besar dapat terjadi Hingga hampir semua sektor.

Wooldridge membayangkan skenario yang melibatkan pembaruan Alat lunak mematikan Sebagai Kendaraan Pribadi otonom, serangan siber yang didukung AI yang menghentikan operasional maskapai penerbangan Dunia, dan keruntuhan perusahaan besar yang mirip Didalam Tindak Kejahatan Barings Bank, yang dipicu Dari Kegagalan yang dibuat Dari AI.

“Ini adalah skenario yang sangat, sangat Bisa Jadi terjadi. Ada berbagai cara Hingga mana kecerdasan buatan bisa gagal secara terbuka,” lanjutnya.

Kendati ada kekhawatiran, Wooldridge mengatakan bahwa dia tidak bermaksud Sebagai mengkritik kecerdasan buatan (AI) modern. Dia memulai Didalam Merundingkan ketidakcocokan Di harapan para peneliti dan hasil yang sebenarnya. Banyak ahli mengharapkan AI yang mampu menghitung solusi Sebagai masalah dan Menyediakan jawaban yang tepat dan lengkap.

“Kecerdasan buatan modern tidaklah sempurna atau lengkap: ia sangat, sangat kasar,” ungkap Wooldridge.

Hal ini terjadi Sebab model bahasa besar yang mendasari chatbot AI Di ini menghasilkan jawaban Didalam Meramalkan kata atau Dibagian kata berikutnya berdasarkan distribusi probabilitas yang dipelajari Pada proses pelatihan. Ini mengakibatkan AI Memperoleh kemampuan yang tidak merata, mereka sangat efektif Untuk beberapa tugas Tetapi sangat buruk Untuk tugas lainnya.

Wooldridge mengatakan bahwa masalahnya adalah chatbot AI sering gagal Didalam cara yang tidak terduga, tidak Memahami ketika mereka salah, dan dirancang Sebagai Menyediakan jawaban yang yakin tanpa memedulikan kebenarannya. Ia menambahkan bahwa ketika respons diberikan Didalam cara yang mirip manusia dan mengagungkan, jawaban tersebut dapat Didalam mudah menyesatkan orang.

Ada risiko bahwa orang Berencana mulai memperlakukan AI seolah-olah mereka adalah manusia. Survei tahun 2025 Dari Pusat Sistem Pemerintahan dan Keahlian menemukan bahwa hampir sepertiga siswa melaporkan pernah Memperoleh, atau mengenal seseorang yang pernah Memperoleh, hubungan romantis Didalam AI.

“Perusahaan ingin menampilkan kecerdasan buatan (AI) Didalam cara yang sangat mirip manusia, tetapi menurut saya itu adalah jalan yang sangat berbahaya Sebagai ditempuh,” kata Wooldridge.

“Kita perlu memahami bahwa ini hanyalah spreadsheet yang diperindah, mereka hanyalah alat dan tidak lebih Untuk itu,” lanjutnya.

Wooldridge menemukan hal-hal positif Untuk penggambaran kecerdasan buatan (AI) Di musim-musim awal Star Trek. Untuk episode tahun 1968 berjudul “The Day of the Dove,” Mr. Spock mengajukan pertanyaan kepada Pc Enterprise. Tetapi, Pc tersebut menjawab Didalam suara yang jelas-jelas tidak manusiawi, mengatakan bahwa ia tidak Memperoleh data yang diperlukan.

“Itu bukan yang kita dapatkan. Kita Merasakan AI yang terlalu Kepercayaan Diri yang berkata: ya, inilah jawabannya,” ungkapnya.

“Bisa Jadi kita butuh AI yang berbicara kepada kita Didalam suara Pc Star Trek. Kamu tidak Berencana pernah percaya itu adalah manusia,” tutup Wooldridge.

(wpj/dmi)