Ancaman Deepfake Kian Nyata, Apa Langkah Konkret Pemerintah?

Jakarta, CNN Indonesia —

Ancaman Keahlian kecerdasan buatan (AI) deepfake Lebih nyata, Bersama Lebih banyak orang menjadi korban hasil akal imitasi tersebut. Lantas, apa langkah pemerintah menangkal ancaman tersebut?

Kementerian Komunikasi dan Digital (Komdigi) Membeberkan pihaknya terus memperkuat upaya perlindungan Komunitas Hingga ruang digital Melewati tiga strategi utama, yakni peningkatan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak.

“Komdigi berkomitmen menciptakan ruang digital yang aman Bagi semua. Kami gencar melakukan literasi digital, melakukan takedown Di konten negatif, dan bekerja sama Bersama aparat penegak hukum Bagi menindak kejahatan digital,”kata Wamenkomdigi Nezar Patria Di keterangan resminya, Jumat (25/7).

Nezar Membeberkan tantangan terbesar Pada ini datang Bersama penyalahgunaan Keahlian seperti deepfake AI yang makin canggih. Konten manipulatif visual dan audio ini tidak hanya menyesatkan, tapi juga menyasar kelompok rentan seperti perempuan dan anak.

Deepfake menggunakan AI Bagi menghasilkan video atau audio yang benar-benar Mutakhir, Bersama tujuan akhir Bagi menggambarkan sesuatu yang sebenarnya tidak terjadi Ke kenyataannya.

Istilah ‘deepfake’ berasal Bersama Keahlian yang mendasarinya, yakni Logika pembelajaran mendalam, yang memungkinkan mesin belajar sendiri Bagi memecahkan masalah Bersama kumpulan data yang besar dan dapat digunakan Bagi membuat konten palsu Bersama orang sungguhan.

“Gelombang perkembangan Keahlian membuka Kemungkinan luar biasa, tapi juga membuka celah ancaman yang melemahkan kepercayaan antarmasyarakat,” jelas Nezar.

Ia mengutip laporan Sensity AI yang Menunjukkan lonjakan 550 persen Tindak Kejahatan deepfake Dari 2019 dan menyebutkan bahwa 90 persen Hingga antaranya digunakan Bagi tujuan berbahaya.

“Yang paling terdampak adalah perempuan dan anak. Setidaknya 11 perempuan usia 15 sampai 29 tahun pernah Merasakan Tindak Kekerasan berbasis gender online Dari usia belia,” ujarnya.

Merespons Situasi tersebut, Komdigi menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 atau PP TUNAS yang mengatur penyelenggaraan sistem elektronik Bagi perlindungan anak.

“Di Kontek Sini, kami berharap Hingga tingkat Daerah sosialisasinya bisa lebih intensif Bagi semua pemangku kepentingan, terutama Hingga sekolah dan komunitas,” tutur dia.

Ia menekankan arti penting literasi digital sebagai Kekuatan dasar, termasuk kemampuan kritis Di memilah informasi dan menjaga Kerahasiaan data.

“AI seharusnya menjadi teman Bagi berimajinasi dan Berkreasi, bukan Bagi membahayakan atau merugikan orang lain,” jelasnya.

Bahaya deepfake

Sebagaimana Keahlian AI lainnya, deepfake juga bak pedang bermata dua. Hingga satu sisi dapat memberi manfaat, tapi Hingga sisi lain dapat Memberi dampak negatif.

Beberapa waktu lalu kepolisian Inggris memperingatkan kecerdasan buatan Lebih sering digunakan Bagi berbagai kejahatan seperti Kejahatan Finansial, pelecehan seksual, hingga eksploitasi anak.

Alex Murray, Kepala Polisi Nasional bidang AI, mengungkapkan aksesibilitas Keahlian yang Lebih mudah menjadi faktor utama peningkatan penggunanya Bersama pelaku kriminal.

“Kita tahu Bersama sejarah kepolisian bahwa penjahat itu kreatif dan Akansegera menggunakan apa pun Bagi melakukan kejahatan. Mereka sekarang menggunakan AI Bagi melakukan kejahatan,” kata Murray, mengutip The Guardian beberapa waktu lalu.

Kejahatan ini bisa terjadi Di skala internasional maupun Hingga tingkat individu.

Salah satu kejahatan AI yang berkembang pesat adalah penggunaan Keahlian deepfake Bagi melakukan Kejahatan Finansial berskala besar. Murray mengungkapkan contoh Tindak Kejahatan Kejahatan Finansial menggunakan video deepfake Bagi menyamar sebagai eksekutif perusahaan.

Penggunaan AI yang paling mengkhawatirkan adalah Bagi menciptakan konten pelecehan anak. Keahlian generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal.

(dmi/dmi)