Ancaman dari teknologi kecerdasan buatan (AI) deepfake semakin nyata, membuat banyak orang menjadi korban dari akal imitasi tersebut. Pemerintah pun dihadapkan pada pertanyaan tentang langkah konkret yang diambil untuk menangkal ancaman ini. Kementerian Komunikasi dan Informatika (Kemkominfo) sebagai instansi yang mengatur bidang ini, mengungkapkan bahwa mereka terus memperkuat upaya perlindungan masyarakat di ruang digital. Tiga strategi utama yang diterapkan adalah peningkatan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak.
Wamenkominfo Nezar Patria menegaskan komitmennya untuk menciptakan ruang digital yang aman bagi semua orang. Salah satu tantangan terbesar yang dihadapi adalah penyalahgunaan teknologi seperti deepfake AI yang semakin canggih. Konten manipulatif visual dan audio tersebut tidak hanya menyesatkan, tetapi juga menargetkan kelompok rentan seperti perempuan dan anak-anak. Deepfake sendiri menggunakan kecerdasan buatan untuk membuat video atau audio palsu dengan tujuan menyesatkan.
Perkembangan teknologi memang membawa manfaat, namun juga membawa ancaman yang merusak kepercayaan antarmasyarakat. Lonjakan kasus deepfake sejak tahun 2019 mencapai 550 persen berdasarkan laporan Sensity AI, dimana 90 persennya digunakan untuk tujuan berbahaya. Perempuan dan anak-anak menjadi korban terbesar dari ancaman ini, dengan kasus kekerasan berbasis gender online yang semakin meningkat. Dalam merespons kondisi ini, Kemkominfo menerbitkan Peraturan Pemerintah untuk perlindungan anak di platform digital.
Literasi digital menjadi kunci dalam melawan ancaman deepfake dan teknologi lainnya. Nezar menekankan pentingnya keterampilan dasar dalam memilah informasi dan menjaga privasi data. Deepfake juga dianggap sebagai pedang bermata dua, membawa manfaat sekaligus dampak negatif. Polisi Inggris bahkan memperingatkan bahwa kecerdasan buatan semakin sering digunakan untuk berbagai kejahatan, seperti penipuan, pelecehan seksual, dan eksploitasi anak. Masyarakat dituntut untuk waspada terhadap ancaman deepfake guna mencegah penyalahgunaan teknologi tersebut.
