Ancaman teknologi deepfake semakin nyata, dengan semakin banyak orang menjadi korban hasil imitasi AI tersebut. Untuk mengatasi ancaman ini, Kementerian Komunikasi dan Informatika (Kominfo) terus memperkuat upaya perlindungan masyarakat di ruang digital melalui tiga strategi utama. Strategi tersebut mencakup peningkatan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak.
Wamenkominfo Nezar Patria menyatakan komitmen Kominfo untuk menciptakan ruang digital yang aman bagi semua. Mereka aktif melakukan literasi digital, menghapus konten negatif, dan bekerja sama dengan penegak hukum untuk menindak kejahatan digital. Tantangan terbesar saat ini adalah penyalahgunaan teknologi seperti deepfake AI yang semakin canggih dan menyesatkan, terutama merugikan kelompok rentan seperti perempuan dan anak.
Deepfake menggunakan AI untuk membuat konten palsu berupa video atau audio yang menyesatkan. Meskipun teknologi ini menawarkan potensi luar biasa, namun juga membawa risiko penyalahgunaan yang dapat mengancam kepercayaan masyarakat. Sensity AI melaporkan peningkatan 550 persen kasus deepfake sejak 2019, dengan 90 persen digunakan untuk tujuan berbahaya. Hal ini mengakibatkan perempuan dan anak menjadi kelompok yang paling terdampak.
Untuk merespons kondisi ini, Kominfo menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 yang mengatur perlindungan anak di ranah digital. Pentingnya literasi digital sebagai keterampilan dasar, termasuk kemampuan memilah informasi dan menjaga privasi data, harus ditanamkan pada semua pemangku kepentingan, terutama di sekolah dan komunitas. Nezar juga menekankan bahwa AI harus digunakan untuk hal-hal positif dan tidak merugikan orang lain.
Selain memberikan manfaat, deepfake juga memiliki potensi dampak negatif yang signifikan. Kepolisian Inggris memperingatkan bahwa kecerdasan buatan semakin sering digunakan untuk kejahatan, seperti penipuan, pelecehan seksual, dan eksploitasi anak. Teknologi deepfake digunakan secara ilegal dalam kasus-kasus penipuan dan pelecehan anak, yang menjadi ancaman serius yang harus ditanggulangi.
