DINEWS.ID – Pemerintah melalui Kementerian Komunikasi dan Digital (Kemenkomdigi) mendorong platform digital global menghadirkan fitur pengecekan untuk mengenali konten yang dibuat oleh artificial intelligence (AI). Fitur ini dinilai penting untuk membantu masyarakat menangkal hoaks dan deepfake.
Deepfake adalah manipulasi berbasis AI yang mampu mengubah wajah, suara, atau ekspresi seseorang dalam video hingga terlihat sangat nyata.
Wakil Menteri Komunikasi dan Digital Nezar Patria mengatakan, pihaknya berharap platform media sosial global menyediakan fitur untuk memfilter atau mengecek konten buatan AI. Fitur ini diharapkan dapat diakses publik secara gratis agar pemanfaatannya inklusif.
“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” kata Nezar, Rabu (10/9/2025).
Menurut data Sensity AI, konten deepfake meningkat 550% dalam lima tahun terakhir. Nezar memperkirakan jumlah sebenarnya bisa lebih besar, mengingat kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif.
Nezar menambahkan, platform memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik, khususnya dalam mendeteksi hoaks dan konten manipulatif.
Pemerintah berupaya menyeimbangkan inovasi dan regulasi agar AI tidak disalahgunakan. Indonesia telah memiliki perangkat hukum seperti UU ITE, UU PDP, PP TUNAS, dan sejumlah peraturan teknis. Selain itu, regulasi khusus terkait pemanfaatan AI yang etis, bermakna, dan bertanggung jawab juga tengah disiapkan.
Kemenkomdigi bekerja sama dengan berbagai pihak, termasuk Mafindo dan media, dalam program cek fakta. “Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar.
Awalnya dikembangkan untuk industri kreatif, teknologi deepfake kini sering disalahgunakan untuk penipuan, pencemaran nama baik, hingga penyebaran hoaks politik. Beberapa tokoh, termasuk mantan Menteri Keuangan Sri Mulyani, menjadi target manipulasi ini.
