Penyalahgunaan AI Kian Meresahkan, Kasus Penipuan Deepfake Capai Rp700 Miliar

SHOWBIZLINE – Perkembangan teknologi kecerdasan buatan (AI) yang pesat telah membawa berbagai kemudahan dalam kehidupan manusia. Namun, di balik manfaatnya, muncul pula sisi gelap yang kini mulai meresahkan.

Salah satu bentuk penyalahgunaan AI yang tengah menjadi sorotan adalah deepfake—teknologi manipulasi visual dan audio yang mampu menciptakan konten palsu seolah-olah nyata.

Di Indonesia, dampak dari penyalahgunaan teknologi ini telah menimbulkan kerugian besar, dengan nilai yang mencapai Rp700 miliar.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, sebagaimana dikutip dari Detik mengungkapkan bahwa kerugian tersebut berasal dari berbagai kasus penipuan siber yang memanfaatkan konten deepfake berbasis AI.

Ia menegaskan bahwa teknologi ini, ketika digunakan untuk tujuan kriminal, memiliki daya tipu yang luar biasa dan dapat menyesatkan masyarakat secara masif.

Pemerintah pun tengah mengambil langkah strategis untuk menanggulangi ancaman ini melalui regulasi dan edukasi publik.

Deepfake dan Modus Penipuan Digital yang Semakin Canggih

Deepfake merupakan teknologi yang memungkinkan manipulasi wajah, suara, dan gerakan seseorang dalam video atau audio, sehingga tampak seolah-olah orang tersebut benar-benar mengucapkan atau melakukan sesuatu.

Dalam konteks penipuan, pelaku kerap menggunakan wajah dan suara tokoh publik atau pejabat untuk menyebarkan informasi palsu, menipu korban, atau bahkan memanipulasi transaksi keuangan.

Modus ini semakin sulit dikenali karena kualitas visual dan audio yang menyerupai aslinya.

Menurut data dari Kementerian Komunikasi dan Digital, konten deepfake telah digunakan untuk menyebarkan hoaks, disinformasi, hingga melakukan penipuan daring yang merugikan masyarakat secara finansial dan psikologis.

Salah satu tantangan terbesar adalah rendahnya kesadaran masyarakat terhadap keberadaan dan bahaya teknologi ini.

Banyak yang masih menganggap konten deepfake sebagai hiburan semata, tanpa menyadari potensi kerusakan yang ditimbulkannya.

Langkah Pemerintah: Regulasi dan Peta Jalan AI Nasional

Menanggapi ancaman ini, pemerintah Indonesia melalui Komdigi tengah menyusun Peta Jalan AI Nasional yang akan dituangkan dalam bentuk Peraturan Presiden.

Regulasi ini bertujuan untuk memastikan bahwa pengembangan dan pemanfaatan AI dilakukan secara etis, transparan, dan akuntabel.

Salah satu poin penting dalam peta jalan tersebut adalah kewajiban bagi pengembang teknologi untuk mencantumkan label atau watermark pada konten yang dihasilkan oleh AI, guna mencegah penyalahgunaan dan meningkatkan literasi digital masyarakat.

Selain itu, penegakan hukum terhadap pelaku kejahatan siber juga diperkuat melalui penerapan Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP), serta Kitab Undang-Undang Hukum Pidana (KUHP).

Pemerintah juga menggandeng aparat penegak hukum dan berbagai pemangku kepentingan untuk memperkuat sistem deteksi dan respons terhadap konten deepfake yang berpotensi merugikan publik.

Edukasi Publik dan Peran Platform Digital

Selain regulasi, edukasi menjadi kunci utama dalam menghadapi penyalahgunaan AI. Pemerintah terus mendorong kampanye literasi digital agar masyarakat lebih waspada terhadap konten manipulatif.

Wamenkomdigi juga mendesak platform digital untuk menyediakan fitur deteksi konten AI, termasuk deepfake, agar pengguna dapat dengan mudah mengidentifikasi konten yang tidak autentik.

Kolaborasi antara pemerintah, sektor swasta, dan masyarakat sipil dinilai penting untuk menciptakan ekosistem digital yang aman dan bertanggung jawab.

Dengan meningkatnya kasus penipuan berbasis AI, urgensi untuk mengatur dan mengawasi penggunaan teknologi ini menjadi semakin nyata.

Tanpa pengawasan yang ketat dan kesadaran kolektif, teknologi yang seharusnya menjadi alat bantu justru bisa berubah menjadi ancaman serius bagi keamanan digital dan kepercayaan publik.