Hati-Hati! Deepfake dan Voice Cloning Makin Marak, Warga Diimbau Lebih Waspada

SuaraJogja.id - Kantor Wilayah Kementerian Hukum DIY mengingatkan masyarakat agar lebih waspada terhadap maraknya kejahatan digital yang memanfaatkan kecerdasan buatan atau Artificial Intelligence (AI). 

Kepala Kanwil Kemenkum DIY, Agung Rektono Seto mengungkap bahwa kasus penipuan berbasis AI itu semakin meningkat.

Modus yang digunakan pun semakin canggih sehingga membuat masyarakat sulit membedakan mana konten asli dan mana yang telah dimanipulasi.

Dipaparkan Agung bahwa ada dua bentuk kejahatan yang paling banyak muncul adalah deepfake video dan voice cloning.

Deepfake video merupakan teknik manipulasi visual dengan memanfaatkan kecerdasan buatan untuk mengubah wajah seseorang dalam sebuah video sehingga tampak seperti tokoh, pejabat, atau orang yang dikenal korban. 

Dalam beberapa kasus, pelaku menggunakan deepfake untuk membuat video palsu yang seolah-olah berisi instruksi penting atau ajakan tertentu.

"Video deepfake ini sangat meyakinkan. Jika masyarakat tidak teliti, mereka akan percaya seolah-olah video itu benar-benar datang dari orang yang mereka kenal," kata Agung dikutip, Rabu (26/11/2025).

Selain itu, voice cloning juga menjadi ancaman serius. Melalui teknologi AI, pelaku dapat meniru suara seseorang dengan tingkat kemiripan yang sangat tinggi. 

Suara tersebut kemudian digunakan untuk meminta transfer dana, meminta data sensitif, atau memberikan instruksi tertentu yang seolah-olah sah. Pelaku biasanya menyasar korban yang mudah panik, seperti orang tua, anak muda, atau karyawan yang merasa berbicara dengan atasan.

Baca Juga: UGM Siapkan Asisten Virtual Berbasis AI, Bisa Jadi Teman Diskusi Mahasiswa

"Masyarakat harus sangat berhati-hati. Jangan langsung percaya jika mendapat panggilan meminta uang atau data, meski suaranya identik. Pastikan verifikasi terlebih dahulu melalui jalur komunikasi lain," tegasnya.

Kanwil Kemenkum DIY menilai diperlukan literasi digital yang kuat untuk memerangi tindak kejahatan siber berbasis AI ini. Masyarakat didorong untuk lebih waspada terhadap keamanan data pribadi.

Termasik untuk lebih berhati-hati dalam menerima panggilan atau pesan yang mengatasnamakan seseorang. Serta pentingnya tidak sembarangan membagikan informasi pribadi di media sosial.

"Teknologi berkembang sangat cepat, dan pelaku kejahatan memanfaatkannya dengan agresif. Karena itu, kewaspadaan digital masyarakat harus ikut berkembang. Jangan mudah percaya pada video, suara, atau pesan yang tiba-tiba muncul verifikasi adalah kunci," tandasnya.

Oleh sebab itu, Agung berharap masyarakat semakin cerdas, waspada, dan mampu melindungi diri dari berbagai modus penipuan digital yang dapat merugikan secara psikologis maupun finansial.