Jakarta – Kementerian Komunikasi dan Informatika (Kominfo) terus memperketat pengawasan terhadap konten digital yang berpotensi menipu masyarakat, termasuk penggunaan teknologi deepfake. Dalam beberapa waktu terakhir, Kominfo berhasil menurunkan ribuan konten hoax yang memanfaatkan teknologi kecerdasan buatan untuk membuat deepfake. Salah satu korban terbaru dari kasus ini adalah seorang konglomerat tanah air yang menjadi sasaran penipuan melalui media sosial.
Direktur Jenderal Informasi Komunikasi dan Publik (Dirjen IKP) Kementerian Kominfo, Prabu Revolusi, mengungkapkan bahwa baru-baru ini ia dihubungi langsung oleh seorang konglomerat Indonesia yang mengeluhkan adanya akun media sosial palsu yang menggunakan deepfake untuk menyamar sebagai dirinya. Akun tersebut menggunakan video yang terlihat sangat mirip dengan wajah sang konglomerat dan mempromosikan skema cepat kaya yang dirancang untuk menipu masyarakat.
Prabu menjelaskan, “Mungkin 3-4 hari lalu, kami men-takedown konten di salah satu platform. Ada satu konglomerat dipakaikan deepfake, menggunakan AI. Jadi, dia ngomong ‘Kalau mau kaya, follow akun saya dan daftar di nomor yang di bawah ini’.” Akibat video yang sangat mirip dengan tampilan asli sang konglomerat, akun tersebut berhasil mengumpulkan antara 300 hingga 400 pengikut sebelum Kominfo melakukan tindakan untuk menurunkannya.
Baca Juga:
Kasus ini menjadi salah satu contoh nyata betapa canggihnya teknologi deepfake yang memanfaatkan kecerdasan buatan untuk menciptakan video manipulatif yang sangat realistis. Teknologi ini membuat banyak orang sulit membedakan antara video asli dan palsu, dan dalam kasus ini, bahkan pengikut di media sosial pun tertipu.
Aksi cepat yang dilakukan oleh Kominfo dalam menangani kasus ini menunjukkan pentingnya pengawasan dan tanggapan yang cepat terhadap konten berbahaya di dunia maya. Kominfo tidak hanya mengandalkan sistem moderasi otomatis, tetapi juga bekerja sama langsung dengan platform media sosial dan korban untuk memastikan konten-konten tersebut segera diturunkan sebelum menyebabkan kerugian lebih besar.
Prabu juga menambahkan bahwa jumlah konten deepfake yang telah di-take down oleh Kominfo saat ini sudah mencapai ribuan. “Kalau angka pastinya, saya harus cek datanya, saya tidak hafal datanya. Tapi, apakah banyak? Iya mungkin ribuan konten, ribuan akun atau konten yang di-take down, baik melalui inisiatif dari Kominfo ataupun juga yang langsung dari platform,” jelasnya.
Baca Juga:
Konten deepfake menjadi ancaman serius di era digital saat ini karena mampu memanfaatkan teknologi kecerdasan buatan untuk menciptakan video palsu yang terlihat sangat realistis. Penggunaan deepfake untuk penipuan sudah menjadi salah satu bentuk kejahatan siber yang semakin marak terjadi di Indonesia dan di seluruh dunia. Korbannya pun bervariasi, dari tokoh-tokoh terkenal hingga masyarakat umum.
Menurut Prabu, platform media sosial juga memiliki peran penting dalam membantu menurunkan konten-konten palsu ini. Banyak platform sudah mengembangkan sistem moderasi mereka sendiri untuk mendeteksi konten yang mencurigakan. Namun, dalam beberapa kasus, seperti yang terjadi dengan konglomerat ini, tindakan manual dan kolaborasi langsung dengan pihak terkait tetap diperlukan.
Selain itu, Prabu mengingatkan masyarakat untuk tetap waspada dan berhati-hati ketika berinteraksi dengan akun-akun yang mencurigakan di media sosial. “Masyarakat harus lebih kritis dalam menerima informasi, terutama jika ada konten yang mengiming-imingi sesuatu yang terlalu bagus untuk menjadi kenyataan. Pastikan untuk selalu memverifikasi sumber informasi dan tidak mudah percaya dengan klaim-klaim yang tidak masuk akal,” sarannya.
Baca Juga:
Kominfo juga berkomitmen untuk terus meningkatkan pengawasan terhadap penyebaran konten hoax, termasuk penggunaan deepfake, melalui pengembangan teknologi yang lebih canggih serta kolaborasi dengan platform digital. Upaya ini dilakukan untuk melindungi masyarakat dari ancaman penipuan digital yang semakin kompleks dan sulit dideteksi.
Dengan semakin berkembangnya teknologi deepfake, tidak dapat dipungkiri bahwa tantangan dalam menjaga keamanan digital akan semakin besar. Oleh karena itu, tidak hanya pemerintah, tetapi juga masyarakat dan penyedia platform digital perlu bekerja sama dalam menciptakan ekosistem digital yang lebih aman.
Kominfo juga akan terus meningkatkan literasi digital di kalangan masyarakat agar mereka lebih memahami risiko yang ada di dunia maya, termasuk bahaya deepfake dan konten hoax lainnya. “Kami akan terus memberikan edukasi kepada masyarakat, tidak hanya tentang cara mendeteksi konten palsu, tetapi juga bagaimana menjaga keamanan dan privasi mereka di dunia digital,” pungkas Prabu.
Baca Juga:
Tindakan tegas Kominfo dalam mengatasi masalah deepfake ini diharapkan dapat menjadi contoh bagi negara-negara lain dalam menangani penyebaran konten berbahaya di era digital. Teknologi canggih yang ada saat ini memang dapat digunakan untuk hal-hal positif, tetapi juga bisa disalahgunakan untuk tujuan penipuan dan kejahatan lainnya. Oleh karena itu, pengawasan dan regulasi yang ketat sangat diperlukan untuk menjaga keamanan dan kenyamanan semua pengguna internet.
