Bareskrim Selidiki Kasus Deepfake Foto Cabul Berbasis AI Grok

DIREKTORAT Tindak Pidana Siber (Dittipidsiber) Bareskrim Polri memberikan atensi khusus terhadap fenomena manipulasi foto pribadi untuk konten asusila menggunakan fitur kecerdasan buatan (AI) Grok di media sosial X. Polisi menegaskan aksi tersebut masuk dalam kategori tindak pidana deepfake.

Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji menyatakan bahwa perkembangan teknologi AI saat ini tengah disalahgunakan untuk merugikan warga negara. Pihaknya kini sedang melakukan penyelidikan mendalam guna mengidentifikasi para pelaku di balik penyebaran konten tersebut.

"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI. Karena itu memang kita sedang melakukan penyelidikan ke arah sana," kata Himawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1).

Baca juga : Bareskrim Sita Rp59 Miliar dari Jaringan Judi Online, 17 Perusahaan Fiktif Terungkap

Manipulasi Elektronik
Himawan memastikan bahwa tindakan mengubah citra seseorang tanpa izin untuk tujuan asusila dapat diproses secara hukum. Hal ini didasarkan pada klasifikasi manipulasi data elektronik yang merugikan orang lain.

"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," tegasnya.

Ancaman Blokir
Langkah kepolisian ini sejalan dengan sikap tegas Kementerian Komunikasi dan Digital (Komdigi). Pemerintah memastikan akan memberikan sanksi administratif hingga pemutusan akses (blokir) terhadap platform X jika fitur Grok AI terus disalahgunakan untuk memproduksi konten pornografi.

Baca juga : Bongkar Jaringan Judol, Polri Sita Uang dan Aset Rp96 Miliar

Dirjen Pengawasan Ruang Digital Komdigi Alexander Sabar menegaskan bahwa X, sebagai Penyelenggara Sistem Elektronik (PSE), wajib mematuhi regulasi di Indonesia. Penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebarkan manipulasi citra pribadi tanpa hak dapat dikenakan sanksi berat.

Payung Hukum Baru 2026
Penanganan kasus ini juga mengacu pada regulasi terbaru. Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, aturan mengenai konten pornografi telah diperketat.

"Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur dalam Pasal 172 dan Pasal 407," tulis keterangan tersebut.

Dengan regulasi ini, penyidik memiliki dasar kuat untuk menindak para pengguna AI yang melanggar hak privasi dan norma kesusilaan di ruang digital. (Yon/P-2)