Chapnews – Nasional – Bareskrim Polri dan Kementerian Komunikasi dan Informatika (Komdigi) dengan tegas menyoroti maraknya fenomena manipulasi foto pribadi menjadi konten asusila menggunakan fitur kecerdasan buatan (AI) Grok di platform media sosial X. Pihak kepolisian menyatakan tindakan ini merupakan kategori tindak pidana serius, sementara Komdigi mengancam sanksi berat bagi platform yang tidak menunjukkan kepatuhan dan kerja sama.
Brigjen Himawan Bayu Aji, Direktur Tindak Pidana Siber Bareskrim Polri, menegaskan bahwa tindakan pengeditan foto tanpa persetujuan pemilik untuk tujuan asusila ini dikategorikan sebagai deepfake dan merupakan tindak pidana serius. "Perkembangan teknologi saat ini memang mengarah pada kecerdasan buatan, termasuk deepfake. Pihak kami kini tengah melakukan penyelidikan intensif terkait kasus-kasus semacam ini," ujar Himawan dalam konferensi pers baru-baru ini. Ia menambahkan, jika terbukti adanya manipulasi data elektronik pada foto tanpa izin, pelakunya akan menghadapi konsekuensi hukum yang tegas.
Sementara itu, Kementerian Komunikasi dan Informatika (Komdigi) turut angkat bicara, melayangkan peringatan keras kepada Grok AI dan platform X. Keduanya berpotensi menghadapi sanksi administratif, bahkan hingga pemutusan akses, jika tidak menunjukkan kepatuhan dan kerja sama terhadap regulasi yang berlaku di Indonesia. Ancaman ini muncul menanggapi dugaan penyalahgunaan fitur Grok AI yang dimanfaatkan untuk memproduksi dan menyebarkan konten pornografi, termasuk manipulasi citra pribadi tanpa persetujuan.
Dirjen Pengawasan Ruang Digital Komdigi, Alexander Sabar, menekankan bahwa X sebagai Penyelenggara Sistem Elektronik (PSE) memiliki kewajiban hukum yang tak bisa ditawar untuk mematuhi peraturan perundang-undangan di Indonesia. Alexander juga memperingatkan bahwa baik penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak, akan dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.
Fenomena ini menjadi perhatian serius mengingat dampak negatif yang merugikan terhadap privasi dan keamanan digital individu. Dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, ketentuan terkait konten pornografi, khususnya Pasal 172 dan Pasal 407, akan menjadi payung hukum yang kokoh untuk menindak tegas para pelaku.
