Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan kecerdasan buatan Grok AI di platform X untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemilik.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan hasil penelusuran awal menemukan Grok AI belum memiliki pengaturan memadai untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto warga Indonesia. Celah ini berpotensi melanggar privasi dan hak atas citra diri.
“Grok AI belum memiliki pengaturan spesifik untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” kata Alexander di Jakarta, Rabu (7/1/2026).
Kemkomdigi menilai manipulasi foto pribadi bukan sekadar pelanggaran kesusilaan. Praktik ini merampas kendali individu atas identitas visual dan berisiko menimbulkan dampak psikologis, sosial, serta kerusakan reputasi.
Saat ini, Kemkomdigi berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memperkuat perlindungan. Langkah ini mencakup penguatan moderasi konten, pencegahan deepfake asusila, serta percepatan penanganan laporan pelanggaran privasi.
“Setiap PSE wajib memastikan teknologinya tidak menjadi alat pelanggaran privasi, eksploitasi seksual, atau perusakan martabat manusia,” tegas Alexander.
Kemkomdigi menegaskan seluruh PSE wajib mematuhi hukum Indonesia. Jika PSE tidak patuh atau tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga memutus akses layanan Grok AI dan platform X.
Selain sanksi administratif, aparat penegak hukum dapat menindak penyedia layanan dan pengguna yang memproduksi atau menyebarkan konten pornografi dan manipulasi citra pribadi tanpa hak.
Sejak KUHP baru berlaku pada 2 Januari 2026, Pasal 172 dan Pasal 407 mengatur pornografi. Pasal 407 mengancam pelaku dengan pidana penjara enam hingga sepuluh tahun atau pidana denda.
Alexander juga mendorong korban manipulasi foto dan deepfake asusila melapor ke aparat penegak hukum dan mengadukan kasusnya ke Kemkomdigi.
“Kami mengingatkan semua pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital tetap tunduk pada hukum dan wajib melindungi privasi warga,” ujar Alexander.
Editor: Yuli
