Lindungi Perempuan dan Anak, Pemerintah Hentikan Akses Grok AI di Indonesia

id.sukabumikita.id/ – Kementerian Komunikasi dan Digital (Komdigi) memutuskan memblokir sementara aplikasi Grok AI setelah diduga disalahgunakan untuk pembuatan dan penyebaran konten deepfake asusila di platform X. Langkah ini diambil sebagai upaya melindungi masyarakat, khususnya perempuan dan anak, dari risiko kejahatan berbasis kecerdasan artifisial.

Menteri Komunikasi dan Digital Meutya Hafid mengatakan pemutusan akses sementara tersebut merupakan bentuk kehadiran negara dalam menjaga ruang digital agar tetap aman, bermartabat, dan menghormati hak asasi manusia.

“Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam keterangan tertulisnya, Sabtu (10/01/2026).

Menurut Meutya, tindakan tersebut dilakukan berdasarkan kewenangan Kementerian Komdigi sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya Pasal 9. Dalam aturan itu ditegaskan bahwa setiap PSE wajib memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan konten yang dilarang.

Selain memblokir sementara Grok AI, Komdigi juga meminta platform X untuk segera memberikan klarifikasi terkait dampak negatif penggunaan teknologi tersebut.

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” tegas Meutya.

Sebelumnya, Kementerian Komdigi menindaklanjuti laporan dan temuan terkait dugaan penyalahgunaan fitur kecerdasan buatan Grok AI untuk memproduksi dan menyebarkan konten asusila. Grok AI juga diduga digunakan untuk memanipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah pembuatan serta distribusi konten deepfake asusila berbasis foto nyata warga Indonesia.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten asusila berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak atas citra diri,” ujar Alexander, Rabu (07/01/2026).

Menurut Alexander, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, tetapi juga merupakan bentuk perampasan kendali individu atas identitas visualnya. Dampaknya dapat menimbulkan kerugian psikologis, sosial, hingga merusak reputasi korban.

Komdigi saat ini terus berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memastikan tersedianya mekanisme perlindungan yang efektif, mulai dari penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, hingga prosedur penanganan cepat atas laporan pelanggaran privasi.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.

Kementerian Komdigi juga mengingatkan bahwa kewajiban mematuhi peraturan perundang-undangan Indonesia melekat pada seluruh PSE yang beroperasi di wilayah Indonesia. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah tidak segan menjatuhkan sanksi administratif, termasuk pemutusan akses layanan Grok AI maupun platform X. (Cr5)