Blokir Grok di Indonesia Dipicu Konten Deepfake

Blokir Grok di Indonesia dilakukan Kementerian Komunikasi dan Digital (Komdigi) setelah muncul aduan penyalahgunaan fitur tersebut untuk menghasilkan konten pornografi palsu dalam beberapa pekan terakhir. Akses aplikasi Grok pada media sosial X diputus sementara untuk melindungi perempuan, anak, dan masyarakat dari risiko konten tersebut. Keputusan blokir Grok itu diambil setelah pemerintah menilai penyalahgunaan fitur dapat berdampak pada keamanan warga di ruang digital.

Menteri Komunikasi dan Digital Meutya Hafid mengatakan pemerintah juga mendesak platform X segera hadir untuk memberikan klarifikasi mengenai dampak negatif penggunaan Grok. “Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya, Selasa (20/1/2026).

Penyalahgunaan Grok Mendorong Blokir Grok

Grok merupakan fitur kecerdasan buatan pada X yang dapat menjawab percakapan, memahami pertanyaan, dan menghasilkan jawaban bagi pengguna. Fitur itu kemudian menyediakan kemampuan manipulasi gambar atau deepfake. Kemampuan tersebut menjadi perhatian setelah digunakan untuk mengubah foto yang beredar di platform.

Kemampuan tersebut disalahgunakan sebagian pengguna setelah mereka mengutip foto yang beredar di X dan meminta Grok menyuntingnya menggunakan perintah yang menjurus pada pornografi. Penelusuran awal Komdigi menunjukkan Grok belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengatakan kondisi itu berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga. “Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander.

Dampak Deepfake dan Pengawasan Pemerintah

Indonesia dan Malaysia disebut menjadi negara pertama yang memblokir Grok. Dosen Teknik Informatika Universitas Muhammadiyah Surakarta, Gunawan Ariyanto, menilai langkah pemerintah Indonesia tersebut tepat. Menurut dia, protes terhadap penyalahgunaan Grok juga muncul dari sejumlah negara, termasuk Komisi Eropa, Inggris, Perancis, Brasil, Turki, dan India.

Gunawan menjelaskan gambar hasil manipulasi Grok memang palsu, tetapi dampaknya terhadap korban dapat nyata. Korban berisiko mengalami stres, depresi, dan gangguan kesehatan mental. Gambar itu juga dapat menjadi fitnah serta memicu kecaman publik, terutama ketika masyarakat kesulitan membedakan gambar buatan AI dari gambar nyata. Karena itu, pengawasan terhadap penggunaan fitur tersebut dinilai penting untuk mengurangi risiko bagi warga.

Gunawan mendorong pemerintah menyaring fitur AI yang dapat digunakan di Indonesia dan memperketat pemantauan. “Tentunya harus dibarengi dengan monitoring yang ketat oleh pemerintah, agar saat terjadi kasus kembali, pemerintah dapat mengambil tindakan segera,” tandasnya.

Baca berita lain di Pendidikan