JAKARTA, Bharata Online - Pemerintah melalui Kementerian Komunikasi dan Digital (Kominfo) melakukan pemutusan akses sementara terhadap aplikasi Grok untuk melindungi perempuan, anak, dan masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan menggunakan kecerdasan buatan.

Ditegaskan oleh Menteri Komunikasi dan Digital, Meutya Hafid, pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

Pemutusan sementara akses ini dilakukan sebagai langkah preventif serta korektif. Pemerintah menilai penting memastikan setiap platform digital memiliki mekanisme pengamanan yang memadai agar tidak dimanfaatkan untuk memproduksi atau menyebarkan konten terlarang. Tindakan ini didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat

Dalam regulasi tersebut, penyelenggara sistem elektronik diwajibkan memastikan sistemnya tidak memuat atau menyebarkan konten yang dilarang peraturan perundang-undangan. Selain itu Kominfo jugameminta Platform X untuk segera memberikan klarifikasi terkait dampak negatif penggunaan Grok dan langkah mitigasi yang akan dilakukan.

Grok sendiri menuai kritik internasional karena memungkinkan pembuatan gambar bermuatan pornografi. Grok menyatakan bahwa hanya pelanggan berbayar di Platform X yang dapat membuat dan mengedit gambar, meskipun muncul tudingan bahwa pembuatan gambar tetap bisa dilakukan tanpa berlangganan.

Selain Indonesia, beberapa negara secara terbuka mengecam Platform X dan Grok, antara lain Inggris, Uni Eropa, dan India. Uni Eropa meminta xAI menyimpan seluruh dokumentasi terkait chatbot Grok, sementara India memerintahkan Platform X untuk segera melakukan perubahan agar penyalahgunaan fitur tidak terjadi lagi. Pemerintah India juga mengancam pencabutan perlindungan safe harbor jika perubahan tidak dilakukan. Lembaga pengawas komunikasi Inggris turut menghubungi xAI terkait masalah penyalahgunaan Grok.

[Pantau]