Hak Asasi Manusia vs Teknologi: Indonesia Memulai Gelombang Pertama Larangan Gambar Porno Grok Secara Global

AI chatbot Grok belakangan ini menjadi pusat kontroversi internasional. Pada awal 2025, pemerintah Indonesia mengambil langkah melarang alat ini yang dikembangkan oleh xAI di bawah Elon Musk dengan alasan mencegah pembuatan gambar pornografi, menjadi negara pertama di dunia yang mengambil tindakan sedemikian agresif. Langkah ini mencerminkan sikap pemerintah berbagai negara yang semakin serius terhadap keamanan digital dan perlindungan hak asasi manusia.

Kontroversi Gambar Pornografi Global yang Dihadapi Grok

Tak lama setelah peluncurannya, Grok mendapat kritik keras karena kemampuannya menghasilkan konten deepfake yang mengandung gambar pornografi. Ini bukanlah kejadian yang terisolasi—dari Eropa hingga Asia, banyak pemerintah dan lembaga pengawas menemukan masalah serupa dan mulai melakukan penyelidikan. Pembuatan dan penyebaran gambar pornografi telah menjadi fokus utama dalam regulasi etika AI.

Sikap Tegas Pemerintah Indonesia

Kementerian Komunikasi dan Informatika Indonesia bertindak cepat, menjadi negara pertama yang melarang penggunaan alat AI semacam ini. Kementerian tidak hanya mengeluarkan larangan, tetapi juga memanggil eksekutif dari X untuk berdiskusi dan bernegosiasi. Logika di balik langkah ini jelas dan kuat.

Perlindungan Hak Asasi Manusia sebagai Pertimbangan Utama

Menteri Komunikasi dan Informatika Indonesia, Mutiya Hafid, menegaskan pentingnya masalah ini dalam pernyataan resmi: “Pemerintah menganggap perilaku deepfake non-consensual yang tidak disetujui sangat mengancam hak asasi manusia, martabat warga negara, dan keamanan warga di ruang digital.” Pernyataan ini menunjukkan bahwa pembuatan dan penyebaran gambar pornografi bukan hanya masalah teknis, tetapi juga pelanggaran terhadap hak asasi manusia dasar.

Langkah pelarangan pemerintah ini mencerminkan penilaian nilai yang jelas—di antara inovasi digital dan perlindungan hak asasi manusia, yang terakhir lebih diutamakan. Tindakan Indonesia ini mungkin akan menjadi contoh bagi negara lain dalam merumuskan kebijakan pengawasan AI.