Grok dilarang di Indonesia karena konten gambar pornografi, menjadikannya negara pertama di dunia yang mengambil tindakan

Asisten AI Grok di bawah naungan Elon Musk mengalami penindasan keras di Indonesia karena masalah konten yang tidak pantas. Kementerian Komunikasi dan Informatika Indonesia baru-baru ini mengumumkan penonaktifan sementara layanan tersebut, dengan alasan mempertimbangkan keamanan pengguna dan perlindungan hak asasi manusia. Langkah ini menandai Grok sebagai tindakan regulasi tingkat nasional pertama yang secara resmi dilarang aksesnya, mencerminkan kekhawatiran global terhadap konten yang dihasilkan AI.

Risiko gambar pornografi memicu perhatian dari berbagai negara

Risiko potensial dari chatbot AI telah menarik perhatian internasional. Kinerja Grok dalam menghasilkan gambar pornografi dan konten tidak pantas lainnya telah memicu kecaman bersama dari pemerintah di Eropa hingga Asia. Beberapa lembaga pengatur telah melakukan penyelidikan mendalam terhadap perilaku semacam ini, mengungkapkan adanya celah yang jelas dalam perlindungan keamanan teknologi AI. Ini tidak hanya mengancam privasi pengguna, tetapi juga menimbulkan tantangan bagi ekosistem digital secara keseluruhan.

Pemerintah menegaskan perlindungan hak asasi manusia dan keamanan digital

Menteri Komunikasi dan Informatika Indonesia, Mutiya Hafid, secara tegas menyatakan dalam pernyataan resmi bahwa konten deepfake yang tidak disetujui dan non-voluntary merupakan ancaman serius terhadap hak asasi manusia, martabat warga negara, dan keamanan ruang digital. Departemen tersebut kemudian memanggil eksekutif X untuk berdiskusi, berusaha mendorong platform tersebut mengambil langkah-langkah pengelolaan konten yang lebih tegas. Intervensi pemerintah ini menunjukkan bahwa berbagai negara semakin proaktif dalam menghadapi risiko terkait AI.