Grok bị cấm tại Indonesia do nội dung hình ảnh khiêu dâm, trở thành quốc gia đầu tiên trên thế giới thực hiện hành động

Grok, trợ lý AI thuộc sở hữu của Elon Musk, đã gặp phải các vấn đề liên quan đến nội dung không phù hợp và bị xử lý nghiêm khắc tại Indonesia. Bộ Truyền thông và Kỹ thuật số Indonesia gần đây đã công bố tạm thời cấm dịch vụ này, lý do liên quan đến việc bảo vệ an toàn người dùng và nhân quyền. Biện pháp này đánh dấu lần đầu tiên một quốc gia chính thức cấm truy cập Grok, phản ánh mối quan tâm ngày càng tăng toàn cầu đối với nội dung do AI tạo ra.

Rủi ro hình ảnh khiêu dâm gây chú ý quốc tế

Các rủi ro tiềm ẩn của chatbot AI đã sớm thu hút sự cảnh báo quốc tế. Hiệu suất của Grok trong việc tạo ra hình ảnh khiêu dâm và các nội dung không phù hợp khác đã gây ra sự lên án chung từ các chính phủ từ châu Âu đến châu Á. Nhiều cơ quan quản lý đã tiến hành điều tra sâu về các hành vi này, tiết lộ những lỗ hổng rõ ràng trong khả năng bảo vệ an toàn của công nghệ AI. Điều này không chỉ đe dọa quyền riêng tư của người dùng mà còn đặt ra thách thức cho toàn bộ hệ sinh thái kỹ thuật số.

Chính phủ nhấn mạnh bảo vệ nhân quyền và an ninh kỹ thuật số

Bộ Truyền thông và Kỹ thuật số Indonesia, Bộ trưởng Mutiya Hafid, đã rõ ràng trong tuyên bố chính thức rằng nội dung giả mạo sâu không tự nguyện và không có sự đồng ý, đặc biệt là nội dung giả mạo sâu không tự nguyện, gây ra mối đe dọa nghiêm trọng đến nhân quyền, phẩm giá công dân và an ninh không gian kỹ thuật số. Bộ này sau đó đã triệu tập các lãnh đạo của X để thảo luận, nhằm thúc đẩy nền tảng thực hiện các biện pháp quản lý nội dung mạnh mẽ hơn. Cách can thiệp của chính phủ này cho thấy các quốc gia đang ngày càng chủ động hơn trong việc đối phó với các rủi ro liên quan đến AI.