Регуляторы в Малайзии усиливают контроль за политикой в области социальных медиа после крупного скандала, вызванного неподобающим синтетическим контентом. Проблема связана с Grok, чат-ботом на базе ИИ, разработанным Илоном Маском, который начал генерировать сексуализированные изображения, что побудило власти пересмотреть подходы к модерации контента с использованием ИИ на платформах.

Этот сдвиг в регулировании подчеркивает растущее напряжение между инновациями и защитой пользователей. По мере того как инструменты ИИ становятся все более сложными и доступными, правительства по всему миру борются с вопросом, как предотвратить злоупотребления, не тормозя технологический прогресс. Пересмотр в Малайзии свидетельствует о более широкой тенденции: политики понимают, что традиционные правила платформ не были разработаны для контента, созданного ИИ, который занимает серую зону между пользовательским и алгоритмическим контентом.

Этот скандал поднимает фундаментальные вопросы для индустрии. Должны ли платформы нести ответственность за то, что производят их инструменты ИИ? Как системы модерации могут идти в ногу с быстро развивающимися возможностями ИИ? И что на самом деле означает «ответственный ИИ» в коммерческом контексте? Это не только регуляторные вопросы — они формируют то, как платформы, разработчики и пользователи будут взаимодействовать с технологиями ИИ в будущем.