Премьер-министр Великобритании Кер Стармер нацелен на чат-боты ИИ в новой инициативе по обеспечению безопасности детей

Премьер-министр Великобритании Кир Стармер изложил планы по ужесточению правил онлайн-безопасности для чат-ботов на базе ИИ, предупредив, что новые технологии меняют детство так быстро, что политики уже не могут игнорировать эти изменения.

Краткое содержание

• Премьер-министр Великобритании Кир Стармер намекнул на расширение законодательства об онлайн-безопасности, чтобы охватить чат-ботов на базе ИИ, используемых детьми.
• Правительство обеспокоено рисками, включая неподходящий контент, эмоциональную зависимость и неконтролируемые советы, генерируемые ИИ.
• Планируется публичное консультирование для изучения новых регуляторных полномочий, чтобы обеспечить безопасность ИИ-инструментов, функционирующих в Великобритании, для несовершеннолетних.

В ближайшее время чат-боты на базе ИИ могут попасть под более строгие правила Великобритании, направленные на защиту несовершеннолетних

В недавнем обновлении на Substack Стармер заявил, что защита молодых людей должна развиваться вместе с быстро прогрессирующими инструментами искусственного интеллекта. Хотя большая часть дискуссий о вреде в интернете сосредоточена на социальных сетях, он отметил, что чат-боты на базе ИИ теперь представляют новые и сложные риски, особенно для детей и подростков.

Стармер отметил, что правительство Великобритании рассматривает возможность расширения существующих законов об онлайн-безопасности, чтобы явно охватить системы ИИ. Чат-боты все чаще внедряются в приложения, поисковые системы и отдельные платформы, зачастую взаимодействуя с пользователями в очень персонализированных, похожих на человеческие беседах.

Для молодых пользователей он предупредил, что это может размывать границу между информацией, влиянием и манипуляцией.

Премьер-министр выразил обеспокоенность по поводу рисков, начиная от воздействия неподходящего контента и заканчивая эмоциональной зависимостью и неконтролируемыми советами. В отличие от традиционных платформ, системы ИИ могут генерировать ответы в реальном времени, что усложняет контроль и модерацию.

Он предположил, что парламент может потребовать новых регуляторных полномочий для быстрого реагирования по мере развития технологий.

Стармер охарактеризовал проблему как часть более широкой инициативы по «созданию условий для роста детей», чтобы они не были сформированы непрозрачными алгоритмами или неконтролируемыми цифровыми системами. Он подчеркнул, что инновации не должны идти в ущерб безопасности, и что технологические компании должны нести большую ответственность за дизайн и использование своих инструментов.

Ожидается, что публичное консультирование изучит, как лучше регулировать услуги на базе ИИ, используемые несовершеннолетними. После сбора доказательств правительство обещает действовать быстро, что свидетельствует о том, что чат-боты на базе ИИ, вероятно, станут центральной темой следующего этапа реформы онлайн-безопасности в Великобритании.