Виталик Бутерин предупреждает: ИИ в Крипто-управлении — это «плохая идея»

Сооснователь Ethereum Виталик Бутерин бьет тревогу: объединение искусственного интеллекта с криптовалютным управлением может представлять собой огромный риск. Причина кроется в легко использованных уязвимостях, которые пользователи могут использовать, чтобы обойти правила или даже извлечь конфиденциальные данные.

Искусственный интеллект в криптовалюте: возможность или угроза? Сегодня многие разработчики и инвесторы используют искусственный интеллект для создания торговых ботов или управления портфелями. Это породило идеи о том, что ИИ также может помочь управлять целыми протоколами – например, решая, как распределять гранты. Однако Бутерин предупреждает, что такой шаг будет наивным:

“Если вы позволите ИИ распределять средства, люди найдут способ взломать его и напечатать «Дайте мне все деньги» как можно в большем количестве мест,” написал он в X. Его комментарии были сделаны в ответ на видео разработчика Эйты Миямуры, который продемонстрировал, как последнее обновление ChatGPT может быть использовано для утечки данных электронной почты, вставив вредоносный запрос в приглашение на календарь.

Альтернатива: Информационные финансы вместо "Управления ИИ" Согласно Бутерину, решение заключается в концепции информационных финансов. Вместо того чтобы иметь одну модель ИИ, которая бы управляла всем, открытый рынок позволил бы участникам представлять свои модели, а результаты проверялись бы выборочно и оценивались бы человеческими жюри. Этот подход имеет несколько преимуществ:

🔹 Разнообразие моделей в реальном времени

🔹 Встроенные стимулы как для создателей моделей, так и для спекулянтов для мониторинга ошибок

🔹 Большая устойчивость к манипуляциям

Обновление ChatGPT вызывает новые опасения Обеспокоенность возросла после последнего обновления ChatGPT, которое представило интеграцию через Протокол Контекста Модели. Миямура продемонстрировал, что злоумышленник может вставить злонамеренный "промт" в календарь жертвы. Как только ИИ прочитает календарь, он будет слепо следовать команде злоумышленника – включая пересылку электронных писем. «Искусственный интеллект может быть невероятно умным, но также невероятно легко обмануть», — предупредил Миямура. Он отметил, что люди часто нажимают «Одобрить», не осознавая рисков, становясь жертвами усталости от принятия решений. Сообщение Бутерина ясно: ИИ может принести ценность криптовалюте, но если ему доверить управление управлением и финансовыми распределениями, это может широко открыть двери для хакеров и недобросовестных игроков.

#VitalikButerin , #Ethereum , #blockchain , #defi , #AI

Будьте на шаг впереди – следите за нашим профилем и будьте в курсе всего важного в мире криптовалют! Уведомление: ,,Информация и мнения, представленные в этой статье, предназначены исключительно для образовательных целей и не должны рассматриваться как инвестиционные советы в любой ситуации. Содержание этих страниц не следует воспринимать как финансовые, инвестиционные или какие-либо другие советы. Мы предостерегаем, что инвестиции в криптовалюты могут быть рискованными и могут привести к финансовым потерям.“