Цена прогресса: когда ИИ становится оружием

Кратко

Искусственный интеллект улучшает повседневные задачи, но также представляет риски в киберпреступности. Эксперты DeNet обсуждают, как оставаться на шаг впереди в этой развивающейся среде, сосредоточив внимание на децентрализованном безопасном хранении.

Искусственный интеллект стал частью нашей повседневной жизни. Он помогает нам выполнять работу, справляться с бесконечными задачами — и даже иногда мыслить за нас. Но, как и две стороны одной медали, он приносит как преимущества, так и риски. Этот же дружелюбный помощник по общению может так же легко стать инструментом хакера. Прогресс всегда имеет свою цену.

В этой статье мы рассматриваем, как ИИ изменяет киберпреступность. Сегодня атаки могут быть запущены быстрее и эффективнее, чем когда-либо прежде. Эксперты из DeNet — лидеры в области децентрализованного безопасного хранения — делятся своим мнением о том, как оставаться на шаг впереди в этом меняющемся ландшафте.

Киберпреступность на подъеме

Киберпреступность всегда была проблемой, но в последние годы она наносит удары сильнее, чем когда-либо — и распространение таких технологий, как ИИ, является одной из причин, по которой эта тенденция ускоряется. Ожидается, что глобальные убытки от киберпреступности достигнут 10,8 триллиона долларов к 2026 году — по сравнению с $3 триллионом в 2015 году, согласно Cybersecurity Venture. Каждую минуту преступники наносят огромный финансовый ущерб, и тенденция показывает, что это не собирается замедляться.

“Недавние атаки показывают, что все находятся под угрозой: индивидуумы, компании и правительства. Игнорирование вашей цифровой безопасности делает последствия неизбежными — как если бы вы пропустили чистку зубов и затем удивлялись кариесу,” сказал Ден Шелестов, соучредитель DeNet.

С ростом киберугроз многие компании отстают. Опрос Darktrace показал, что 78% руководителей в области безопасности считают угрозы, управляемые ИИ, реальной проблемой, и многим не хватает необходимых навыков, знаний или сотрудников для эффективного реагирования.

Хакерство, теперь на стероидах

Киберпреступность почти так же стара, как и сами компьютеры. Появились сети, за ними последовали уязвимости — и каждая новая технология быстро становится оружием. Это жестокий закон прогресса: он создает возможности как для героев, так и для злодеев.

Хакеры следуют простому плану действий: выбирают цель, собирают информацию, находят способ проникновения, перемещаются по системе и захватывают данные или требуют выкуп. ИИ может помочь на каждом этапе.

Раньше для того, чтобы провести полноценную атаку, требовались дни, глубокие технические навыки и целая команда. Теперь ИИ находит уязвимости, пишет эксплойты и даже указывает на лучшие точки давления для требований о выкупе, так что даже ребенок с парой скриптов может собрать рабочий вредонос.

Но подождите… разве LLM, такие как ChatGPT, не предназначены для блокировки злонамеренной активности?

В теории — да. На практике — не совсем. Хакеры об обходят меры безопасности с помощью инъекций запросов или джейлбрейков, а некоторые даже создают неограниченные LLM. Эти модели с черного рынка могут генерировать вредоносные программы, фишинговые кампании, дипфейки и многое другое.

Как хакеры используют технологии в своих интересах

Социальная инженерия всегда была слабым местом — а теперь ИИ значительно усилил её. Согласно данным SentinelOne, количество фишинговых атак возросло на 1265%. Это неудивительно, учитывая, что ИИ может создавать сотни высокоперсонализированных, убедительных сообщений. Вы можете подумать, что коллега поделился ссылкой на обновление проекта — но один клик, и вредоносное ПО незаметно заражает вашу систему.

Дипфейки — это еще одна растущая угроза. Достижения в синтетическом аудио и видео достигли такой точки, что обнаружить подделки крайне трудно. Нападающие крадут личности — топ-менеджеров, руководителей и клиентов — чтобы обмануть сотрудников и заставить их передать деньги, конфиденциальные данные или доступ к системам. В 2024 году Arup понесла огромные убытки именно по этой причине: сотрудник был обманут во время фальшивого звонка в Zoom и в итоге перевел $25 миллионов злоумышленникам.

Следующая граница — это агентный ИИ — автономные системы, которые принимают решения и действуют с минимальным контролем. В августе 2025 года компания Anthropic подтвердила, что их модель Claude использовалась в быстрой многоцелевой кампании по вымогательству данных, затрагивающей как минимум 17 организаций. Claude не просто следовал инструкциям — он провел атаку от начала до конца: разведка, эксплуатация и индивидуальные расчеты выкупа — адаптируясь на каждом этапе.

Атаки становятся быстрее, умнее и менее прощают. Как остановить что-то, что может учиться и импровизировать на ходу?

Что дальше?

Правила игры изменились. Человеческим командам больше не по силам справляться. Вот почему компании борются с огнем огнем, оборонительный ИИ становится новым фронтом. Системы, работающие на основе машинного обучения, могут выявлять аномалии, реагировать на угрозы в реальном времени и анализировать шаблоны, которые превышают человеческие возможности. Тем не менее, даже лучшие системы не могут остановить кого-то от нажатия на неправильную ссылку. Обучение по-прежнему имеет решающее значение — не доверяйте каждому электронному письму, каждому звонку.

Но есть еще одна большая проблема. Люди и компании непреднамеренно подпитывают машину киберпреступности. Огромные объемы конфиденциальных данных — электронные письма, должности и документы — хранятся в организациях и сторонних сервисах. Один единственный утечка может быть объединена с другими нарушениями и публичной информацией для составления полных профилей, что делает кражу личности, захват учетных записей и высоко таргетированные атаки намного проще.

«Утечки данных происходят слишком часто — это то, о чем мы давно беспокоимся. Компании собирают огромные объемы конфиденциальных данных пользователей — что, естественно, делает их золотой целью для злоумышленников. И всегда существует риск утечки. Мы доверяем третьим сторонам хранить наши данные, но они не всегда могут гарантировать их безопасность», — говорит Дэн.

Эта проблема привела к созданию DeNet, децентрализованного протокола хранения, предназначенного для возвращения контроля пользователям. Данные шифруются на стороне клиента, разбиваются на фрагменты и распределяются по сети независимых узлов. Каждый фрагмент хранится на нескольких устройствах, устраняя единственные точки отказа. Только личный ключ пользователя может восстановить полные данные — передавая ответственность и власть от корпораций к индивидуумам.

Изменение отношения к хранению данных — это один из способов борьбы с кибератакующими, но это лишь часть головоломки. Технологии продолжают развиваться, новые методы атак постоянно появляются, и борьба между киберпреступностью и кибербезопасностью永无止境. Единственное универсальное правило таково: ваши данные имеют ценность, и прежде всего вы несете за них ответственность. Защитите их разумно, и вы сможете сохранить контроль.