Обновление DeepSeek V3: Ведущее направление нового парадигмы AI алгоритмов и вычислительной мощности

На днях DeepSeek выпустил последнее обновление версии V3 — DeepSeek-V3-0324, эта модель имеет 685 миллиардов параметров и значительно улучшила свои возможности в области кодирования, дизайна интерфейса и вывода.

На только что завершившейся конференции GTC 2025 генеральный директор NVIDIA Хуан Жэньсюнь высоко оценил достижения DeepSeek. Он отметил, что мнение рынка о том, что эффективные модели DeepSeek снизят спрос на чипы, было ошибочным; на самом деле будущие потребности в вычислениях будут только расти.

DeepSeek как представитель продукта прорыва в алгоритмах вызвал размышления о роли вычислительной мощности и алгоритмов в развитии AI-отрасли в связи с поставками чипов.

Вычислительная мощность и алгоритм: совместное развитие

В области ИИ повышение вычислительной мощности предоставляет основу для работы более сложных алгоритмов, позволяя моделям обрабатывать более объемные данные и изучать более сложные паттерны. В то же время оптимизация алгоритмов позволяет более эффективно использовать вычислительную мощность и повышать эффективность использования вычислительных ресурсов.

Вычислительная мощность и алгоритм имеют синергетические отношения, которые меняют ландшафт AI-индустрии:

1. Дифференциация технических направлений: некоторые компании сосредоточены на создании сверхбольших вычислительных мощностей, в то время как другие стремятся к оптимизации алгоритмической эффективности, формируя разные технические школы.

2. Реконструкция цепочки поставок: некоторые компании становятся ведущими в области вычислительной мощности ИИ через экосистему, в то время как поставщики облачных услуг снижают порог развертывания за счет гибких вычислительных услуг.

3. Корректировка распределения ресурсов: компании ищут баланс между инвестициями в аппаратную инфраструктуру и разработкой эффективных алгоритмов.

4. Восход открытого сообщества: открытые модели позволяют делиться результатами инноваций алгоритмов и оптимизации вычислительной мощности, ускоряя итерацию и распространение технологий.

Технические инновации DeepSeek

Успех DeepSeek неразрывно связан с его технологическими инновациями. Ниже приведено краткое объяснение его основных технологических инноваций:

Оптимизация архитектуры модели

DeepSeek использует комбинацию архитектур Transformer + MOE (Смешанная группа экспертов) и вводит механизм многоглавого латентного внимания (Multi-Head Latent Attention, MLA). Эта архитектура подобна эффективной команде, где Transformer обрабатывает обычные задачи, MOE функционирует как группа экспертов для решения специфических проблем, а механизм MLA позволяет модели более гибко сосредотачиваться на важных деталях.

Инновации в методах тренировки

DeepSeek представила рамки для обучения с гибридной точностью FP8, которые могут динамически выбирать подходящую вычислительную мощность в зависимости от потребностей в процессе обучения, обеспечивая при этом точность модели, ускоряя процесс обучения и уменьшая использование памяти.

Повышение эффективности вывода

На этапе вывода DeepSeek внедряет технологию много-токенового предсказания (Multi-token Prediction, MTP), что позволяет предсказывать несколько токенов за один раз, значительно увеличивая скорость вывода и снижая затраты.

Прорыв алгоритма глубокого обучения

Новый алгоритм глубокого обучения DeepSeek GRPO (Обобщенная оптимизация с учетом вознаграждения и штрафа) оптимизирует процесс обучения модели, обеспечивая повышение производительности при снижении ненужных вычислений, достигая баланса между производительностью и затратами.

Эти инновации сформировали полную технологическую систему, которая снижает требования к вычислительной мощности на всем протяжении цепочки от обучения до вывода, позволяя обычным потребительским видеокартам запускать мощные модели ИИ и значительно снижая порог вхождения в применение ИИ.

Влияние на поставщиков чипов

DeepSeek осуществляет оптимизацию алгоритма через PTX (Параллельное Потоковое Исполнение) определенной компании, на самом деле более глубоко привязываясь к экосистеме поставщика оборудования. С одной стороны, такая оптимизация может расширить общий рынок, с другой стороны, она может изменить структуру спроса на высококачественные чипы.

Значение для китайской AI-индустрии

Оптимизация алгоритма DeepSeek предоставляет технологический прорыв для китайской AI-индустрии. В условиях ограничений высококачественных чипов подход "программного дополнения к аппаратному обеспечению" снижает зависимость от высококачественных импортных чипов.

На upstream эффективный алгоритм снизил давление на требования к вычислительной мощности, что позволяет поставщикам вычислительной мощности продлить срок службы оборудования за счет оптимизации программного обеспечения и повысить доходность инвестиций. На downstream оптимизированная открытая модель снизила порог разработки AI-приложений, что позволяет множеству малых и средних предприятий разрабатывать конкурентоспособные приложения на основе модели DeepSeek.

Глубокое воздействие Web3+AI

Децентрализованная AI инфраструктура

Инновации DeepSeek придают новый импульс инфраструктуре Web3 AI. Архитектура MoE подходит для распределенного развертывания, а FP8 тренировочная рамка снижает потребность в высокопроизводительных вычислительных ресурсах, что способствует созданию децентрализованной сети AI вывода.

Мультиагентные системы

Технические инновации DeepSeek открывают возможности для применения многосистемных агентов в области Web3, включая:

1. Оптимизация интеллектуальных торговых стратегий: с помощью нескольких специализированных агентов, работающих совместно, помогает пользователям получать более высокую прибыль.

2. Автоматическое исполнение смарт-контрактов: несколько агентов работают совместно для реализации более сложной автоматизации бизнес-логики.

3. Персонализированное управление инвестиционным портфелем: ИИ в реальном времени ищет лучшие возможности для стейкинга или предоставления ликвидности в зависимости от потребностей пользователя.

DeepSeek через инновации в алгоритмах открывает дифференцированный путь развития для китайской AI-индустрии, снижает порог применения, способствует интеграции Web3 и AI, уменьшает зависимость от высококлассных чипов и предоставляет возможности для финансовых инноваций. Эти влияния уже формируют новую цифровую экономику. В будущем развитие AI станет соревнованием по совместной оптимизации вычислительной мощности и алгоритмов, такие как DeepSeek и другие новаторы переопределяют правила этого соревнования с помощью китайской мудрости.