Битва за большие AI-модели: новая арена для мобильных гигантов

В текущей коммерческой среде, казалось бы, сверкающая "возможность" часто становится оковами для людей. Недавно крупнейший мировой производитель чипов Qualcomm планирует уволить около 1258 сотрудников в Калифорнии, и этот кадровый сдвиг ожидается 13 декабря. В квартальном отчете Qualcomm за прошлый квартал уже намекнули на эту "волну увольнений". С финансовой точки зрения, мобильные чипы являются основным источником дохода Qualcomm, но в третьем квартале доход снизился на 21,6% по сравнению с аналогичным периодом прошлого года. Насыщение рынка смартфонов тихо влияет на крупных поставщиков в верхнем звене цепочки поставок.

С 2019 года продолжается бум замены смартфонов, движимый 5G, который длится почти четыре года. Однако старший аналитик Counterpoint Питер Ричардсон указывает на то, что к 2022 году глобальный цикл замены мобильных телефонов достиг исторического максимума в 43 месяца. В последние пять лет мобильная индустрия искала инновационные прорывы. Но когда даже лидеры рынка испытывают трудности с запуском впечатляющих новых функций, другим производителям становится еще труднее сохранить свои позиции на рынке. Все больше потребителей начинают ставить под сомнение ценность замены старого телефона на новый.

Некоторые эксперты отрасли считают, что настоящая точка прорыва может находиться в области программного обеспечения, особенно в таких областях, как ИИ, включая большие модели, такие как LLM и Transformer. Хотя в настоящее время неясно, как максимально использовать этот потенциал, это не мешает отечественным гигантам мобильной связи пытаться прорваться. Многие производители мобильных телефонов уже обратили внимание на большие модели ИИ, надеясь открыть новые конкурентные области.

Борьба гигантов мобильной связи на арене больших моделей

В последнее время отечественные производители смартфонов стремятся к популярности больших моделей.

Xiaomi продемонстрировала свою AI модель на ежегодной пресс-конференции, показав отличные результаты на двух тестовых платформах C-Eval и CMMLU. Эта модель с 1,3 миллиарда параметров уже работает на мобильных устройствах и в некоторых сценариях может конкурировать с облачной моделью на 6 миллиардов параметров. Xiao Ai также усилит возможности AI модели.

Huawei объявила, что HarmonyOS 4 интегрирует "модель Pangu", глубоко внедряясь в мобильную систему.

OPPO запустила "Маленького помощника", основанного на технологии большого языкового модели AndesGPT, и провела первый публичный тест. AndesGPT - это высококлассная генеративная большая языковая модель, основанная на гибридной облачной архитектуре.

vivo планирует представить свою собственную AI-модель и новую операционную систему на конференции разработчиков. Матрица AI-моделей vivo охватывает три уровня параметров: миллиарды, десятки миллиардов и сотни миллиардов, всего пять моделей, предназначенных для удовлетворения разнообразных сценариев применения.

Крупные бренды в мобильной индустрии активно погружаются в область крупных моделей ИИ, надеясь таким образом создать более конкурентоспособный имидж на высоком рынке. Подчеркивается, что функции ИИ не только могут стимулировать спрос пользователей на высококачественные продукты, но и способствовать росту цен на продукцию, создавая для брендов более высокую прибыль. Будущие два года могут стать периодом большого инновационного всплеска ИИ в мобильных телефонах.

Большие модели конкурируют на мобильных устройствах, пути постепенно унифицируются

Несмотря на то, что производители телефонов рекламируют легкость запуска крупных моделей на мобильных устройствах, на практике возникает множество сложностей.

Согласно информации, предоставленной технической командой Xiaomi, запуск больших моделей на мобильном телефоне требует высоких требований к аппаратному обеспечению, особенно к процессору и памяти. Чрезмерное использование оперативной памяти большими моделями может ограничить работу других приложений и даже привести к зависанию или сбою телефона. Вычислительная能力 также является ключевым фактором, скорость генерации должна значительно превышать скорость чтения человеком. Кроме того, проблему энергопотребления также нельзя игнорировать, высокая нагрузка на вычисления может привести к быстрому нагреву телефона, что влияет на время работы батареи.

Таким образом, настоящим вызовом для мобильных больших моделей является балансировка между скоростью обработки, тепловыделением и временем автономной работы. Отрасль сосредоточила внимание на совместной работе терминалов и облака.

MediaTek совместно с OPPO и vivo разработали решение для легковесного развертывания крупных моделей на стороне устройства, что позволяет внедрять многоуровневые большие языковые модели ИИ и визуальные большие модели на мобильных устройствах.

Преимущества крупных моделей на стороне устройства заключаются в быстром времени отклика и высокой безопасности данных. Однако полагаться только на мобильные устройства недостаточно для решения всех проблем, большинство производителей применяют стратегию сочетания облачных и локальных решений. Такие компании, как Xiaomi и vivo, могут использовать стратегию крупных моделей, сочетающую облачные и локальные решения, в зависимости от сложности проблемы, решая, обрабатывать ли данные локально или перемещать их в облако.

Эта комбинация облачных и локальных моделей не только позволяет сократить затраты, но и удовлетворяет потребности пользователей в вычислительной мощности, производительности, энергопотреблении и защите конфиденциальности, что делает её одной из лучших стратегий интеграции мобильных устройств и ИИ больших моделей на данный момент.

Потенциальные вызовы под влиянием производителей

Несмотря на активные попытки производителей мобильных телефонов запустить крупные модели на мобильных устройствах, они по-прежнему сталкиваются с рядом вызовов и сомнений.

Во-первых, определение "большой модели" все еще неясно. Например, модель от Xiaomi с 1,3 миллиарда параметров близка к GPT2, но достаточно ли этого, чтобы назвать ее "большой моделью", остается спорным. Некоторые специалисты в отрасли ставят под сомнение, что практика больших моделей на мобильных устройствах больше направлена на удовлетворение краткосрочных рыночных трендов, а не на истинный прорыв в технологии.

Во-вторых, для адаптации к мобильным устройствам производители вынуждены значительно сжимать модели с помощью таких стратегий, как обрезка, дистилляция и квантование. Стоит задуматься, не является ли эта операция чрезмерно натянутой. Ценность больших моделей заключается в "глубине" глубокого обучения, а большое количество параметров означает больше информации, знаний и контекста. Когда модель с сотнями миллиардов параметров обрезается до десятков миллиардов параметров, неизбежно теряется часть изначальной глубины обучения.

Хотя Xiaomi утверждает, что их модель на стороне устройства может сопоставляться с облачной моделью, детали все еще требуют внимания. Модель на стороне устройства с 1,3 миллиардами параметров трудно полностью сравнить с облачной моделью в 100 миллиардов параметров, и, возможно, она сможет соперничать только в определенных сценариях.

Более важно, что, несмотря на то, что многие производители мобильных телефонов исследуют применение больших моделей ИИ, будущее все еще полно неопределенности. В настоящее время производители мобильных телефонов, кажется, слишком сосредоточены на применении больших моделей ИИ в качестве "голосовых помощников", и стоит задуматься, действительно ли это единственное направление учитывает реальные потребности пользователей.

Короче говоря, настоящее внедрение больших моделей ИИ в области мобильных телефонов все еще находится на начальной стадии. Текущие усилия — это лишь начало исследовательского пути. Будущие «убийственные» приложения на рынке мобильных телефонов все еще предстоит выяснить со временем.