Битва за великі моделі штучного інтелекту: нове поле бою для гігантів мобільних телефонів

У сучасному комерційному середовищі, здавалося б, сяючі "можливості" часто стають кайданами для людей. Нещодавно глобальний чіповий гігант Qualcomm планує звільнити близько 1258 осіб у Каліфорнії, і ця кадрова буря, як очікується, відбудеться 13 грудня. Звіт Qualcomm за минулий квартал вже натякнув на цю "хвилю звільнень". З фінансової точки зору, мобільні чіпи є основним джерелом доходу Qualcomm, але в третьому кварталі доходи знизилися на 21,6% у порівнянні з минулим роком. Насичення ринку смартфонів тихо впливає на гігантів верхньої ланки постачання.

З 2019 року тривала хвиля заміни телефонів на 5G, яка триває вже майже чотири роки. Однак старший аналітик Counterpoint Пітер Річардсон зазначив, що до 2022 року світовий цикл заміни телефонів досяг рекордних 43 місяців. Протягом останніх п'яти років індустрія мобільних телефонів шукала інноваційні прориви. Але коли навіть лідери ринку важко можуть представити вражаючі нові функції, іншим виробникам ще складніше підтримувати свою позицію на ринку. Все більше споживачів починають ставити під сумнів цінність заміни старого телефону на новий.

Є експерти в галузі, які вважають, що справжня точка прориву може бути в програмному забезпеченні, особливо в області ШІ, такій як LLM, Transformer та інших великих моделей, що приховують потенціал. Хоча наразі неясно, як максимально використати цей потенціал, це не заважає вітчизняним виробникам мобільних телефонів намагатися знайти нові можливості. Кілька виробників мобільних телефонів вже націлили свою увагу на великі моделі ШІ, сподіваючись відкрити нові конкурентні області.

Великий змагання моделей серед мобільних гігантів

Нещодавно вітчизняні виробники мобільних телефонів активно переслідують тренд великих моделей.

Xiaomi на щорічній прес-конференції продемонстрував свою AI велику модель, яка досягла успіху на двох основних тестових платформах: C-Eval та CMMLU. Ця велика модель з 1,3 мільярда параметрів вже працює на мобільних пристроях і в деяких сценаріях навіть може конкурувати з хмарною моделлю на 6 мільярдів параметрів. Xiao Ai також посилить можливості AI великої моделі.

Huawei оголосила, що HarmonyOS 4 інтегрує "модель Паньгу", глибоко вбудовується в систему телефону.

OPPO представила "Малого помічника", основаного на технології великої моделі AndesGPT, який проходить перший етап відкритого тестування. AndesGPT є висококласною генеративною великою мовною моделлю на основі гібридної хмарної архітектури.

vivo планує представити свою розроблену штучну інтелектуальну велику модель та нову операційну систему на конференції для розробників. Матриця великих моделей штучного інтелекту vivo охоплює три рівні параметрів: мільярди, десятки мільярдів та сотні мільярдів, всього п'ять моделей, які мають на меті задовольнити різноманітні сценарії застосування.

Великі бренди мобільної індустрії активно впроваджують технології великих моделей штучного інтелекту, сподіваючись створити більш конкурентоспроможний імідж на високому ринку. Наголошується, що функції штучного інтелекту не лише можуть стимулювати попит споживачів на висококласні продукти, але й сприяти збільшенню цін на продукцію, створюючи вищий прибуток для брендів. Наступні два роки можуть стати періодом великого вибуху інновацій штучного інтелекту в мобільних телефонах.

Великі моделі змагаються на мобільних платформах, шлях поступово уніфікується

Незважаючи на те, що виробники телефонів стверджують, що запуск великих моделей на телефонах є простим, насправді під час експлуатації виникає безліч проблем.

Згідно з доповіддю технічної команди Xiaomi, запуск великих моделей на мобільних телефонах вимагає високих апаратних ресурсів, особливо процесора та оперативної пам'яті. Великий обсяг пам'яті, що використовується моделями, може обмежувати роботу інших додатків, навіть призводити до зависання або не відповіді телефону. Обчислювальна потужність також має ключове значення, швидкість генерації повинна значно перевищувати швидкість читання людиною. Крім того, проблеми з енергоспоживанням також не можна ігнорувати, високі навантаження на обчислення можуть призводити до швидкого нагрівання телефону, що впливає на тривалість роботи батареї.

Отже, справжнім викликом для великих моделей на мобільних телефонах є балансування швидкості обробки, охолодження та тривалості роботи батареї. Галузевий акцент зосереджений на співпраці між пристроями та хмарою.

MediaTek спільно з OPPO та vivo розробили рішення для легковагового розгортання великих моделей на кінцевих пристроях, що дозволило реалізувати кілька рівнів великих мовних моделей штучного інтелекту та візуальних моделей на мобільних пристроях.

Переваги великих моделей на краю полягають у швидкості реагування та високій безпеці даних. Але покладатися лише на мобільні пристрої недостатньо для вирішення всіх проблем, більшість виробників обирають стратегію поєднання краю та хмари. Xiaomi, vivo та інші, ймовірно, використовують стратегію великих моделей, що поєднує хмарні та локальні рішення, вирішуючи, чи обробляти дані локально або передавати їх у хмару, залежно від складності проблеми.

Ця комбінація рішень великої моделі, що поєднує хмарні та локальні ресурси, не лише дозволяє зекономити витрати, а й задовольняє потреби користувачів у багатьох аспектах, таких як обчислювальна потужність, продуктивність, енергоспоживання та захист конфіденційності. Це одна з найкращих стратегій інтеграції мобільних телефонів та великих моделей ШІ на сьогодні.

Потенційні виклики під натиском наслідування виробників

Хоча виробники мобільних телефонів активно намагаються запустити великі моделі на мобільних пристроях, вони все ще стикаються з деякими викликами та сумнівами.

По-перше, визначення "великої моделі" все ще неясне. Наприклад, модель від Xiaomi з 1,3 мільярда параметрів подібна до GPT2, але чи достатньо цього, щоб називати її "великою моделлю", все ще залишається під питанням. Деякі фахівці ставлять під сумнів, що практика великих моделей на мобільних пристроях більше спрямована на задоволення короткострокового попиту на ринку, а не на справжній технологічний прорив.

По-друге, щоб адаптуватися до мобільних телефонів, виробники змушені значно зменшувати моделі за допомогою таких стратегій, як обрізка, дистиляція та квантування. Чи не є ця операція надто примусовою, варто задуматися. Цінність великих моделей полягає в "глибині" глибокого навчання, велика кількість параметрів означає більше інформації, знань та контексту. При обрізці моделі з трильйонами параметрів до десятків мільярдів, неминуче втрачається частина первісної глибини навчання.

Навіть якщо Xiaomi стверджує, що її модель на кінцевому пристрої може зрівнятися з моделлю в хмарі, деталі все ще потребують уваги. Модель на кінцевому пристрої з 1,3 млрд параметрів важко повністю порівняти з моделлю в хмарі з 100 млрд параметрів, вона може бути конкурентоспроможною лише в певних сценаріях.

Більш важливо, що, незважаючи на те, що багато виробників смартфонів досліджують застосування великих AI-моделей, майбутній шлях все ще сповнений невизначеності. В даний час виробники смартфонів, здається, надто акцентують увагу на застосуванні великих AI-моделей у "голосових помічниках", і чи справді це одностороннє прагнення враховує реальні потреби користувачів - це питання для роздумів.

Кажучи коротко, справжнє впровадження великих моделей ШІ в сфері мобільних телефонів все ще перебуває на ранній стадії. Поточні зусилля є лише початком подорожі дослідження. Справжні "вбивці" додатків на ринку мобільних телефонів ще чекають на своє відкриття.