A Guerra pelo Grande Modelo de IA: O Novo Campo de Batalha dos Gigantes do Telefone

No atual ambiente de negócios, as "oportunidades" que parecem brilhantes muitas vezes se tornam grilhões que aprisionam as pessoas. Recentemente, a gigante global de chips Qualcomm planejou demitir cerca de 1258 funcionários na Califórnia, e essa turbulência no pessoal deve ocorrer em 13 de dezembro. O relatório financeiro do último trimestre da Qualcomm já indicava essa "onda de demissões". Do ponto de vista da estrutura financeira, os chips para smartphones são a principal fonte de receita da Qualcomm, mas na terceira trimestre a receita caiu 21,6% em relação ao ano anterior. A saturação do mercado de smartphones está silenciosamente afetando os gigantes da cadeia de suprimentos upstream.

Desde 2019, a onda de substituição de telemóveis impulsionada pelo 5G já dura quase quatro anos. No entanto, Peter Richardson, analista sénior da Counterpoint, apontou que, em 2022, o ciclo de substituição global de telemóveis atingiu o seu ponto mais longo na história, com 43 meses. Nos últimos cinco anos, a indústria de telemóveis tem procurado inovações. Mas quando até os líderes de mercado têm dificuldade em lançar novas funcionalidades impressionantes, é ainda mais difícil para outras empresas manterem a sua posição no mercado. Cada vez mais consumidores começam a questionar o valor de substituir o seu telemóvel.

Há especialistas da indústria que acreditam que o verdadeiro ponto de ruptura pode estar na área de software, especialmente no campo da IA, como os grandes modelos por trás de LLM, Transformer, etc. Embora ainda não esteja claro como maximizar o uso desse potencial, isso não impede que os gigantes dos smartphones domésticos tentem romper. Várias fabricantes de smartphones já estão de olho nos grandes modelos de IA, na esperança de abrir novos campos de competição.

Gigantes da tecnologia disputam o campo dos grandes modelos

Recentemente, fabricantes de smartphones nacionais estão todos a seguir a onda dos grandes modelos.

A Xiaomi apresentou seu grande modelo de IA na conferência anual, obtendo bons resultados nas duas principais plataformas de teste, C-Eval e CMMLU. Este grande modelo com 1,3 bilhão de parâmetros já está em funcionamento em dispositivos móveis e, em certos cenários, pode até competir com o modelo na nuvem de 6 bilhões de parâmetros. A assistente Xiao Ai também irá reforçar a capacidade do grande modelo de IA.

A Huawei anunciou que o HarmonyOS 4 irá integrar o "Modelo Pangu", sendo profundamente incorporado no sistema do telefone.

A OPPO lançou o "Assistente Xiao Bu" baseado na tecnologia do grande modelo AndesGPT, realizando a primeira série de testes públicos. O AndesGPT é um modelo de linguagem generativa avançado baseado em uma arquitetura de nuvem híbrida.

A vivo planeia revelar o seu grande modelo de IA desenvolvido internamente e o novo sistema operativo na conferência de desenvolvedores. A matriz do grande modelo de IA da vivo abrange três níveis de parâmetros: um bilhão, dez bilhões e cem bilhões, com um total de cinco modelos, destinados a satisfazer cenários de aplicação diversificados.

As grandes marcas da indústria de smartphones estão entrando no campo dos grandes modelos de IA, esperando moldar uma imagem mais competitiva no mercado de alta gama. Enfatiza-se que as funcionalidades de IA não só podem estimular a demanda dos usuários por produtos de alta gama, mas também podem impulsionar o aumento dos preços dos produtos, criando maiores lucros para as marcas. Os próximos dois anos podem ser um período de grande explosão de inovação da IA nos smartphones.

Grande competição de modelos no mobile, o caminho está gradualmente a unificar

Apesar de os fabricantes de smartphones promoverem a execução de grandes modelos nos telemóveis como algo fácil, na prática, existem muitos desafios a enfrentar.

De acordo com a partilha da equipa técnica da Xiaomi, a execução de grandes modelos em smartphones exige altos requisitos de hardware, especialmente em termos de processador e memória. Um grande modelo que consome demasiada memória de trabalho pode limitar outras aplicações, podendo até causar falta de resposta ou congelamento do telefone. A capacidade de cálculo também é crucial, com a velocidade de geração a ter de ser muito superior à velocidade de leitura humana. Além disso, o problema do consumo de energia não pode ser ignorado, uma alta carga de cálculo pode causar um aquecimento rápido do telefone, afetando a duração da bateria.

Assim, o verdadeiro desafio dos grandes modelos em dispositivos móveis é como equilibrar a velocidade de processamento, o aquecimento e a duração da bateria. A indústria está focada na colaboração entre terminal e nuvem.

A MediaTek, em colaboração com a OPPO e a vivo, desenvolveu uma solução de implantação leve para grandes modelos de IA no lado do dispositivo, conseguindo implementar vários níveis de grandes modelos de linguagem e modelos visuais no lado do smartphone.

As vantagens dos modelos grandes na borda incluem alta velocidade de resposta e alta segurança de dados. No entanto, é difícil resolver todos os problemas apenas com dispositivos móveis, e a maioria dos fabricantes adota uma estratégia combinada de borda e nuvem. Empresas como Xiaomi e vivo podem adotar uma estratégia de modelos grandes que combina nuvem e local, decidindo se processam localmente ou transferem para a nuvem com base na complexidade do problema.

Esta solução de grandes modelos que combina nuvem e local não só pode economizar custos, como também satisfaz as necessidades dos usuários em várias áreas, como capacidade de computação, desempenho, consumo de energia e proteção de privacidade, sendo uma das melhores estratégias atualmente para integrar smartphones e grandes modelos de IA.

Desafios potenciais sob a onda de fabricantes

Embora os fabricantes de smartphones estejam a tentar ativamente executar grandes modelos nos dispositivos móveis, ainda enfrentam alguns desafios e questionamentos.

Primeiro, a definição de "grande modelo" ainda é vaga. Tomando como exemplo o modelo de borda da Xiaomi, com 1,3 bilhões de parâmetros, que é semelhante ao GPT-2, ainda há controvérsia sobre se isso é suficiente para ser chamado de "grande modelo". Alguns especialistas da indústria questionam se a prática de grandes modelos em dispositivos móveis é mais para satisfazer a euforia do mercado a curto prazo do que um verdadeiro avanço tecnológico.

Em segundo lugar, para se adaptar aos telefones celulares, os fabricantes tiveram que comprimir significativamente os modelos através de estratégias como poda, destilação e quantização. Vale a pena refletir se essa operação é excessivamente forçada. O valor dos grandes modelos reside na "profundidade" do aprendizado profundo, e um grande número de parâmetros significa mais informações, conhecimento e contexto capturados. Ao podar um modelo de centenas de bilhões de parâmetros para dezenas de bilhões, inevitavelmente se perderá alguma profundidade de aprendizado original.

Embora a Xiaomi afirme que seu modelo de ponta pode ser comparado ao modelo em nuvem, os detalhes ainda precisam ser considerados. Um modelo de ponta com 1,3 bilhões de parâmetros é difícil de competir totalmente com um modelo em nuvem de centenas de bilhões de parâmetros, podendo apenas igualar-se em cenários específicos.

Mais importante ainda, embora muitos fabricantes de smartphones estejam explorando a aplicação de grandes modelos de IA, o caminho futuro ainda é cheio de incertezas. Atualmente, parece que os fabricantes de smartphones estão excessivamente focados na aplicação de grandes modelos de IA como "assistente de voz", e se essa busca por uma única direção realmente considera as necessidades reais dos usuários é algo a se refletir.

Em resumo, a verdadeira popularização dos grandes modelos de IA no setor de smartphones ainda está em estágio inicial. Os esforços atuais são apenas o começo de uma jornada exploratória. As verdadeiras aplicações "matadoras" no mercado de smartphones ainda estão por ser reveladas com o tempo.