La batalla por los grandes modelos de IA: el nuevo campo de batalla de los gigantes de los teléfonos móviles

En el actual entorno comercial, las "oportunidades" que parecen brillantes a menudo se convierten en grilletes que atan a las personas. Recientemente, el gigante global de los semiconductores Qualcomm planea despedir a aproximadamente 1258 empleados en California, y se espera que esta conmoción laboral ocurra el 13 de diciembre. El informe financiero del trimestre pasado de Qualcomm ya había insinuado esta "ola de despidos". Desde el punto de vista de la estructura financiera, los chips para teléfonos móviles son la principal fuente de ingresos de Qualcomm, pero en el tercer trimestre, los ingresos cayeron un 21.6% en comparación con el año anterior. La saturación del mercado de smartphones está afectando silenciosamente a los gigantes de la cadena de suministro upstream.

Desde 2019, la fiebre de cambio de teléfonos impulsada por 5G ha continuado durante casi cuatro años. Sin embargo, Peter Richardson, analista senior de Counterpoint, señala que para 2022, el ciclo de reemplazo de teléfonos a nivel mundial había alcanzado el más largo de la historia, con 43 meses. En los últimos cinco años, la industria de los teléfonos ha buscado innovaciones. Pero cuando incluso los líderes del mercado tienen dificultades para lanzar nuevas funciones sorprendentes, es aún más difícil para otros fabricantes mantener su posición en el mercado. Cada vez más consumidores comienzan a cuestionar el valor de reemplazar sus teléfonos.

Hay expertos de la industria que consideran que el verdadero punto de ruptura podría estar en el campo del software, especialmente en el ámbito de la IA, como el potencial oculto detrás de grandes modelos como LLM y Transformer. Aunque actualmente no está claro cómo maximizar el uso de este potencial, eso no impide que los gigantes de los teléfonos móviles en el país intenten abrirse camino. Varios fabricantes de teléfonos móviles ya han puesto su mirada en los grandes modelos de IA, con la esperanza de abrir nuevos campos de competencia.

Las grandes compañías de teléfonos móviles compiten en el campo de los grandes modelos

Recientemente, los fabricantes de teléfonos móviles en el país están persiguiendo la fiebre de los grandes modelos.

Xiaomi presentó su gran modelo de IA en la conferencia anual, logrando buenos resultados en las dos principales plataformas de prueba, C-Eval y CMMLU. Este gran modelo de 1.3 mil millones de parámetros ya está funcionando en dispositivos móviles y, en ciertos escenarios, puede rivalizar con el modelo en la nube de 6 mil millones de parámetros. Xiao Ai también fortalecerá las capacidades del gran modelo de IA.

Huawei anunció que HarmonyOS 4 integrará el "modelo Pangu" y se incorporará profundamente en el sistema del teléfono.

OPPO ha lanzado "Xiao Bu Assistant" basado en la tecnología del gran modelo AndesGPT, realizando la primera ronda de pruebas públicas. AndesGPT es un modelo de lenguaje generativo avanzado basado en una arquitectura de nube híbrida.

vivo planea revelar su modelo de IA auto-desarrollado y su nuevo sistema operativo en la conferencia de desarrolladores. La matriz de modelos de IA de vivo cubre tres niveles de parámetros: mil millones, diez mil millones y cien mil millones, con un total de cinco modelos, diseñados para satisfacer diversas aplicaciones.

Las principales marcas de la industria de los teléfonos móviles están entrando en el campo de los modelos de IA, con la esperanza de crear una imagen más competitiva en el mercado de alta gama. Se destaca que las funciones de IA no solo pueden estimular la demanda de los usuarios por productos de alta gama, sino que también pueden impulsar el aumento de los precios de los productos, creando así mayores beneficios para las marcas. Los próximos dos años podrían ser un período de gran explosión de innovación de IA en los teléfonos móviles.

La competencia de grandes modelos en móviles, el camino se unifica gradualmente.

A pesar de que los fabricantes de teléfonos móviles promocionan la ejecución de modelos grandes en los teléfonos como algo fácil, en la práctica se enfrenta a muchos desafíos.

Según la presentación del equipo técnico de Xiaomi, ejecutar modelos grandes en el teléfono requiere hardware de alto nivel, especialmente en procesadores y memoria. Un modelo grande que ocupa demasiada memoria de trabajo puede limitar otras aplicaciones, e incluso causar que el teléfono no responda o se congele. La capacidad de cálculo también es clave, la velocidad de generación debe superar con creces la velocidad de lectura humana. Además, el problema del consumo de energía no debe pasarse por alto, ya que los cálculos de alta carga pueden hacer que el teléfono se caliente rápidamente, afectando la duración de la batería.

Por lo tanto, el verdadero desafío de los modelos grandes en los teléfonos móviles radica en cómo equilibrar la velocidad de procesamiento, la disipación de calor y la duración de la batería. La industria se centra en la colaboración entre el extremo y la nube.

MediaTek ha colaborado con OPPO y vivo para desarrollar una solución de implementación ligera de modelos grandes en el lado del terminal, logrando la implementación de múltiples niveles de modelos de lenguaje AI grandes y modelos visuales grandes en el lado del teléfono.

Las ventajas de los grandes modelos en el extremo son una rápida velocidad de respuesta y una alta seguridad de los datos. Sin embargo, es difícil resolver todos los problemas solo con dispositivos móviles, por lo que la mayoría de los fabricantes adoptan una estrategia combinada de extremo y nube. Empresas como Xiaomi, vivo, entre otras, podrían adoptar una estrategia de grandes modelos que combine la nube y lo local, decidiendo según la complejidad del problema si se procesa localmente o se traslada a la nube.

Esta solución de modelo grande que combina la nube y lo local no solo puede ahorrar costos, sino que también puede satisfacer las necesidades de los usuarios en múltiples aspectos como capacidad de cálculo, rendimiento, consumo de energía y protección de la privacidad, siendo una de las estrategias preferidas actualmente para integrar teléfonos móviles con modelos de AI.

Desafíos potenciales bajo la tendencia de los fabricantes

A pesar de que los fabricantes de teléfonos móviles intentan activamente ejecutar grandes modelos en dispositivos móviles, aún enfrentan algunos desafíos y cuestionamientos.

Primero, la definición de "gran modelo" sigue siendo vaga. Tomando como ejemplo el modelo de端侧 de Xiaomi, su cantidad de 1.3 mil millones de parámetros es similar a la de GPT2, pero si esto es suficiente para llamarlo "gran modelo" sigue siendo objeto de debate. Algunos expertos de la industria cuestionan que la práctica de grandes modelos en dispositivos móviles se realiza más para satisfacer la efervescencia del mercado a corto plazo, en lugar de ser un verdadero avance técnico.

En segundo lugar, para adaptarse a los teléfonos móviles, los fabricantes se ven obligados a comprimir drásticamente los modelos mediante estrategias como poda, destilación y cuantificación. Vale la pena reflexionar si esta operación es demasiado forzada. El valor de un gran modelo radica en la "profundidad" del aprendizaje profundo, una gran cantidad de parámetros significa una mayor captura de información, conocimiento y contexto. Al recortar un modelo de cientos de miles de millones de parámetros a decenas de miles de millones, inevitablemente se perderá parte de la profundidad de aprendizaje original.

A pesar de que Xiaomi afirma que su modelo en el extremo puede compararse con el modelo en la nube, los detalles aún deben ser considerados. Un modelo en el extremo con 1.3 mil millones de parámetros es difícil de igualar completamente con un modelo en la nube de cientos de miles de millones de parámetros, y puede que solo logre igualarse en escenarios específicos.

Más importante aún, aunque numerosos fabricantes de teléfonos móviles están explorando la aplicación de modelos de IA a gran escala, el camino futuro sigue estando lleno de incertidumbres. Actualmente, los fabricantes de teléfonos móviles parecen centrarse demasiado en la aplicación de modelos de IA en "asistentes de voz", lo que plantea la cuestión de si esta búsqueda unidimensional realmente considera las necesidades reales de los usuarios.

En resumen, la verdadera popularización de los grandes modelos de IA en el ámbito de los teléfonos móviles aún se encuentra en una etapa inicial. Los esfuerzos actuales son solo el comienzo de un viaje exploratorio. Las verdaderas aplicaciones "killer" en el mercado de teléfonos móviles aún están por revelarse con el tiempo.