AI Büyük Model Mücadelesi: Akıllı Telefon Devlerinin Yeni Savaşı

Mevcut ticari ortamda, parlayan "fırsatlar" genellikle insanları bağlayan zincirler haline geliyor. Son zamanlarda, dünya çapında çip devlerinden Qualcomm, Kaliforniya'da yaklaşık 1258 kişiyi işten çıkarmayı planlıyor ve bu personel değişikliği 13 Aralık'ta gerçekleşmesi bekleniyor. Qualcomm'un geçen çeyrek finansal raporu bu "işten çıkarma dalgası"na işaret etti. Mali yapı açısından, telefon çipleri Qualcomm'un ana gelir kaynağıdır, ancak üçüncü çeyrekte gelir bir önceki yıla göre %21.6 azalmıştır. Akıllı telefon pazarındaki doygunluk, yukarıdaki tedarik zinciri devlerini sessizce etkilemeye başlıyor.

2019'dan bu yana 5G destekli telefon değişim çılgınlığı neredeyse dört yıl sürdü. Ancak, Counterpoint'in kıdemli analisti Peter Richardson, 2022 yılı itibarıyla dünya genelindeki telefon değişim döngüsünün tarihteki en uzun süresi olan 43 aya ulaştığını belirtti. Son beş yıldır, telefon endüstrisi yenilikçi atılımlar arayışında. Ancak pazar liderleri bile etkileyici yeni özellikler sunmakta zorlanırken, diğer firmaların pazar konumlarını sürdürmesi daha da zorlaşıyor. Artan sayıda tüketici, yeni telefon alma değerini sorgulamaya başladı.

Sektör uzmanları, gerçek kırılma noktasının yazılım alanında, özellikle LLM, Transformer gibi büyük modellerin arkasındaki potansiyelinde olabileceğini düşünüyor. Bu potansiyeli en üst düzeye çıkarmanın yollarının henüz net olmadığına rağmen, bu durum yerli akıllı telefon devlerinin çıkış denemelerini engellemiyor. Birçok akıllı telefon üreticisi, yapay zeka büyük modellerine odaklanarak yeni rekabet alanları açmayı umuyor.

Akıllı telefon devleri büyük model arenasında mücadele ediyor

Son zamanlarda, yerli cep telefonu üreticileri büyük model heyecanına kapıldılar.

Xiaomi, yıllık tanıtım toplantısında AI büyük modelini gösterdi ve C-Eval ile CMMLU gibi iki büyük test platformunda başarılı sonuçlar elde etti. Bu 1.3 milyar parametreli büyük model, mobil cihazlarda çalıştırılmıştır ve bazı senaryolarda 6 milyar parametreli bulut modeline rakip olabiliyor. Xiao Ai ayrıca AI büyük model yeteneklerini güçlendirecek.

Huawei, HarmonyOS 4'ün "Pangu Büyük Modeli"ni entegre edeceğini ve telefon sistemine derinlemesine entegre olacağını açıkladı.

OPPO, AndesGPT büyük model teknolojisine dayanan "Xiao Bu Asistanı"nı tanıttı ve ilk halka açık testini gerçekleştirdi. AndesGPT, karma bulut mimarisine dayanan ileri düzey bir üretken büyük dil modelidir.

vivo, geliştirici konferansında kendi AI büyük modelini ve yeni işletim sistemini tanıtmayı planlıyor. vivo'nun AI büyük model matrisinin, bir milyar, on milyar ve yüz milyar olmak üzere üç büyük parametre seviyesini kapsayan toplam beş modeli bulunmaktadır ve bu modeller, çeşitli uygulama senaryolarını karşılamayı amaçlamaktadır.

Mobil sektöründeki büyük markalar, yüksek pazar segmentinde daha rekabetçi bir imaj oluşturmak için AI büyük model alanına dalmaya başladı. AI işlevlerinin yalnızca kullanıcıların yüksek kaliteli ürünlere olan talebini artırmakla kalmayıp, aynı zamanda ürün fiyatlarının yükselmesine de katkıda bulunabileceğini vurguluyor; bu da markalara daha yüksek kar yaratıyor. Önümüzdeki iki yıl, telefonlardaki AI yeniliklerinin patlama dönemi olabilir.

Büyük modeller mobil cihazlar için yarışıyor, yollar giderek birleşiyor

Akıllı telefon üreticileri, büyük modellerin telefonlarda çalıştırılmasının kolay olduğunu duyursalar da, pratikte birçok zorlukla karşı karşıya kalıyorlar.

Xiaomi teknik ekibinin paylaşımına göre, cep telefonlarında büyük modellerin çalıştırılması için donanım gereksinimleri oldukça yüksektir, özellikle işlemci ve bellek. Büyük modellerin aşırı iş bellek kullanımı, diğer uygulamaların kısıtlanmasına yol açabilir, hatta telefonun yanıt vermemesine veya donmasına neden olabilir. Hesaplama gücü de kritik bir öneme sahiptir, üretim hızı insan okuma hızını çok aşmalıdır. Ayrıca, güç tüketimi sorunu da göz ardı edilmemelidir; yüksek yük altında yapılan hesaplamalar telefonun hızla ısınmasına neden olabilir ve batarya ömrünü etkileyebilir.

Bu nedenle, akıllı telefon büyük modellerinin gerçek zorluğu, işlem hızı, ısı dağılımı ve pil ömrü arasında nasıl bir denge kuracağında yatıyor. Sektörün odak noktası, uç ve bulut iş birliğine kaydırıldı.

MediaTek, OPPO ve vivo ile birlikte, uç noktada büyük modellerin hafifletilmiş dağıtım çözümünü geliştirdi ve çok seviyeli yapay zeka büyük dil modelleri ile görsel büyük modellerin mobil uç noktada uygulanmasını sağladı.

Uç taraf büyük modelinin avantajları hızlı yanıt süresi ve yüksek veri güvenliğidir. Ancak, yalnızca mobil cihazlarla tüm sorunları çözmek zor; çoğu üretici uç-bulut birleşimi stratejisi benimsemiştir. Xiaomi, vivo gibi firmalar, sorun karmaşıklığına göre yerel olarak işleyip işlemeyeceklerine veya buluta mı aktaracaklarına karar vermek için bulut ve yerel birleşimi büyük model stratejilerini benimseyebilir.

Bu bulut ve yerel büyük model çözümünün birleştirilmesi sadece maliyetleri düşürmekle kalmaz, aynı zamanda kullanıcıların hesaplama gücü, performans, enerji tüketimi ve gizlilik koruma gibi birçok alandaki ihtiyaçlarını karşılar; bu, şu anda telefon ve AI büyük modellerinin entegrasyonu için en iyi stratejilerden biridir.

Üreticilerin Takip Etmesinin Altındaki Potansiyel Zorluklar

Akıllı telefon üreticileri, akıllı telefonlarda büyük modeller çalıştırmak için aktif bir şekilde çaba gösterse de, hala bazı zorluklar ve sorgulamalarla karşı karşıyadır.

Öncelikle, "büyük model" tanımının hâlâ belirsiz olduğunu belirtmek gerekir. Örneğin, Xiaomi'nin uç cihaz modelinin 1.3 milyar parametre sayısı, GPT2 ile benzerlik gösteriyor, ancak bunun "büyük model" olarak adlandırılması hâlâ tartışmalıdır. Sektörden bazı uzmanlar, mobil cihazlarda büyük model uygulamalarının daha çok pazarın kısa vadeli heyecanını karşılamak için yapıldığını ve gerçek bir teknolojik atılım olmadığını sorguluyor.

İkincisi, mobil cihazlara uyum sağlamak için üreticilerin modelleri önemli ölçüde sıkıştırmak amacıyla budama, damıtma ve kuantizasyon gibi stratejiler kullanmak zorunda kalması. Bu tür bir işlemin fazla zorlayıcı olup olmadığı düşünmeye değer. Büyük modellerin değeri, derin öğrenmedeki "derinlik"te yatmaktadır; çok sayıda parametre, daha fazla bilgi, bilgi ve bağlam yakalamak anlamına gelir. Yüz milyar parametreli bir modeli on milyar parametreye indirdiğimizde, kaçınılmaz olarak bazı mevcut öğrenme derinlikleri kaybolacaktır.

Xiaomi, uçta modelinin bulut modeli ile karşılaştırılabilir olduğunu iddia etmesine rağmen, detaylara dikkat edilmesi gerekiyor. 13 milyar parametreye sahip uçta model, 100 milyar parametreye sahip bulut modeli ile tam anlamıyla karşılaştırılamaz, yalnızca belirli senaryolar altında benzer performans gösterebilir.

En önemlisi, birçok cep telefonu üreticisi AI büyük model uygulamalarını araştırırken, gelecekteki yol hala belirsizliklerle dolu. Şu anda cep telefonu üreticilerinin AI büyük model uygulamalarına olan yaklaşımı "sesli asistan" üzerine fazla odaklanmış gibi görünüyor; bu tek yönlü arayışın gerçekten kullanıcıların gerçek ihtiyaçlarını göz önünde bulundurup bulundurmadığı sorgulanabilir.

Kısacası, AI büyük modellerinin mobil alandaki gerçek yaygınlaşması hala erken aşamalardadır. Şu anki çabalar, sadece keşif yolculuğunun başlangıcıdır. Gelecekte mobil pazarda gerçekten "katil" uygulamaların ne zaman ortaya çıkacağı zamanla belli olacaktır.