大模型時代來臨 算力服務成新興商業模式

robot
摘要生成中

算力服務:大模型時代的新商業模式

大模型訓練帶來的算力需求激增,正推動算力服務成爲一種新興的商業模式。雖然當前行業面臨高端GPU短缺等挑戰,但長遠來看,算力服務商需要未雨綢繆,爲市場理性回歸後的轉型做好準備。

高端GPU供不應求

目前高端GPU供不應求的情況十分普遍。有雲計算行業高管表示,雖然客戶對高端GPU資源需求旺盛,但目前供給仍無法完全滿足市場需求。某大廠高管也坦言"缺,當然缺,但我們也沒辦法"。

在供需失衡下,高端GPU價格水漲船高。頂峯時期一張A100的價格被炒至二三十萬元,單臺A100服務器月租也漲至5-7萬元。即便如此,有時仍可能買不到芯片,一些供應商甚至遇到跳票情況。

應對之策

面對算力短缺,企業紛紛尋找應對之策:

  1. 使用更高質量的數據來提升訓練效率。

  2. 提升基礎架構能力,實現千卡以上穩定運行。

  3. 優化算力卡資源調度,提高利用率。

  4. 從雲計算架構過渡到超算架構以降低成本。

  5. 使用國產平台替代英偉達GPU。

  6. 選擇專業算力廠商支持,降低自建數據中心成本。

算力服務新模式

算力正在從單純的硬件資源,演變爲一種新型服務模式。算力服務以多樣性算力爲基礎,通過算力網路連結,以供給有效算力爲目標。

在算力產業鏈中:

  • 上遊企業提供算力基礎資源
  • 中遊企業負責算力生產和供給
  • 下遊企業依靠算力服務進行增值應用

這種模式讓算力使用門檻降低,有助於算力的普惠化發展。

商業模式演進

目前算力服務主要採用按量計費和包年包月兩種模式。未來行業正在推進"算網一體化融合",支持跨架構、跨地域、跨服務商的靈活調度。

隨着大模型需求常態化,算力服務正快速形成獨特的產業鏈和商業模式。雖然當前高端GPU短缺帶來挑戰,但長遠來看,算力服務商需要爲市場理性回歸後的轉型做好準備。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 3
  • 分享
留言
0/400
ShibaSunglassesvip
· 22小時前
有A100 不如买币
回復0
AllInAlicevip
· 22小時前
炒到二三十万一张 疯了吧
回復0
0xSleepDeprivedvip
· 22小時前
gpu都这么贵了啊
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)