大模型时代来临 算力服务成新兴商业模式

robot
摘要生成中

算力服务:大模型时代的新商业模式

大模型训练带来的算力需求激增,正推动算力服务成为一种新兴的商业模式。虽然当前行业面临高端GPU短缺等挑战,但长远来看,算力服务商需要未雨绸缪,为市场理性回归后的转型做好准备。

高端GPU供不应求

目前高端GPU供不应求的情况十分普遍。有云计算行业高管表示,虽然客户对高端GPU资源需求旺盛,但目前供给仍无法完全满足市场需求。某大厂高管也坦言"缺,当然缺,但我们也没办法"。

在供需失衡下,高端GPU价格水涨船高。顶峰时期一张A100的价格被炒至二三十万元,单台A100服务器月租也涨至5-7万元。即便如此,有时仍可能买不到芯片,一些供应商甚至遇到跳票情况。

应对之策

面对算力短缺,企业纷纷寻找应对之策:

  1. 使用更高质量的数据来提升训练效率。

  2. 提升基础架构能力,实现千卡以上稳定运行。

  3. 优化算力卡资源调度,提高利用率。

  4. 从云计算架构过渡到超算架构以降低成本。

  5. 使用国产平台替代英伟达GPU。

  6. 选择专业算力厂商支持,降低自建数据中心成本。

算力服务新模式

算力正在从单纯的硬件资源,演变为一种新型服务模式。算力服务以多样性算力为基础,通过算力网络链接,以供给有效算力为目标。

在算力产业链中:

  • 上游企业提供算力基础资源
  • 中游企业负责算力生产和供给
  • 下游企业依靠算力服务进行增值应用

这种模式让算力使用门槛降低,有助于算力的普惠化发展。

商业模式演进

目前算力服务主要采用按量计费和包年包月两种模式。未来行业正在推进"算网一体化融合",支持跨架构、跨地域、跨服务商的灵活调度。

随着大模型需求常态化,算力服务正快速形成独特的产业链和商业模式。虽然当前高端GPU短缺带来挑战,但长远来看,算力服务商需要为市场理性回归后的转型做好准备。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 3
  • 分享
评论
0/400
ShibaSunglassesvip
· 22小时前
有A100 不如买币
回复0
AllInAlicevip
· 22小时前
炒到二三十万一张 疯了吧
回复0
0xSleepDeprivedvip
· 22小时前
gpu都这么贵了啊
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)