我们很高兴分享我们与SGLang合作的成果。🎉



我们优化了 DeepSeek R1 推理,以便在 GB200 NVL72 上部署—与几乎是两倍大小的 H100 集群相比,提供了每个 GPU 增加 2 倍和 3 倍的性能。

这就是前沿 MoE 推断的样子。
DEEPSEEK-1.24%
LOOKS-0.25%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 6
  • 分享
评论
0/400
鲸落见证者vip
· 16小时前
性能又翻倍啦 厉害了
回复0
Rugpull幸存者vip
· 16小时前
又在卷性能是吧
回复0
OnChainDetectivevip
· 16小时前
嗯,追踪了那些GPU指标……这里面有些不对劲。
查看原文回复0
元宇宙流浪汉vip
· 16小时前
卧槽 终于干过H100了!
回复0
经典割韭机vip
· 16小时前
又跟着起飞了吧
回复0
狗庄的小兵vip
· 16小时前
GPU性能炸了属于是
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)