首页 AI快讯 九天睿芯发布超大MoE模型推理方案,单卡+4 SSD跑出20

九天睿芯发布超大MoE模型推理方案,单卡+4 SSD跑出20 TPS

希鸥网AIGC专员
· 2026-08-06 · AI快讯 · 来源:36氪 1,360 次阅读

近日,深圳存算一体AI芯片创企九天睿芯发布了一套面向超大MoE模型的推理部署方案。该方案在“单卡+4 SSD”的配置下,让DeepSeek-V4在decode阶段的速度跑到了约20 TPS,具备了真正可用的吞吐量。

据了解,九天睿芯已于去年开始,作为国内首家与关键存储合作伙伴研发基于HBF和sram存算一体堆叠的万亿参数AI推理芯片。

📖 阅读本文共 1,360 2026年08月06日 17:20
📱 长按识别 分享给好友~
💬 咨询客服 💬 客服