超越国际主流方案Hopper架构,天数智芯发布通用GPU旗舰天垓300

南方+

2026世界人工智能大会期间,天数智芯发布新一代通用GPU旗舰产品天垓300,面向人工智能从“信息智能”“行动智能”到“探索智能”的发展趋势,围绕芯片架构、关键算子、系统扩展和软件生态全面升级,以对标并超越Hopper架构的国际主流方案(以下简称Hopper方案)的效能表现,为AI规模化应用提供高质量算力支撑。

天垓300基于SIMT通用计算架构,可高效支持标量、矢量和张量等多种计算类型,并围绕Attention、MoE、AF分离、PD分离及大规模系统扩展等关键技术进行优化,进一步提升底层算力向实际Token产出和业务价值的转化效率。

随着模型参数规模扩大、上下文长度增长和推理请求增加,算力平台既要提升训练吞吐,也要兼顾推理响应和使用成本。针对大模型计算中的核心环节,天垓300优化了Attention与MoE。

在Attention计算中,天垓300通过提升矩阵计算与向量计算的并行效率,减少数据读写等待和冗余计算,在不同精度下实现超过90%的Attention效率,效能优于Hopper架构主流方案。在长序列任务中,产品能够更加充分地利用计算资源,提升训练与推理效率。在上下文64k的场景中,天垓300的Attention效能高于Hopper方案10%。

针对MoE架构中的专家调度和数据路由损耗,天垓300通过算法与硬件协同优化,提高专家与计算单元利用率。在DeepSeek V4 MoE场景中的计算效率突破70%,综合训练效能和性价比优于Hopper方案;在推理场景中,可在保持相同响应体验的情况下承载更多并发请求,以相同算力投入完成更多推理任务,平均效能高于Hopper方案10%。

在Qwen、GLM、Kimi、DeepSeek等主流模型测试中,天垓300首字延迟较Hopper架构主流方案降低约20%。针对Decode阶段高频、多卡、小数据量通信,产品通过降低协议开销、优化链路路径和数据流转机制,使平均通信延迟降低约13%。在GLM 5.2等模型的Decode测试中,效能较Hopper方案提升10%,可为智能编程、办公助手和业务自动化等Agent应用提供更加及时、流畅的交互体验。在PD分离中Prefill和Decode的效能都高于Hopper方案,实现全面突破。

天垓300在底层架构上持续创新。ixSMEX通过提高数据复用率减少重复访存;ixDPX将动态规划中原本需要六条指令完成的计算压缩至一条;ixTrans则通过无损矩阵转置,降低存储冲突和显存开销,进一步释放芯片计算效能。

南方+记者 郜小平


编辑 刘静
+1
您已点过

订阅后可查看全文(剩余80%)

更多精彩内容请进入频道查看

还没看够?打开南方+看看吧
立即打开