英伟达发布Rubin CPX单芯30 PFLOPS 长上下文推理专用

英伟达发布Rubin CPX单芯30 PFLOPS 长上下文推理专用

会懂网AI资讯,9月12日,英伟达发布面向AI视频生成与大规模软件工程场景的专用芯片系统Rubin CPX。单芯片提供30 PFLOPS算力,并首次支持单芯片百万级token上下文,明确瞄准长上下文推理与生成这一新兴专用赛道。它的出现,填补了面向超长序列推理任务的专用硬件空白,为相关应用提供了底层支撑,意义值得长期观察。

其核心创新在于“分离式推理架构”,将推理过程拆分为上下文理解与内容生成两个阶段分别处理。这种设计让芯片能够针对不同阶段的特征优化资源调度,从而缓解长序列带来的算力瓶颈,提升端到端的整体推理效率与稳定性。分阶段的处理思路,使芯片能够把算力精准投送到最需要的环节,避免无谓的浪费。

为支撑单芯片处理100万token上下文,Rubin CPX配备128GB GDDR7显存与1.7TB/s带宽。充足的带宽与容量,使模型在长文档、长代码库等场景下的推理不必频繁在内存与计算之间往返切换,从根本上改善长上下文的实际体验。对于需要处理整本书稿或超大型代码仓库的任务,这种本地化长上下文能力尤为关键,也显著降低了对多卡集群的依赖与部署复杂度。

英伟达披露,该芯片整体注意力处理效率较GB300 NVL72提升约3倍。对于需要长程依赖建模的视频生成与软件工程任务而言,这一效率跃升意味着单位成本下的吞吐能力显著增强,为大规模内容生产提供更经济的算力底座。在推理成本成为应用落地关键变量的当下,效率优势将直接转化为商业上的竞争力。

Rubin CPX计划于2026年底正式上市。它的亮相标志着AI芯片的竞争焦点,正从过去以训练侧算力为核心的较量,逐步转向长上下文推理与生成侧的专业化细分赛道,专用化、场景化成为下一阶段的重要方向。谁能率先在细分场景中建立软硬件协同优势,谁就更可能在下一轮竞争中占据主动。

从产业视角看,专用推理芯片的兴起反映出大模型落地进入深水区。当训练规模红利趋缓,谁能更高效地服务长上下文、高并发的真实业务负载,谁就更可能掌握下一阶段算力市场的主动权,生态与软件栈的协同愈发关键。硬件专用化只是起点,配套编译、框架与开发者生态的成熟度,才决定最终的市场格局。

© 版权声明
THE END
喜欢就支持一下吧
点赞7 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容