会懂网AI资讯获悉,近期AI芯片圈暗流涌动:路透社报道称DeepSeek已悄然研发AI芯片一年,正接触芯片设计、晶圆代工与存储厂商;不久后OpenAI端出与博通合作的Jalapeño芯片集群,Anthropic也宣布组建自研芯片团队。一边大举采购英伟达产能,一边亲自下场造芯,巨头们的算盘正在改变。
转折发生在两年前。2024年8月,Google DeepMind论文揭示”延长思考时间即可大幅提升正确率”,随后OpenAI o系列、DeepSeek-R1等深度思考模型引爆行业。AI Agent、多Agent协作、超长上下文分析逐渐成为落地标配,”深度推理”路线得到全行业确认。
技术路线上,模型输出分Prefill与Decode两阶段:Prefill一次性并行计算,GPU效率高;但自回归的Decode阶段输入矩阵从4096行骤降至1行,算力利用率断崖式下跌。推理芯片正是为Decode这类高并发、低带宽利用率的场景而生,专用架构在能效比上显著优于通用GPU。

推理芯片并非新概念,谷歌TPU、Groq、Cerebras、SambaNova早有布局,但前几年始终不温不火。如今随着推理成为大模型落地主战场,专用芯片从”大厂懒得理”变成”高看一眼”。对英伟达而言,训练市场的护城河依旧牢固,但推理这块增长最快的蛋糕,正迎来前所未有的分食者。
业内认为,模型厂商自研芯片短期难撼动英伟达在训练端的统治,却可能在推理侧打开新格局。当算力需求从”训练一次”转向”每天亿万次推理”,谁掌控了推理成本,谁就掌握了AI商业化的命脉。
对创业公司而言,推理芯片是把双刃剑:专用架构能效比诱人,但生态、软件栈与产能仍是高墙。未来更可能的格局,不是谁取代英伟达,而是训练归GPU、推理分专用,算力市场第一次出现真正的分层。




















暂无评论内容