阿里开源Qwen3-Next-80B-A3B 训练成本降至Qwen3-32B一成

阿里开源Qwen3-Next-80B-A3B 训练成本降至Qwen3-32B一成

会懂网AI资讯,9月13日,阿里通义千问团队在9月12日凌晨正式推出下一代基础模型架构Qwen3-Next,并同步开源基于该架构的80B-A3B系列,包含Instruct与Thinking两个版本,把新一代架构的完整权重直接交到开发者手中,供其在本地与云端自由微调与部署。

这组模型最引人注目的地方在于参数与成本之间的错位:总参数规模达到800亿,但每次推理仅激活30亿参数,官方给出的核心指标是训练成本较此前的Qwen3-32B下降90%,相当于把获得同等能力所需的训练投入压缩到了原来的十分之一,对需要持续迭代模型的团队而言意义远超省钱本身。

架构层面,Qwen3-Next采用了线性注意力与自研门控注意力相结合的混合注意力机制,用来大幅降低超长上下文场景下的计算复杂度。传统注意力机制在长序列上的开销随长度快速增长,这也是过去长文本推理成本高企、难以规模化商用的主要症结所在。

效率的提升直接反映在吞吐指标上。官方称在32K以上长度的长文本场景中,推理吞吐提升超过10倍,在中长文档处理与代码库级理解等任务上表现尤为明显。长桥点评认为,该系列性能可与Llama-3.1-405B相当,但推理成本降低50%。

资本市场的反应同样迅速而剧烈。阿里美股隔夜暴涨8%,创下2021年底以来的新高,港股盘中一度触及153.8港元,刷新近4年高点,年内累计涨幅超过80%,开源动作与股价表现形成了相互强化的效应,市场把这次发布视作对阿里AI叙事的一次重新定价。

板块层面,纳斯达克中国金龙指数当日收涨2.89%,百度、京东、拼多多等中概科技股全线跟涨。业内普遍认为,当训练成本被压缩一个数量级之后,大模型竞争的重心会从单纯堆算力转向架构效率与部署密度的比拼,算力预算有限的团队将获得更多参与机会。

© 版权声明
THE END
喜欢就支持一下吧
点赞8 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容