会懂网AI资讯,9月29日,近日,亚马逊云科技与 Cerebras 达成合作,把 Trainium 加速器与 Cerebras 的晶圆级引擎 WSE-3 配对使用。这反映出人工智能技术正在从单点突破走向系统级能力的构建,企业与应用侧对此高度关注。在算力供给持续扩张与推理成本快速下行的背景下,这类进展对开发者和行业用户都意义重大。
具体来看,Cerebras 的思路与 Groq 类似但规模大得多,WSE-3 把整片硅晶圆变成单颗芯片,包含超过4万亿个晶体管,该设计不连接外部存储器,而是在每片晶圆上蚀刻44GB的SRAM,这种架构可以直接在片上存放模型权重,单芯片就能支持400亿到800亿参数规模的模型,从而绕开传统架构中权重在显存与计算单元之间来回搬移的瓶颈。

从技术细节出发,根据合作安排,亚马逊计划用 AWS Trainium 芯片负责预填充阶段,用 Cerebras 负责解码阶段,这种分工对应了大模型推理的两个不同特性:预填充是计算密集型,要把整个提示词一次性算完,适合用大批量并行能力强的加速器。业内普遍认为,相关能力的成熟将直接拉动上下游生态的协同创新与商业落地速度。
在产业层面,解码是访存密集型,每生成一个token都要把权重读一遍,对带宽与延迟极其敏感,片上大容量SRAM 在这种场景下优势明显。从产业节奏看,头部厂商正把模型能力转化为可直接调用的服务,竞争焦点已转向工程化与可用性。对用户而言,此类更新意味着更低的使用门槛与更稳定的体验,智能助手的实用价值持续提升。
对开发者与企业用户而言,Cerebras 的芯片也可以独立完成推理任务,WSE-3 此前已被用于支撑 GPT-5.3-Codex-Spark 这一编码模型变体,输出速度超过每秒1000个token,相比之下标准 GPT-5.4 部署的输出速度为每秒50到125个token,差距接近一个数量级。
展望后续,这种数量级的差异在交互式编码、实时对话、长文本生成等场景中会被用户直接感知,响应速度往往是决定产品体验的分水岭。相关进展将持续影响行业格局,值得长期跟踪。值得关注的是,开源与开放策略正在改变技术扩散的路径,中小团队也能借此快速构建应用。在监管与合规要求趋严的环境下,厂商在能力扩张的同时也更强调安全与可控。





















暂无评论内容