平安 CTO 云栖演讲:日均 Token 消耗突破 3000 亿 单位算力产出提升 368%

会懂网AI资讯,9月29日,近日,平安集团首席技术官在2026云栖大会上以从Token到价值为题,分享了平安在真实业务场景中规模化部署AI的经验,其核心观点是,尽管AI能力持续进步,但企业真正要回答的问题始终是如何以可控成本把AI部署到真实业务场景并创造可衡量的价值。这反映出人工智能技术正在从单点突破走向系统级能力的构建,企业与应用侧对此高度关注。

具体来看,为应对这一挑战,平安持续推进科技赋能的综合金融加医疗养老双轮战略与 AI in ALL 方针,把AI嵌入核心业务与运营流程。在算力供给持续扩张与推理成本快速下行的背景下,这类进展对开发者和行业用户都意义重大。业内普遍认为,相关能力的成熟将直接拉动上下游生态的协同创新与商业落地速度。

从技术细节出发,数据最有说服力:过去一年平安的算力从800 PF提升到1500 PF,而日均 Token 消耗从去年末的300亿上升到超过3000亿,通过大约一倍的算力增长支撑了十倍的Token消耗增长,在提升效率的同时把成本控制在合理区间。从产业节奏看,头部厂商正把模型能力转化为可直接调用的服务,竞争焦点已转向工程化与可用性。

在产业层面,这一效率跃升来自全栈优化,涵盖基础模型、推理引擎与算力资源调度,最终实现单位算力的Token产出提升368%,单Token成本下降76%。对用户而言,此类更新意味着更低的使用门槛与更稳定的体验,智能助手的实用价值持续提升。值得关注的是,开源与开放策略正在改变技术扩散的路径,中小团队也能借此快速构建应用。

对开发者与企业用户而言,在业务侧,AI的渗透同样具体:软件开发中AI生成代码已占全部代码产出的约80%,约20%的日常开发任务可以由AI端到端交付。在监管与合规要求趋严的环境下,厂商在能力扩张的同时也更强调安全与可控。多方数据显示,AI 应用的渗透率仍在快速提升,真实场景的反馈正反过来推动模型迭代。

展望后续,客服领域上半年AI服务代表承接了集团81%的客服总量。相关进展将持续影响行业格局,值得长期跟踪。这类进展也折射出国内外在基础模型与智能体方向上的投入力度与路线差异。从长远看,模型与算力、数据的协同优化,将决定下一阶段智能应用的上限。相关团队表示,后续还会围绕稳定性、成本与场景适配持续打磨,让能力真正可用好用。

© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容