会懂网AI资讯获悉,开源项目 openJiuwen 发布了 X-Router 自演进模型路由技术。它的思路很直接:面对一堆能力各异的模型,不让每次请求都砸向最贵的那个,而是让路由自己学会这事该交给谁,并且越跑越省。

X-Router 主打对昇腾算力友好,官方实测在智能体(Agent)长链路调用里,能减少 50% 以上的 Token 消耗。对 Agent 场景来说,这很关键,一个任务往往要拆成几十步、调用十几次模型,如果每一步都默认上满血大模型,账单会迅速失控。路由的价值,就是把杀鸡和宰牛分开计价。
自演进是它和静态路由最大的区别。传统路由靠人写规则:超过多少字走大模型,简单分类走小模型。X-Router 则根据历史调用效果持续调整,哪类任务用小模型就能达标,它就慢慢把流量导过去,形成正向循环。配合国产昇腾硬件,也契合当下模型与芯片软件定义硬件的国产化叙事。
模型路由不是新概念,但真正难在准和省之间的平衡。路由判错了,省了成本却丢了质量;路由太保守,又省不下来。openJiuwen 把这套能力开源,等于给中小团队一个低门槛的降本入口。接下来要看的,是它在真实多模型、多业务负载下的稳定性,而不只是发布会上的数字。
模型路由最难的是准与省之间的平衡。判错了,省了成本却丢了质量;判太保守,又省不下来。openJiuwen 把自演进能力开源,等于给中小团队一个低门槛的降本入口,不必再为每次调用都上最贵的大模型买单。尤其在 Agent 长链路里,几十步调用叠加,路由的回报会被放大。接下来真正要看的,是它在真实多模型、多业务负载下的稳定性,而不只是发布会上的演示数字。能跑在生产里,才算真的省。





















暂无评论内容