无问芯穹联合清华上交开源APXInf 具身端侧推理引擎取得SOTA

无问芯穹联合清华上交开源APXInf 具身端侧推理引擎取得SOTA

会懂网AI资讯,9月15日,无问芯穹联合清华大学、上海交通大学正式开源具身端侧推理引擎APXInf。该引擎面向机器人在端侧的感知、决策、执行低时延闭环需求设计,官方称在Pi 0.5模型上取得SOTA性能,显著提升了机器人在边缘设备上的推理效率。此次产学研联合开源,将高校的前沿研究与企业的工程化能力相结合,为具身智能开发者提供了一个可以直接用于产品化部署的高性能推理底座。

具身智能的瓶颈正在从模型够不够聪明转变为端侧跑不跑得稳。APXInf的目标是压缩机器人从看到到动起来的整套流程时延,使感知信息与运动控制之间的反馈环路更加紧凑。这对于需要快速反应的动态场景,如抓取、避障和行走平衡至关重要。只有当推理引擎能够在受限的端侧算力上稳定输出,机器人才能够在真实物理环境中做出及时、可靠的动作响应。

端侧推理引擎的开源相当于把机器人部署门槛往下压了一层。开发者无需自行优化模型在嵌入式芯片上的运行效率,直接基于APXInf即可实现高效的本地推理。这降低了具身智能方案的开发周期和硬件成本,有利于中小企业和科研团队入局。过去这一层优化工作通常需要经验丰富的底层工程师投入大量时间完成,开源引擎的出现让更多团队能够把精力集中在应用层创新上。

APXInf的发布也说明国产算力软件栈开始主动适配具身这类新负载,而不只是替代别人的训练框架。从芯片指令集优化到内存调度策略,APXInf针对机器人应用的特点进行了深度定制,体现了软硬件协同设计的思路。具身智能的推理负载与传统的语言模型推理存在明显差异,针对这些差异进行专门优化,是提升机器人端侧实时性能的关键所在。

无问芯穹作为国内AI基础设施领域的新锐企业,联合顶尖高校推出开源工具,有助于构建开放的具身智能生态。当推理引擎、仿真平台和模型权重都以开源形式共享时,行业创新速度将显著加快,避免重复造轮子。开放的底层工具能够降低整个行业的准入门槛,吸引更多开发者参与到具身智能的技术探索与产品创新中来,从而形成正向循环。

从更宏观的视角看,APXInf填补了国产具身智能软件栈的重要空白。中国在机器人硬件制造方面具有优势,但在底层推理引擎和算法优化上与国际领先水平仍有差距。APXInf的开源为缩小这一差距提供了公共技术基础,有望加速国产具身智能方案的规模化落地。随着硬件与软件的协同进步,国产具身智能产业有望在完整技术链条上形成更强的自主能力。

© 版权声明
THE END
喜欢就支持一下吧
点赞11 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容