蚂蚁集团开源SingProbe 大模型内生式安全护栏计算开销不足0.5%

会懂网AI资讯，9月15日，蚂蚁集团AI安全实验室在2026国家网络安全宣传周上发布并开源大模型内生式安全护栏SingProbe。与主流外挂式审核不同，SingProbe复用基座模型推理隐藏状态，通过轻量探针在生成过程中逐token实时输出内容安全与幻觉风险信号。这种将安全能力嵌入模型推理内部的设计思路，为大模型安全治理提供了一条区别于传统外围过滤的技术路线。

SingProbe的额外计算开销不足0.5%，几乎不影响模型推理速度。这种低侵入性设计使其能够在风险内容完整输出前及时拦截，既保障了用户体验的流畅性，又避免了事后审核的滞后性，为大模型安全治理提供了新的技术路径。在实际部署中，安全方案的开销大小直接决定了其能否被大规模采用，SingProbe以极低的性能代价实现了实时防护，具有较强的工程实用价值。

目前SingProbe已适配Ling-3.0系列、GLM-5.2与5.3、Qwen、DeepSeek V4等29个主流开源大模型，并接入SGLang和vLLM推理框架。广泛的兼容性意味着开发者可以在不更换现有模型和基础设施的情况下，快速部署这一安全防护能力。这种开箱即用的特性降低了安全治理的落地门槛，使得中小规模团队也能够以较低成本获得大模型内生式安全防护。

蚂蚁集团同步发布流式安全评测基准SingStreamBench，为行业提供了统一的内生式安全评测标准。该基准可量化不同模型在内容安全、幻觉检测等维度的表现，推动大模型安全能力从定性描述走向可衡量、可比较。一个公认的评测基准有助于消除各厂商在安全指标上的口径差异，为监管部门、企业和开发者提供客观的选型参考依据。

从治理角度看，内生式护栏代表了AI安全从外围防御向内核免疫的演进。传统外挂审核容易被对抗性提示绕过，而SingProbe深入模型内部推理过程，能够识别更隐蔽的风险模式，提升安全防护的鲁棒性和覆盖范围。随着大模型能力不断增强，单纯依赖外部审核已难以应对日益复杂的风险形态，向模型内部嵌入安全信号正成为行业的重要演进方向。

蚂蚁集团作为金融科技领域的领军企业，其AI安全技术的开源对行业具有示范意义。随着大模型在金融、医疗、政务等高风险场景的深度应用，内生式安全护栏有望成为模型部署的标配组件，推动AI安全基础设施的标准化和普及化。蚂蚁集团将自身积累的安全能力开放给社区，既有利于降低行业整体安全成本，也有助于构建更加健康可信的大模型应用生态。