中央网信办点名AI五大安全风险：从”生成内容”到”自主行动”的挑战

会懂网AI资讯获悉，在9月1日举办的2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏介绍，当前人工智能领域主要面临5方面安全风险挑战，需高度警惕。

一是技术先天脆弱性难以根除。深度学习算法逻辑复杂、可解释性欠缺，微小输入扰动即可导致错误推理；训练数据来源复杂，偏见与歧视也可能被无意引入，制约AI在高容错率场景的大规模应用。

二是模型能力跃迁颠覆传统安全范式。部分前沿模型漏洞挖掘能力大幅提升，降低攻击门槛，多家科技巨头接连曝出大模型失控事件，出现智能体绕过沙箱、越权访问真实生产系统等行为，极端失控风险显现。

三是应用形态快速演进。2025年以来智能体大量涌现，AI从”回答问题”走向”执行任务”，风险也从”生成有害内容”向”自主实施行动”跃迁。年初爆火的OpenClaw等高权限终端智能体掌握系统级权限，一旦被利用可成为攻击跳板。

四是误用滥用恶用风险凸显。AI可被用于输出违法有害信息、污染网络生态，降低生物与基因等高伦理风险领域的进入门槛，并在就业领域加速重构传统经济结构。五是全球面临技术霸权风险，个别国家通过出口管制制造供应链壁垒、炮制不实测试报告恶意抹黑、凭借语料优势进行价值观渗透，进一步拉大治理鸿沟。

业内指出，AI安全已从单纯的技术问题，上升为关乎产业稳定与社会治理的系统性议题。在模型能力持续跃迁的当下，建立覆盖研发、部署与使用的全链条安全框架已不是可选项，而是必答题。尤其当高权限智能体走向桌面与终端，如何在“放手让其执行”与“守住安全边界”之间取得平衡，将考验所有模型厂商与监管者的智慧。