网信办整治AI应用乱象：清理561万余条违规信息

会懂网AI资讯获悉，9月3日，中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段进展：截至发布时，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。整治重点包括AI“魔改”经典、虚假灾害与救援画面、换脸换声仿冒、暴力低俗内容、侵害未成年人权益、AI“托管”网络水军及违规智能体应用。

通报要求内容平台强化多模态识别、生成合成内容标识和原始语料审核。这意味着平台不能只做“发布通道”，还要对AI生成内容的来源、标识与合规承担责任。对智能体类应用，违规“托管”水军、自动批量生产低质内容将被重点打击。

会懂网认为，这次整治释放清晰信号：AI能力越强，平台责任越重。过去“技术中立”的缓冲正在收窄，生成内容的标识与可追溯成为底线要求。对合规的AI企业与开发者，这反而是去劣币、立信任的机会。

从用户视角，最直观的变化将是更多带“AI生成”标识的内容、更少的换脸仿冒与灾害谣言。会懂网建议普通用户在看到惊人画面时，先查标识与来源，再决定是否相信与转发。

治理是长期工程。会懂网会关注后续是否出台更细的智能体行为责任与间接提示词注入等规则，以及平台落地标识的实际效果。

从处置力度看，4.9万个账号与561万余条信息的清理规模，说明监管已从原则性表态进入实质性执法阶段。会懂网认为，整治重点集中在AI生成内容的标识、虚假信息传播与滥用风险上，这对合规经营的厂商构成利好，也将抬高低门槛“套壳”应用的生存空间。短期内行业可能出现一轮整改阵痛，但长远看，清晰的规则边界反而有利于AI应用走向规范化与规模化。