小红书清理近12万条AI虚假探店笔记，AI内容治理常态化

会懂网AI资讯，9月6日，小红书”薯管家”发布公告，将AI制作发布的虚假内容纳入常态化治理：以AI生成图片伪造实景、批量生成同质化体验笔记、虚构亲历经历为识别重点，文旅住宿、医疗医美、教育、房产等领域优先覆盖。今年6至8月已清理相关虚假笔记近12万条。

公告明确了治理边界：打击的是”造假”而非”AI”本身。平台同步强化未标识AI内容的识别与跨账号重复图片检测，同时鼓励创作者用AI辅助创作、按规标注。这一立场与监管方向一致——9月2日中央网信办”清朗·整治AI应用乱象”行动通报已点名多家属地平台，要求落实AI生成内容标识。
AI虚假探店的危害具有特殊性：它污染的是”真实体验”这一社区根基。用户上小红书查攻略，信任的正是普通人的真实分享；当AI批量生成的”亲测好用””实地打卡”涌入，信息不对称被急剧放大，平台的信任资产被系统性透支。
从技术手段看，平台的识别思路包括生成图片的模型指纹检测、同质化文本聚类、跨账号图片重复比对等。但AI生成内容的检测与反检测是一场持续的猫鼠游戏，治理需要平台、模型厂商与监管的协同，而非单点对抗。
商业层面，这也关乎种草经济的生死。品牌投放依赖真实的转化数据，若笔记本身是AI批量伪造，广告价值评估将失真。小红书率先把AI造假治理常态化，既是自保，也是向广告主释放”流量真实”的信号。
对内容创作者而言，规则已越来越清晰：AI可以是画笔，但不能是编剧——用AI修图、润色没问题，虚构体验、伪造实景将被清理。合规标注正从可选项变成必选项。
会懂网观察，12万条虚假笔记的清理量，暴露出AI内容泛滥的速度远超想象。当”眼见为实”被生成式模型瓦解，平台间的竞争将转向谁能为”真实性”背书。信任，正在成为AI时代最稀缺的基础设施。