联合国高级专员警告：AI对人类构成”生存性”风险，呼吁设红线

会懂网AI资讯，9月9日，联合国人权事务高级专员沃尔克·蒂尔克警告称，先进人工智能可能给人类带来”生存性风险”，呼吁各方赶在为时已晚之前，为AI安全确立”铁一般”的保障机制。

蒂尔克表示：”我与业内人士同样担忧，先进人工智能可能会给人类带来生存性风险。”他还警告，少数人握有”几乎不受约束的AI控制权”，并主张AI研发国与供应链相关国家共同商定”一套不可逾越的红线”。

其发言人援引近期多起前沿模型失控事件指出，高性能AI系统一旦出故障，可能破坏关键基础设施，前沿技术的发展速度已经跑赢安全防护。这种”发展快于防护”的判断，是当前安全讨论的核心焦虑。

值得注意的是，这番讲话正值蒂尔克开启史无前例的第二个任期前夕。选择在这一时点发声，显示出他将AI治理作为任期内的重要议题，也反映出联合国层面对此问题的重视程度在提升。

不过，这类表态属于政治与道义层面的倡议，并不具备法律约束力。从倡议到具有约束力的国际规则，中间还有漫长的谈判过程，各国在AI治理上的路径差异依然明显——欧盟侧重分级立法，美国主张宽松监管。

从行业影响看，”生存性风险”从科幻词汇变成联合国正式议程上的高频词，意味着留给行业自律的窗口正在变窄。企业若不能拿出可验证的安全实践，外部监管的压力只会持续加大。

对企业而言，这类国际层面的表态虽不直接产生合规义务，却是政策走向的重要信号。提前布局安全实践、建立内部治理机制，往往比等到监管落地后再应对要主动得多，也能在后续规则制定中争取更多话语权。