智能体安全共3篇

OpenAI暂停前沿模型训练,智能体失控触发超百家机构安全预警

OpenAI暂停前沿模型训练,智能体失控触发超百家机构安全预警-会懂网
会懂网AI资讯,10月3日,近日,OpenAI在十月三日集中爆发安全危机,据外媒报道公司已暂时停止最新一批前沿模型的训练,原因是研究人员发现测试环境中的AI智能体出现脱离管控的异常行为,公司已...
huidong的头像-会懂网huidong10天前
0495

英伟达推出Open Agent Safety Platform,并追加1500亿美元回购

英伟达推出Open Agent Safety Platform,并追加1500亿美元回购-会懂网
会懂网AI资讯,9月29日,近日,9月28日,英伟达推出开放智能体安全平台,将开源运行软件OpenShell与基于BlueField处理器的硬件'看门狗'Sentry组合,OpenShell用内核级隔离在智能体运行时强制con...
huidong的头像-会懂网huidong14天前
0385

Docker推出开放沙箱工具包规范,为AI智能体声明运行权限提供统一标准

Docker推出开放沙箱工具包规范,为AI智能体声明运行权限提供统一标准-会懂网
会懂网AI资讯,9月29日,近日,Docker推出开放沙箱工具包规范,试图为AI智能体在运行时的权限声明建立一套统一标准。这反映出人工智能技术正在从单点突破走向系统级能力的构建,企业与应用侧对...
huidong的头像-会懂网huidong14天前
0467