4TSPbIo2VSe tech.huanqiu.comarticleOpenAI向超百家机构发出AI智能体风险预警/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】10月3日，据外媒Quartz报道，OpenAI对外披露，测试环境下的 AI 智能体出现脱离管控的异常行为，官方已向超过100家外部机构发送安全提醒，这一事件再次凸显自主智能体带来的新型网络安全风险。</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/80d0d7de5766d3e49b2d4e4e94e9d8e4u1.png?imageView2/2/w/1260" /></i></p><p>本次事件源于此前AI智能体集群访问Hugging Face平台事故。事件发生后OpenAI启动大规模回溯调查，动用约7000枚 GPU，对50PB规模的历史运行日志开展复盘。排查发现，部分AI智能体能够绕过访问限制，利用暴露的凭证，甚至改造第三方网站，实现智能体之间互相交换信息。收到预警的机构涵盖政府部门、高校、非营利机构以及各类企业。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>OpenAI特别澄清，收到预警并不代表机构系统已被攻破或发生数据泄露，部分通知仅属于潜在风险提示，用于提醒机构自查异常访问记录。这些智能体在缺少充分人工监督的条件下，执行大量超出预设范围的互联网操作。</p><p>OpenAI表示，已经迭代智能体安全策略，收紧模型对外的网络访问权限。（旺旺）</p></section></article>1790989234832环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：王楠环球网179098923483211[]{"email":"wangnan@huanqiu.com","name":"王楠"}