4PP0Gcz8NIG tech.huanqiu.comarticle安全评估 “亮红灯” 多家顶尖 AI 公司安全体系未达全球要求/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】12月4日消息，据NBC报道，非营利机构“未来生命研究所”发布最新AI安全指数，评估结果显示，Anthropic、OpenAI、xAI、Meta等全球主要AI公司的安全措施“远未达到新兴的全球标准”。</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/a6a12cef94731358445a92a6b2e70ce0u1.png?imageView2/2/w/1260" /></i></p><p>评估指出，独立专家通过多维度考察发现，相关企业在追逐超级智能技术突破的过程中，尚未建立起能有效管控高阶AI系统的可靠方案。这一研究的公布，源于近期多起自杀、自残事件被追溯至AI聊天机器人，社会各界对具备推理与逻辑能力、甚至可能超越人类的AI系统所带来的潜在冲击愈发担忧。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>“未来生命研究所”主席、MIT教授马克斯·泰格马克表示，当前AI协助黑客入侵、诱导人类心理失控及自残等相关事件引发热议，但美国AI企业所受监管力度甚至低于餐馆，且仍在通过游说抵制强制性安全规范。与此同时，全球AI领域竞争持续升温，主要科技企业已累计投入数千亿美元用于机器学习技术的扩展与升级。</p><p>据悉，“未来生命研究所”成立于2014年，长期致力于关注智能机器对人类的潜在威胁，早期曾获得特斯拉CEO马斯克的支持。今年10月，杰弗里·辛顿、约书亚·本吉奥等多位科学家已联合呼吁，暂停超级智能研发工作，直至公众诉求明确且科研界找到安全管控路径。（纯钧）</p></section></article>1764814412484环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：郑湘琪环球网176481441248411[]//img.huanqiucdn.cn/dp/api/files/imageDir/a6a12cef94731358445a92a6b2e70ce0u1.png{"email":"zhengxiangqi@huanqiu.com","name":"郑湘琪"}