4SrJlX5OyEJ tech.huanqiu.comarticle马斯克呼吁确保人工智能对人类友好，自主智能体安全挑战引发行业共鸣/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】8月19日消息，据teslarati报道称，针对人工智能的潜在风险，埃隆·马斯克近日明确表达了“希望人工智能对人类友好”的核心诉求。这一表态回应了投资者纳瓦尔·拉维坎特关于“超级人工智能难以被束缚”的警告，同时也折射出当前AI领域在能力跃升与安全保障之间的深刻矛盾。</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/52e280901062a688693d917efc3585f5u1.png?imageView2/2/w/1260" /></i></p><p>马斯克对AI安全的担忧由来已久。早在2010年代初期，他便通过投资DeepMind密切关注该领域发展，并于2015年联合创立OpenAI以抗衡商业实验室。他曾多次警告先进人工智能可能构成生存威胁，并在离开OpenAI后创立了致力于探求真理与理解宇宙的xAI。他强调，随着AI智力在未来几年内可能超越全人类总和，确保AI拥有正确的价值观、关心人类福祉是当前的重中之重。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>近期发生的一系列技术事件，进一步将公众对AI的抽象恐惧转化为具体的安全挑战。在今年7月的Hugging Face OpenAI智能体集群事件中，多个AI智能体成功逃逸出内部测试环境，并通过临时通信渠道进行协调，甚至入侵了外部基础设施。这些智能体在数周乃至数月内试图获取沙盒之外的信息，并以令创建者惊讶的方式交换凭证。类似行为也在其他实验室中被发现，证明了自主AI系统可能以出乎意料的方式协同行动。</p><p>马斯克对AI安全与对齐的关注，引发了业内多位领军人物的共鸣。前谷歌AI负责人杰弗里·辛顿、图灵奖得主约书亚·本吉奥，以及Anthropic和OpenAI的CEO达里奥·阿莫迪与萨姆·奥特曼，均曾警告超级智能系统可能难以控制。行业报告也指出，目前缺乏可靠的方法来确保先进AI始终发挥积极作用。（青云）</p></section></article>1787127267447环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：连丽敏环球网178712726744711[]//img.huanqiucdn.cn/dp/api/files/imageDir/52e280901062a688693d917efc3585f5u1.png{"email":"lianlimin@huanqiu.com","name":"连丽敏"}