4OfOPM2pa7N tech.huanqiu.comarticleAI扩散风险迫在眉睫，谷歌前CEO：防不住的危机来了？/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】10月10日消息，据CNBC报道，谷歌前首席执行官埃里克·施密特日前发出强烈警示，人工智能（AI）的扩散风险正成为亟待解决的重大问题，同时，在AI泡沫论甚嚣尘上的当下，他对AI的未来依然充满信心。</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/bca5f4d048db73dee2b9bc0d47d202c3u1.png?imageView2/2/w/1260" /></i></p><p>施密特指出，人工智能存在严重的扩散风险。这种风险主要体现在技术可能落入不良行为者手中，进而被重新利用和滥用。他举例称，无论是封闭模型还是开放模型，都存在被黑客攻击、移除防护机制的可能。在训练过程中，AI可能学到不良行为，甚至学会如何杀人。尽管各大公司都在努力确保模型不会回答危险问题，但仍有证据表明这些模型可以被逆向工程。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>AI系统的脆弱性还体现在易受多种攻击手段的影响，如提示注入和越狱攻击。黑客可以通过隐藏恶意指令，诱使AI分享私人数据或执行有害命令；也可以操纵AI的回应，使其无视安全规则，生成受限或危险内容。</p><p>面对如此严峻的形势，施密特坦言，目前还没有一个有效的“防扩散机制”来遏制AI的危险。然而，他并没有因此对AI失去信心。相反，他认为AI技术没有得到应有的关注，甚至被低估了。</p><p>在AI领域投资热潮不断、泡沫论频现的背景下，施密特的乐观态度显得尤为突出。他认为，投资者愿意投入大量资金，是因为他们相信从长期来看，AI的经济回报是巨大的。（旺旺）</p></section></article>1760065767342环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：林梦雪环球网176006576734211[]//img.huanqiucdn.cn/dp/api/files/imageDir/bca5f4d048db73dee2b9bc0d47d202c3u1.png{"email":"linmengxue@huanqiu.com","name":"林梦雪"}