4OoWyH5Gzhd tech.huanqiu.comarticleOpenAI承诺加强AI视频安全监管 严控Sora深度伪造风险/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】10月21日消息，据外媒CNBC报道，OpenAI与美国演员工会（SAG-AFTRA）等共同发布联合声明，宣布将建立深度合作机制，重点防范其AI视频生成工具Sora可能引发的深度伪造（Deepfake）滥用问题。</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/b64f380b4e257f6a500f57d16df2fb70u1.png?imageView2/2/w/1260" /></i></p><p>据悉，Sora作为OpenAI推出的文本到视频生成模型，凭借其“1分钟长视频生成”“物理规律模拟”“多镜头叙事”等能力，自曝光以来便引发全球关注。然而，其强大的内容生成能力也带来深度伪造风险——不法分子可能利用该技术伪造名人影像、篡改历史事件或制造虚假新闻，对个人名誉、社会信任甚至国家安全构成威胁。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>此次合作中，OpenAI承诺在Sora的后续版本中实施严格的“选择加入”（Opt-In）政策：所有艺术家、表演者及普通用户需明确授权后，其声音、肖像方可被用于AI生成内容。例如，若用户希望生成布莱恩·克兰斯顿的虚拟影像，必须通过其本人或授权代表的确认，并明确使用场景与期限。此外，OpenAI将建立快速响应机制，对涉嫌侵权的生成内容进行下架处理，并配合执法部门追溯源头。</p><p>此外，OpenAI宣布将向合作方开放部分技术细节，鼓励第三方机构开发深度伪造检测工具。目前，已有斯坦福大学、MIT等高校参与相关研究，试图通过算法识别AI生成内容的微小瑕疵。（青山）</p></section></article>1761017161094环球网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。责编：秦耳环球网176101716109411[]//img.huanqiucdn.cn/dp/api/files/imageDir/b64f380b4e257f6a500f57d16df2fb70u1.png{"email":"qiner@huanqiu.com","name":"秦耳"}