OpenAI联合多方出手！严控Sora深度伪造风险保障AI视频安全

近日，据外媒报道，OpenAI与美国演员工会（SAG - AFTRA）等共同发布联合声明，宣布建立深度合作机制，重点防范其AI视频生成工具Sora可能引发的深度伪造（Deepfake）滥用问题。

Sora是OpenAI推出的文本到视频生成模型，凭借“1分钟长视频生成”“物理规律模拟”“多镜头叙事”等能力，自曝光便引发全球关注。然而，其强大的内容生成能力也带来了不可忽视的深度伪造风险。不法分子可能利用该技术伪造名人影像、篡改历史事件或制造虚假新闻，这对个人名誉、社会信任甚至国家安全都会构成威胁。

为应对这些风险，在此次合作中，OpenAI承诺在Sora的后续版本中实施严格的“选择加入”（Opt - In）政策。这意味着所有艺术家、表演者及普通用户，其声音、肖像若要被用于AI生成内容，必须明确授权。例如，若要生成某位名人的虚拟影像，必须通过其本人或授权代表的确认，同时要明确使用场景与期限。

此外，OpenAI将建立快速响应机制。一旦发现涉嫌侵权的生成内容，会立即进行下架处理，并配合执法部门追溯源头。这一机制能在一定程度上遏制深度伪造内容的传播，减少其造成的危害。

同时，OpenAI宣布向合作方开放部分技术细节，鼓励第三方机构开发深度伪造检测工具。目前，已有斯坦福大学、MIT等高校参与相关研究，他们试图通过算法识别AI生成内容的微小瑕疵。借助这些高校的科研力量，有望提高对深度伪造内容的检测能力，及时发现并阻止潜在的风险。

当地时间10月20日，美国演员工会、OpenAI、布莱恩·克兰斯顿及多家艺能公司就确保Sora 2中声音与肖像权保护发布联合声明。OpenAI在Sora 2中实施个人声音与肖像使用的选择加入政策，所有艺术家、表演者及个人均有权决定是否允许模拟其形象及具体方式。该政策体现了公司对艺术家权益、透明度及生成式技术伦理部署的承诺，并且承诺会迅速回应任何投诉。

OpenAI此次与多方合作，采取一系列措施加强对Sora的监管，旨在平衡AI技术的创新发展与安全风险防控，让AI视频生成技术在合法、合规、安全的轨道上发挥更大的价值。