OpenAI新应用Sora含大量伪造视频，遭研究员吐槽引使命矛盾争议

近日，多位OpenAI现任及前任研究人员公开表达了对公司首次涉足社交媒体领域的看法。OpenAI最新推出的Sora应用，是一款类似TikTok风格的产品，其内容以AI生成视频为主，里面包含大量公司CEO的深度伪造视频。

这些研究人员在社交平台X上表达了不满，质疑该应用的推出是否符合OpenAI “开发惠及人类的先进AI”这一非营利使命。

• OpenAI预训练研究员在X平台的帖子中提到：“基于AI的信息流很可怕。最初得知要推出Sora 2时，我确实有些担忧。不过，我认为团队在设计积极的用户体验方面已经尽力了……我们会全力以赴确保AI造福人类，而非带来伤害。”
• 另一位OpenAI研究员、哈佛大学教授回复称：“我同样既担忧又兴奋。从技术层面看，Sora 2令人惊叹，但现在就为避开其他社交媒体应用和深度伪造技术的陷阱而庆贺，还为时过早。”
• OpenAI前研究员借此机会宣传自己的新初创公司 ——Periodic Labs。该公司由前AI实验室研究人员组成，致力于开发用于科学发现的AI系统。他表示：“如果不想打造无休无止的AI版TikTok‘垃圾内容生成器’，而是希望开发能推动基础科学进步的AI，那就加入我们Periodic Labs。”

Sora的推出凸显了OpenAI反复出现的核心矛盾。该公司既是全球增长最快的消费科技公司，同时也是一家拥有崇高非营利章程的前沿AI实验室。

OpenAI首席执行官在X平台的帖子中也表达了类似观点，并解释了公司为何要为这款AI社交应用投入大量资金和算力。他表示：“我们确实最需要资金来开发能够推动科学发展的AI，而且几乎所有研究精力都集中在通用人工智能（AGI）上。与此同时，在这个过程中向人们展示酷炫的新技术/产品，让他们开心，并且考虑到巨大的算力需求，希望能借此盈利，这也很不错。”他还提到，当初推出ChatGPT时，也有很多人质疑“谁需要这个？通用人工智能在哪里？”事实上，对于一家公司而言，最优发展路径往往是复杂的。

目前，Sora的影响力尚小，该应用才刚推出不久。但其标志着OpenAI消费业务的重大扩张。与主打实用性的ChatGPT不同，OpenAI表示Sora以娱乐为核心定位，是一个生成和分享AI视频片段的平台。其信息流设计与TikTok或Instagram Reels更为接近，而后两者则因容易让人沉迷的循环机制而声名狼藉。

OpenAI坚称会努力规避这些问题，并在宣布Sora上线的博客文章中表示，“对无节制刷视频、沉迷、社交孤立以及强化学习优化（RL - sloptimized）信息流的担忧，始终是我们关注的重点”。该公司明确表示，不会以用户在信息流上花费的时间为优化目标，反而会优先最大化内容创作量。OpenAI称，当用户刷视频时间过长时，应用会发送提醒，且主要向用户展示其认识之人的内容。

目前判断Sora应用是否符合用户需求，以及是否契合OpenAI的使命，还为时过早。用户已发现该应用中存在一些优化用户参与度的设计，例如每次点赞视频时都会弹出动态表情符号。这种设计似乎是为了在用户与视频互动时，向其大脑释放少量多巴胺，从而提升用户粘性。