ChatGPT的制造商现在正在深入研究人工智能生成的视频。
来认识一下Sora——OpenAI的新文本转视频生成器。这家位于旧金山的公司周四发布了这款工具，它使用生成式人工智能，根据书面命令即时制作短视频。
苍井空并不是第一个展示这种技术的公司。但业内分析人士指出，该工具目前显示的视频质量很高，并指出，它的推出标志着OpenAI和未来文本到视频的整体飞跃。
然而，就像今天快速发展的人工智能领域的所有事物一样，这种技术也引发了人们对潜在伦理和社会影响的担忧。以下是你需要知道的。
Sora是一个文本到视频生成器，使用生成式人工智能根据书面提示创建长达60秒的视频。该模型还可以从现有的静止图像生成视频。
生成式人工智能是人工智能的一个分支，可以创造新的东西。例子包括聊天机器人，如OpenAI的ChatGPT，以及图像生成器，如DALL-E和Midjourney。让人工智能系统生成视频是一种更新且更具挑战性的技术，但它依赖于一些相同的技术。
Sora目前还不能供公众使用(OpenAI表示，在正式发布该工具之前，它正在与政策制定者和艺术家进行接触)，我们还有很多不知道的地方。但自周四宣布以来，该公司已经分享了一些由sora生成的视频示例，以展示它的能力。
OpenAI首席执行官萨姆·奥特曼还在X平台(原名Twitter)上要求社交媒体用户及时发送想法。后来，他分享了一些非常详细的视频，这些视频回应了“两只金毛猎犬在山顶上播播客”和“一场海洋自行车比赛，不同的动物作为运动员骑着自行车，用无人机拍摄”等提示。
虽然sora生成的视频可以描绘复杂的、令人难以置信的细节场景，但OpenAI指出，它仍然存在一些弱点——包括一些空间和因果元素。例如，OpenAI在其网站上补充说，“一个人可能咬了一口饼干，但之后，饼干上可能没有咬痕。”
OpenAI的Sora并不是第一个。谷歌、meta和初创公司Runway ML都展示了类似的技术。
不过，行业分析师强调了迄今为止分享的苍井空视频的明显质量和令人印象深刻的长度。麦格理(Macquarie)美国人工智能和软件研究主管弗雷德·哈夫迈耶(Fred Havemeyer)表示，Sora的推出标志着该行业向前迈出了一大步。
哈夫迈耶说:“你不仅可以制作更长的视频，我知道最长可达60秒，而且制作出来的视频看起来更正常，似乎更尊重物理和现实世界。”“你不会在视频馈送中看到那么多‘恐怖谷’视频或片段，看起来……不自然。”
去年，人工智能生成的视频有了“巨大的进步”——包括去年11月推出的“稳定视频扩散”——弗雷斯特公司的高级分析师罗文·柯伦说，这样的视频需要更多的“拼接”来保持人物和场景的一致性。
然而，Curran周五通过电子邮件告诉美联社，Sora视频的一致性和长度代表了“创意人员将人工智能生成的视频元素融入更传统内容的新机会，现在甚至可以从一个或几个提示中生成完整的叙事视频。”
尽管自上周四发射以来，Sora的能力令观察人士感到震惊，但对人工智能生成视频使用的伦理和社会影响的担忧仍然存在。
例如，哈夫迈耶指出了2024年可能令人担忧的选举周期的重大风险。他补充说，拥有一种“潜在的神奇”方式来制作看起来和听起来都很真实的视频，会带来政治内外的许多问题，他指出了欺诈、宣传和错误信息等问题。
哈夫迈耶表示:“生成式人工智能的负面外部性将成为2024年辩论的一个关键话题。”“这是每个企业和每个人今年都需要面对的一个重大问题。”
在治理人工智能及其风险方面，科技公司仍在发号施令，世界各国政府都在努力追赶。去年12月，欧盟就全球首个全面的人工智能规则达成协议，但该法案要在最终批准后两年才能生效。
周四，OpenAI表示，在广泛使用Sora之前，它正在采取重要的安全措施。
该公司写道:“我们正在与红队合作，红队是错误信息、仇恨内容和偏见等领域的专家，他们将对该模型进行对抗性测试。”“我们还在开发一些工具来帮助检测误导性内容，比如检测分类器，它可以分辨出视频是何时由Sora生成的。”
OpenAI负责全球事务的副总裁Anna Makanju周五在慕尼黑安全会议上重申了这一点，OpenAI和其他19家科技公司承诺自愿合作，打击人工智能产生的选举深度造假。她指出，该公司正在“以一种相当谨慎的方式”发布苍井空。
与此同时，OpenAI透露了有关Sora如何构建的有限信息。OpenAI的技术报告没有披露用于训练Sora的图像和视频来源，该公司也没有立即回应周五的进一步评论请求。
在苍井空发布这款软件的同时，一些作家和《纽约时报》正对OpenAI及其商业合作伙伴微软提起诉讼，原因是该公司使用受版权保护的写作作品来训练ChatGPT。OpenAI向美联社支付了一笔未公开的费用，以获得其文本新闻档案的授权。
