科技公司在推出有朝一日可能比人类聪明的强大人工智能技术方面是否进展太快?
这是一群杰出的计算机科学家和其他科技行业名人的结论，比如埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克，他们呼吁暂停6个月来考虑风险。
他们周三发布的请愿书是对旧金山初创公司OpenAI最近发布的GPT-4的回应，GPT-4是其广泛使用的人工智能聊天机器人ChatGPT的更先进的继承者，引发了科技巨头微软和谷歌之间的竞争，以推出类似的应用程序。
他们怎么说?
这封信警告说，具有“与人类竞争的智能”的人工智能系统可能会对社会和人类构成深远的风险——从充斥互联网的虚假信息和自动化工作，到科幻小说领域之外的更灾难性的未来风险。
它说:“最近几个月，人工智能实验室陷入了一场失控的竞赛，开发和部署更强大的数字思维，没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制。”
信中写道:“我们呼吁所有人工智能实验室立即暂停至少6个月对比GPT-4更强大的人工智能系统的训练。”他说:“暂停行动应该是公开的、可核实的，并包括所有关键行为者。如果这样的暂停不能迅速实施，政府就应该介入并实施暂停。”
一些政府已经在努力监管高风险的人工智能工具。英国周三发布了一份文件，概述了其做法，称其“将避免可能扼杀创新的严厉立法”。欧盟27国的立法者一直在谈判通过全面的人工智能规则。
谁签的?
请愿书是由非营利组织“生命未来研究所”组织的，该研究所表示，已确认的签署人包括获得图灵奖的人工智能先驱约书亚·本吉奥，以及斯图尔特·拉塞尔和加里·马库斯等其他顶尖人工智能研究人员。其他加入的人包括沃兹尼亚克、前美国总统候选人杨安泽和《原子科学家公报》主席雷切尔·布朗森。《原子科学家公报》是一个以科学为导向的倡导组织，以警告终结人类的核战争而闻名。
马斯克经营着特斯拉(Tesla)、推特(Twitter)和SpaceX，也是OpenAI的联合创始人和早期投资者。长期以来，他一直对人工智能的生存风险表示担忧。更令人惊讶的是，Stability AI的首席执行官Emad Mostaque，该公司是与亚马逊合作的AI图像生成器Stable Diffusion的制造商，与OpenAI的类似生成器dalle竞争。
他们的反应是什么?
OpenAI、微软和谷歌周三没有回应置评请求，但这封信已经有很多人持怀疑态度。
康奈尔大学(Cornell University)数字与信息法教授詹姆斯?格里梅尔曼(James Grimmelmann)表示:“暂停是一个好主意，但这封信措辞含糊，没有认真对待监管问题。”“考虑到特斯拉一直极力反对对其自动驾驶汽车中存在缺陷的人工智能追究责任，埃隆·马斯克签署协议也是非常虚伪的。”
这是ai歇斯底里吗?
虽然这封信提出了比实际存在的智能得多的邪恶人工智能的幽灵，但一些签名者担心的并不是“超人”人工智能。虽然令人印象深刻，但像ChatGPT这样的工具只是一个文本生成器，它根据从大量书面作品中学习到的内容，预测哪些单词可以回答给出的提示。
在这封信上签了名的纽约大学名誉教授加里·马库斯(Gary Marcus)在一篇博客文章中表示，他不同意其他人对智能机器的近期前景的担忧，智能机器如此聪明，以至于可以自我改进，超出人类的控制。他更担心的是“平庸的人工智能”被广泛部署，包括被犯罪分子或恐怖分子用来欺骗人们或传播危险的错误信息。
马库斯写道:“目前的技术已经带来了巨大的风险，我们对此准备不足。”“随着未来科技的发展，情况很可能会变得更糟。”
