科技公司是否正在太快地推出强大的人工智能技术，有可能在未来超越人类？一些知名计算机科学家和科技业界人士，如伊隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克等人，得出了这样的结论，并呼吁停止半年来考虑风险。他们的请愿书于周三发布，是对早前旧金山初创企业OpenAI最近推出的GPT-4的回应，这是ChatGPT的更先进的后继版本，它曾帮助引发微软和谷歌等科技巨头之间展开类似应用程序的竞争。
他们在请愿书中表示，具有“人类竞争智能”的AI系统可能对社会和人类构成深刻的风险，从在互联网上泛滥的虚假消息和自动化消除工作岗位，到更为灾难性的未来风险，这些风险超出了科幻的范畴。
该请愿书称，“最近几个月，AI实验室陷入了一个失控的竞赛，旨在开发和部署比GPT-4更强大的数字思维，连它们的创造者都无法理解、预测或可靠地控制。”
因此，他们呼吁所有 AI 实验室应暂停训练比GPT-4 更强大的 AI 模型，为期至少 6 个月。该暂停应该是公开和可验证的，幷包括所有关键人物。如果无法迅速实施这样的暂停，政府应该介入并实施禁令。
公开信链接：https://futureoflife.org/open-letter/pause-giant-ai-experiments/
一些政府已经在努力监管高风险的AI工具。英国于星期三发布了一份文档，概述了其方法，称“将避免可能扼杀创新的过于严厉的立法”。欧盟27个成员国的立法者一直在谈判通过全面的AI规则。
这份请愿书由非营利组织Future of Life Institute组织，已知签署者包括图灵奖获得者、AI先驱Yoshua Bengio以及其他领先的AI研究者，如Stuart Russell和Gary Marcus。其他签署者包括苹果公司联合创始人Steve Wozniak、前美国总统候选人Andrew Yang和公共政策组织“原子科学家公报”的总裁 Rachel Bronson，该组织以对终结人类的核战争的警告而闻名。
埃隆·马斯克还曾是OpenAI的联合创始人和早期投资者，他长期以来一直对人工智能的存在风险表示担忧。更令人惊讶的是，签署这份请愿书的还有Stability AI的CEO Emad Mostaque，该公司生产的AI图像生成器“Stable Diffusion”与OpenAI的类似生成器“DALL-E”竞争，并与亚马逊合作。
对此，OpenAI、微软和谷歌并没有立即回应周三的请求评论，但已经有许多人反对这封信或持怀疑态度了。
康奈尔大学数字和消息法教授 James Grimmelmann表示：“暂停是个好主意，但这封信含糊不清，没有认真考虑监管问题。鉴于特斯拉在其自动驾驶汽车中的有缺陷的人工智能方面一直在抗拒责任，埃隆·马斯克签署这份请愿书也是非常虚伪的。”
