《国际产业》AI危害人类文明？ 马斯克等上千名专家呼吁暂停开发

非营利组织「未来生命研究所」（ Future of Life Institute）发布这封获得1000多人签署的公开信，包括马斯克、苹果共同创始人Steve Wozniak、Stability AI执行长Emad Mostaque、Alphabet旗下DeepMind研究人员，以及AI领域的重量级人物Yoshua Bengio和Stuart Russell都加入呼吁暂停先进AI技术的开发，直到完成相关安全协议的制定、实施与审核。

这封公开信指出，只有当我们确信它们的影响是正面的、风险是可控的时候，才应该去开发强大的AI系统。

这封信亦详细说明了具有和人类竞争的AI系统对社会和文明造成的潜在风险，称经济和政治可能陷入混乱。这些专家和产业高层并呼吁开发人员与决策官员在如何治理与规画监管单位等方面进行合作。

马斯克虽然经常与证券监管机关和高速公路安全部门杠上，但AI的快速崛起让这位特斯拉与推特掌门人也忍不住出声要政府出面管管。本月早些时候，在特斯拉的「投资人日」活动上，马斯克脱口说出了「AI让我超焦虑」。

马斯克在这场活动上提出「总体规画Part 3」（Master Plan Part 3），其中，特斯拉充满野心的AI计划扮演着重要角色。在该公司发布的影片中，其开发的人形机器人「Optimus」操作着其他Optimus机器人的零组件，就像是要组装自己的复制品一样。公司高层并详细介绍了特斯拉如何运用AI技术训练自家电动车进行无人自动驾驶。

但是当一位分析师提问AI可否帮助特斯拉制造汽车时，马斯克却语带保留，他表示：「我认为AI不会很快帮我们制造汽车，到那时候......我们任何人的工作都将失去意义」。

马斯克当着Autopilot部门主管等公司高层，以及在场所有分析师面前表达他的担忧与不安，他表示：「我有点担心AI这件事，我们需要某种监管机构或能监督AI发展的东西，以确保其运作符合公众利益。这是一项非常危险的技术。我担心我可能已经做了一些事情来加速这件事」。

根据高盛日前发布的研究报告，生成式AI技术的兴起可能冲击3亿个工作。高盛亦预估美国约有三分之二的工作职位可能受到AI自动化的影响。但报告也指出大部分的职位将因为AI技术而得到补强，只有约7%的职位可能会AI取代。此外，AI不仅能节省人力成本、提高工作人员的生产效率，也能创造新的就业机会。随着AI日益普及，未来10年全球创造的商品和服务总价值可望提高7%。

OpenAI的AI聊天机器人ChatGPT一夕爆红，促使竞争对手加速开发类似的大型语言模型，继大力支持OpenAI的微软之后，越来越多公司也宣布旗下产品与生成式AI模型进行整合。

「未来生命研究所」发言人表示，OpenAI执行长Sam Altman尚未在这封信上签名。OpenAI没有回应媒体的置评请求。

签署这封信的纽约大学名誉教授Gary Marcus表示，这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更加了解其后果。AI可能造成严重伤害，「大咖们」对他们正在做的事情越来越保密，这使得我们的社会很难防御可能造成的伤害。