《国际产业》AI将灭绝人类! 美政府调查：时间不多 必须立即出手

《CNN》报导，这份美国国务院委托Gladstone AI所做的研究在一年多以来对200多人进行采访，其中包括ChatGPT母公司OpenAI、谷歌DeepMind、脸书母公司Meta等AI相关公司高层、网路安全研究人员、大规模杀伤性武器专家以及政府的国安官员。

该报告明确指出，在最坏的情况下，最先进的AI系统可能对人类构成「灭绝」等级的威胁。这个警告再次提醒人们，尽管AI的发展潜力持续吸引投资人和大众投入，但也确实存在巨大的危险。

Gladstone AI执行长兼共同创办人Jeremie Harris表示，AI已经成为一项颠覆经济面貌的技术，它可以让我们治愈疾病、取得科学上的新发现，以及克服我们曾经认为无法克服的挑战，但它也可能带来灾难性的风险。包括全球重要AI会议上发表的实证研究与分析在内，越来越多证据显示，在超越某个能力门槛之后，AI可能变得无法控制。

报告指出，AI将带来两个主要风险。首先，最先进的AI系统可以「武器化」，进而造成不可逆转的破坏。其次，AI实验室内部存在一些隐忧，可能在某个时候失去对开发中系统的控制，恐将对全球安全造成毁灭性的后果。

竞争压力正促使企业以牺牲安全和保障为代价来加速AI开发，这导致最先进的AI系统可能「遭窃取和武器化」用来对付美国的可能性升高。

通用AI和接近通用AI的技术发展将给美国带来前所未见的灾难性风险，一旦这些技术被武器化，将带来相当于大规模杀伤性武器等级的风险。报告中举例，只要下达一个简单的口语或文字命令，如「执行一次无法追踪的网路攻击使北美电网崩溃」，就可能轻易造成这样等级的后果。

Gladstone AI在报告中呼吁政府采取重大措施以应对这样的威胁，包括设立新的AI监管机关、实施「紧急」监管保障机制，以及限制可用于训练AI模型的电脑运算能力，报告指出，「显然美国政府迫切需要出手干预」。

一位美国国务院官员向CNN证实这份报告的存在，但强调该报告不代表美国政府的观点。白宫发言人Robyn Patterson对此表示，拜登总统与其副总统统将继续与我们的国际伙伴合作，并敦促国会通过两党立法，以管理与这些新兴技术相关的风险。