奥特曼谈人工智能：进步是不可预测的，也很难监管

鞭牛士报道，5月3日消息，据外电报道，OpenAI联合创始人兼首席执行官萨姆·奥尔特曼 (SAM ALTMAN) 在剑桥参加了 Xfund 主办的一系列活动。

他对挤满纪念教堂听他讲话的一群学生说：我真的很喜欢那些如果有效的话，就非常重要的事情，即使它们成功的机会并不高。

他解释了 20 年前，当他还是斯坦福大学的一名本科生时，是什么吸引他从事人工智能研究，当时这个话题还没有像今天这样成为一股巨大的力量：看起来，如果人工智能能够发挥作用，它就将是最酷、最重要、最令人兴奋的事情。因此，这是值得追求的。

Altman 在剑桥参加了 Xfund 主办的一系列活动，Xfund 是一家隶属于哈佛大学和麻省理工学院的早期风险投资公司。

在纪念教堂活动上，哈佛大学保尔森工程与应用科学学院院长戴维·帕克斯向奥特曼颁发了 2024 年Xfund 实验杯，该奖项旨在奖励来自世界最好大学的杰出创始人。

活动主持人——Xfund 的管理普通合伙人 Patrick Chung '96、JD-MBA '04，投资了 Altman 的第一家公司——向一千多名兴奋的学生示意，他们开始在封闭的环境中排队参加活动开赛前一小时哈佛庭院。

「他们看着你，他们渴望，他们梦想能像你一样对世界产生影响，」钟说。他会给自己这个年纪的自己什么建议？

「我认为你可以在这个世界上做一些事情。」奥特曼回答说，他的话语之间有特有的、深思熟虑的停顿。 「你不需要等待，也不需要获得许可。你可以——即使你在这个世界上完全不为人所知，几乎没有资源——你仍然可以取得惊人的成就。」

一些人批评奥特曼面对先进人工智能的潜在危险而不懈地推动进步。

去年，奥特曼本人签署了一封信，将人工智能描述为人类面临灭绝的风险；他在国会作证时表示，如果这项技术出了问题，它可能会出大问题。

但他对放慢进展能否减轻这些威胁的方法表示怀疑。 20 年前，他从事人工智能研究，并不知道它会成为今天的技术，而且即使是现在，我们正在做出的最关键的决定，我们也没有意识到它们的重要性。

他继续说，进步是不可预测的，也很难监管。

「现在，在 OpenAI 的某个地方，有人做出了一些非常重要的发现——我不知道它是什么，我只知道它会在统计上发生——这可能会极大地影响未来。」他说。 「从表面上看，我完全同意，我们应该感到巨大的责任并做出正确的重大决策，但你并不总是知道那什么时候会发生。进展的结果才是应该控制的：决定是否部署 GPT-5，决定门槛应该在哪里——我们对此非常谨慎。」

关于开发和部署新人工智能的速度的大部分决策权掌握在像 OpenAI 这样的私营营利性公司手中，而一些人担心这种权力集中在极少数人手中。这些担忧在 11 月份蔓延到了 OpenAI 董事会，当时 Altman 被解除了首席执行官职务——部分原因是出于安全考虑——几天后又恢复了职位。

埃利奥特大学教授、哈佛大学名誉校长拉里·萨默斯在危机后被任命为新董事会成员，大概是为了加深其领导经验。

在演讲前接受《哈佛杂志》和其他出版物采访时，奥尔特曼谈到了私营部门发展人工智能的挑战。

「我认为人工智能开发在私营企业中发生是令人兴奋的。」他说，「但在不同的时间或不同的世界格局中，它会发生在政府中。既然事实并非如此，政府和行业之间的共同理解就很重要。他说，现在，对于未来几年人工智能的进展，这两个群体之间存在太大差异。」

4 月下旬，Altman 加入了国土安全部的人工智能安全与安保委员会，以帮助促进这些对话。

尽管如此，Altman 在演讲中表示，如果他能回到 2015 年，当时他与他人共同创立了 OpenAI，他将把它作为一家营利性公司开始，而不是像该组织在 2019 年之前那样作为非营利组织。

OpenAI网站称，人工智能需要太多资源，无法通过非营利模式来维持。

随着向利润驱动结构的转变，OpenAI 变得闭源：其底层代码和实现细节不向公众公开。这使得学术界的许多人无法研究该模型，研究人员已转向采取变通措施，例如分析 ChatGPT 输出中的模式。

在回答《哈佛杂志》关于这些挑战的问题时， Altman 表示 OpenAI 已经开展了学术合作：举个例子，我们为学术研究人员提供了访问 GPT-4 基本模型权重的权限，尽管目前还没有公开的信息。但寻找与学术界合作和解锁学术界的方法似乎非常重要，因为没有更好的词来形容。

学院中一些人寻求解决的一个问题是人工智能模型如何产生输出。 ChatGPT 的内部机制目前尚不清楚，尽管学术研究人员正在研究这个问题，但特别是对于闭源的 ChatGPT 来说，这样做很困难。一些人认为，在开发自主模型或在医疗保健等高风险环境中应用人工智能之前，了解这些机制非常重要。

「我们正在追求它。我没有任何具体信息，比如，我们已经破解了它。」Altman 向《哈佛杂志》谈到 OpenAI 是否也在研究这个问题时说道。但完全理解”ChatGPT 如何产生输出可能不是一个可行的目标。

他说：我认为我们可以以重要的方式理解这些系统吗？是的，我可以说我们能够准确理解每个人工神经元在做什么吗？我不知道。但我什至不确定这是否是值得关注的正确问题。

与此同时，利润动机继续推动进步。奥特曼在纪念教堂的谈话结束后，他听取了八个由哈佛和麻省理工学院学生组成的团队的演讲——从近千份提交的材料中预先选出——作为赢得 Xfund 10 万美元投资的竞赛的一部分。