“人工智能教父”约书亚·本吉奥：惊言或成真！
不管您觉得人工智能会拯救世界还是终结世界——毫无疑问，我们正处在一个热情高涨的时刻。
被称为“人工智能教父”的本吉奥，今年 60 岁，是一位加拿大的计算机科学家，一直致力于神经网络和深度学习算法的研究。
“智能会赋予力量，而不管是谁控制了这种力量——要是它达到或者超过人类水平——都会变得极其强大，”本吉奥在接受雅虎财经采访时表示。“一般来讲，技术会被那些想要更多权力的人利用，比如谋求经济主导地位、军事主导地位、政治主导地位。所以在我们创造出可能以危险方式集中权力的技术之前，得特别小心。”
2018 年，本吉奥和两位同事——前谷歌（GOOG）副总裁杰弗里·辛顿（Geoffrey Hinton，他是 2024 年诺贝尔物理学奖得主），还有 Meta（META）的首席人工智能科学家杨立昆（Yann LeCun）——获得了图灵奖，这奖也被称为计算机领域的诺贝尔奖。2022 年，本吉奥是世界上被引用最多的计算机科学家。《时代》杂志将他评为世界上100 位最具影响力的人物之一。
尽管助力发明了这项技术，本吉奥如今已成为人工智能领域发出谨慎声音的人。这种谨慎是在投资者继续对该领域表现出极大热情，并将人工智能相关股票推高至今年的新纪录之际出现的。
例如，人工智能芯片宠儿英伟达（NVDA）的股票今年迄今上涨了 172%，而标准普尔 500 指数（^GSPC）上涨了 21%。
据雅虎财经的数据显示，该公司当下的估值达到了令人震惊的 3.25 万亿美元，在全球最具价值公司的头衔竞争中，其稍逊于苹果（AAPL）。
我就人工智能可能产生的威胁以及哪些科技公司的做法是正确的这两个方面，采访了本吉奥。
此次采访在长度和清晰度方面进行了编辑。
亚斯明·霍拉姆：为什么我们应该关注人类水平的人工智能？
约书亚·本吉奥：要是这落入了坏人的手中，不管这到底意味着啥，那或许会极其危险。这些工具很快就能帮助恐怖分子，也能帮助那些希望破坏我们民主制度的国家行为体。还有许多科学家一直指出的一个问题，那便是我们当下训练它们的方式——我们不明白怎样去避免这些系统变得自主且拥有自己的保存目标，我们或许会失去对这些系统的掌控。所以啊，我们有可能正在造就比我们还要强大的怪物。
OpenAI、Meta、谷歌、亚马逊——哪个大型人工智能参与者做对了？
从道德层面来说，我觉得表现最佳的公司是 Anthropic[其主要投资方包含亚马逊（AMZN）和谷歌（GOOG）]。但我认为它们都存在偏见，这是因为它们的生存依赖于处在领先公司的行列之中，理想状况下是率先达成通用人工智能（AGI）的那种经济结构。这意味着一场竞赛——企业之间的军备竞赛，而公共安全很可能成为失败的目标。
Anthropic 给出了众多迹象，表明他们极为关心避免出现灾难性的结果。他们是首家提出安全政策的公司，承诺要是人工智能最终具备了可能存在危险的能力，那么他们就会停止这一努力。他们也是和埃隆·马斯克一起，唯一支持[加利福尼亚的人工智能监管法案]SB 1047的一方。换句话说，他们说：“是的，经过一些改进，我们同意在安全程序、结果和造成重大损害的责任方面提高透明度。”
对像英伟达这样的人工智能股票的大幅上涨有何看法？
我认为非常确定的是其长期的发展轨迹。所以如果您是做长期投资，这算是一个相当稳妥的选择。除非我们没法保护公众，......[那么]可能出现的反应或许是一切都会垮掉，对吧？要么是因为社会对人工智能普遍产生强烈抵制，要么是因为真的发生了灾难性的事情，我们的经济结构崩溃。
对 AI 芯片竞赛的看法？
我认为芯片显然已成为难题中的重要一环，当然，它也是个瓶颈。在未来几年我所能预见到的各类事件和科学进步中，对大量计算的需求很可能不会消失，因此拥有高端 AI 芯片能力将具有战略价值——供应链中的所有环节都很重要。目前能够做好这件事的公司很少，所以我预计会有更多的投资，希望能有一些多元化。
您对 Salesforce 到 2026 年推出 10 亿个自主代理有何看法？
自主性是这些公司的目标之一，从经济角度来看这是一个很好的理由。在商业上，就其开启的应用数量而言，这将是一个巨大的突破。想想所有的个人助理应用程序。它需要比当前最先进的系统所能提供的更多的自主性。所以可以理解他们会瞄准这样的目标。但 Salesforce（CRM）认为他们能在两年内达成这一目标，于我而言，这令人担忧。在这之前，我们需要在政府和技术方面都设置防护栏。
加州州长纽瑟姆否决了加州的 SB 1047 法案。这是个错误吗？
他没给我能说得通的理由，像不仅要监管大型系统，还要监管所有小型系统。......有可能事情会发展得很快——我们说的是几年的时间。也许即便可能性很小，比如 10%（灾难发生的概率），我们也得做好准备。我们需要有监管。我们需要让公司已经开始以一种在整个行业都保持一致的方式记录他们正在做的事情。
另一件事是公司担心诉讼。我和很多这样的公司谈过，但已经有侵权法了，所以如果他们造成了伤害，随时都可能有诉讼。而该法案在责任方面做的是缩小诉讼范围。......有 10 个条件。你得满足所有这些条件，法律才会支持诉讼。所以我认为这实际上是有帮助的。但存在一种意识形态上的抵制，反对任何干预——任何不是现状的情况，任何国家对这些人工智能实验室事务的更多介入。