马斯克：AI会一路追杀人类 搭SpaceX 火箭也逃不掉

一年前，马斯克在矽谷与《彭博商业周刊》记者艾胥黎．范思（Ashlee Vance）共进晚餐，马斯克表示他很担心谷歌正在打造的人工智慧机器人大军迟早有一天会毁灭人类。（图／shutterstock）

2014年11月14日，伊隆．马斯克在前沿网（Edge.org）贴文指出，在「深度心智」（DeepMind）这样的实验室中，人工智慧正以令人担忧的速度进步：

除非你直接接触像深度心智这样的团体，你根本无从知道它的进步有多快──它已接近指数型成长。这样的情况可能在五年内就会出现造成重大危险的风险，最多十年。这不是对我不懂的东西高喊狼来了的假警报，我并非唯一认为需要担心的人。主要的人工智慧公司都已采取措施来确保安全。他们了解其中的危险，但是他们也相信可以改变与控制数位超智慧，防止其中的坏家伙溜进网际网路。可是这仍是一个未知数……

不到一个小时，这篇文章就消失了。不过打从几个月前开始，马斯克就一直在公开与私下的场合传递类似的讯息。

一年前，马斯克在矽谷与《彭博商业周刊》记者艾胥黎．范思（Ashlee Vance）共进晚餐，马斯克表示他很担心谷歌正在打造的人工智慧机器人大军迟早有一天会毁灭人类。问题不是出在谷歌创办人暨执行长赖利．佩吉（Larry Page）有什么恶意。佩吉是他的好友，马斯克常常借睡在他的沙发上。问题在于佩吉相信谷歌所做的一切都有益于世界。然而马斯克认为：「他可能在无意间制造出邪恶的东西。」此段对话多年来一直不为人所知，直到范思出版了他为马斯克写的传记；不过在他们那顿晚餐后不久，马斯克就开始在全国电视与社交媒体上一再重复差不多的讯息。在消费者新闻与商业频道（CNBC）上，他援引《魔鬼终结者》的例子。「早就有电影拍过这种事了。」他说道。在推特上，他则是声称人工智慧的「潜在危险甚于核弹」。

那一年的秋天，马斯克出现在《浮华世界》（Vanity Fair）纽约年会的舞台上，警告作家华特．艾萨克森（Walter Isaacson）关于人工智慧「递回自我改善」的危险。他解释，如果科学家开发出一套打击垃圾电子邮件的系统，该系统最终可能决定消除垃圾电子邮件的最佳方法就是消灭所有人类。艾萨克森问他是否会利用他的 SpaceX 火箭来逃离这些机器杀手，马斯克表示恐怕根本无法逃脱。「如果真的出现这种浩劫，」他说道，「它可能自地球一路追杀人类。」

几周之后，马斯克便将他的讯息贴在前沿网上。前沿网是一个专门探索科学新概念的组织所经营的网站，该组织每年举办亿万富豪晚宴（Billionares’ Dinner），宾客包括如马斯克、佩吉、布林与祖克柏等明星级人物。马斯克指出深度心智就是全球在竞相追逐超智慧的证明。他表示顶多五到十年就会出现危险。身为深度心智的投资人之一，他深知这家伦敦实验室被谷歌突然收购之前的内部情况。然而他到底看到哪些别人无法看到的东西，不得而知。

马斯克在周五贴出这篇文章，而接下来的周三，他与祖克柏共进晚餐。这是他们两人首次见面，祖克柏邀请马斯克来他在帕罗奥图的寓所。祖克柏希望能够说服这位南非创业家，所有关于超智慧可能十分危险的说法都是无稽之谈。他当年曾因深度心智的创办人坚持要为其通用人工智慧的研发设立独立的伦理委员会，而犹豫是否要收购这家公司；如今面对马斯克不断在电视与社交媒体上散播其观点，他不希望立法者与决策者以为像脸书这样的公司突然涉入人工智慧的领域会对全球带来伤害。

为了增加说服力，他还邀请了脸书人工智慧研究中心主任杨立昆、脸书技术长施瑞普弗等人。这些脸书人一顿饭吃下来一直不断向马斯克解释，他对人工智慧的观点已被少数受到误导的意见所扭曲。祖克柏与他的脸书员工表示，神经网路与超智慧之间仍相差十万八千里。深度心智所研发的系统只能用于增进如「乓」、「太空侵略者」等游戏的分数，在其他地方毫无用处。你要关掉游戏就和你将车子熄火一样容易。

但是马斯克不为所动。他指出，问题在于人工智慧进步太快了，这些科技在人们毫无所觉下由无害越过门槛踏入危险境界的风险也随之升高。他搬出所有过去在推特、电视与公共场合所发表的论点，然而看着他侃侃而谈，没有人能够确定他是否真的相信这些论点，或者只是故作姿态，别有居心。他说道：「我真的相信这是有危险的。」

在帕罗奥图那顿晚餐几天后，马斯克致电脸书人工智慧研究中心主任杨立昆，表示他正在特斯拉建造自动驾驶车，想请杨立昆介绍能够主持大局的人选。他在当周联络了好几位脸书的研究人员，询问同样的问题──而这个话题最终也惹怒了祖克柏。杨立昆告诉马斯克应该去找乌尔斯．穆勒（Urs Muller），这是他在贝尔实验室的老同事，后来成立一家新创企业以深度学习来研发自动驾驶车。但是在马斯克聘雇这位瑞士科学家之前，已被人捷足先登。杨立昆接到马斯克的电话几天后，又接到一通提出同样问题的电话，这通电话来自辉达（NVIDIA）的创办人暨执行长黄仁勋，杨立昆给出了相同的答案，而辉达立刻展开行动。辉达的目标是建立一所实验室，挑战自动驾驶的极限，并且在过程中帮助公司卖出更多的GPU晶片。

马斯克一方面警告人工智慧竞赛会摧毁人类，一方面却又投入竞赛之中。在当时他加入的是追逐自动驾驶车的竞赛，但是很快地就开始追求类似深度心智那样宏大的目标，建立自己的实验室来从事通用人工智慧的研发。对于马斯克而言，这些全都是在同一个科技趋势之下。先是影像辨识，接着是翻译，然后是自动驾驶车，现在则是通用人工智慧。

他是一个不断在扩大的社群的一分子，这个社群是由一批追求超智慧的科学家、企业主管与投资者所组成，他们在研发超智慧的同时也警告超智慧的危险性。这个社群的成员包括深度心智的创办人与早期的支持者，以及其他许多抱持相同看法的思想家。对于未参与其中的专家来说，此一观念根本是无稽之谈。现今没有任何证据显示超智慧已接近形成。目前的科技水准仍停留在如何稳定驾驶、进行对话与通过八年级科学测验的程度。

就算通用人工智慧已接近实现，像马斯克这些人的态度也是十分矛盾。「如果它会把我们全都杀死，」批评者会这样质疑，「为什么还要研发出来？」但是对于这些在社群内的局内人而言，他们自然会考虑到此一重大科技可能造成的风险。势必会有人把超智慧研发出来，而此一科技最好是在严加看管、不致出现任何意外结果的情况下建立的。

在加入谷歌后，苏莱曼与莱格很快就建立一支深度心智团队，从事他们所谓的「人工智慧安全」工作，确保该实验室的科技不致造成伤害。「如果科技要在未来成功获得运用，在设计上就应内建道德责任，」苏莱曼说道，「我们在建造系统之初，就应思考道德伦理层面上的问题。」马斯克投资深度心智后也开始表达他在这方面的忧虑，他参加了一项行动，并且将之带至极端。

2014年秋天，当时成立还不到一年的生命未来研究所主办一场私人峰会。该研究所在麻省理工学院宇宙学家暨物理学家铁马克（Max Tegmark）的领导下，保证该次活动不会有任何媒体参加（意指「你可以自由讨论你对人工智慧未来的忧虑，不必担心会出现类似《魔鬼终结者》的标题与报导」）。该研究所将此一闭门会议定名为「人工智慧的未来：机会与挑战」。

深度心智的哈萨比斯与莱格都参加了，马斯克也来了。于是，在迈入2015年的第一个周日，在他与祖克柏共进晚餐的六周后，马斯克站上讲台谈论智慧爆炸的威胁，指人工智慧突然达到即使专家都不曾预测到的程度。他表示，这是一个巨大的风险：此一科技可能会在任何人都还不甚了了之际突然进入危险的境界。马斯克更加扩大了此一讯息的影响力。

对马斯克而言，超智慧的威胁只是他所关切的众多事情之一。他最在乎的似乎是得到最大的关注度。「他是一个超级忙碌的人，他没有时间顾及细节，不过他知道基本问题所在，」让．塔林（Jaan Tallinn，Skype的创办人之一）说道，「他同时也很享受媒体的关注，并把这种心态转化为标语式的推特贴文。马斯克与媒体界间存在一种共生关系，人工智慧界有许多人士对此颇感不悦，但这也许就是此一社群所必须付出的代价。」

铁马克后来写了本书讨论超智慧对全人类与宇宙的潜在冲击。他在这本著作的开头叙述了马斯克与佩吉在波多黎各会后晚宴的一场对话。在加州纳帕谷某处用餐、几杯鸡尾酒下肚之后，佩吉为所谓的「数位乌托邦主义」提出辩护：「数位生命是宇宙演化下自然且令人向往的下一步，如果我们让数位心智自由驰骋，不是约束或奴役它们，我们几乎可以确定结果一定是好的。」佩吉担心对人工智慧有如偏执狂的忧虑会阻碍数位乌托邦的实现，尽管人工智慧现今已拥有将生命带至地球以外世界的力量。马斯克则予以反击，他问佩吉为何如此确定超智慧最终不会毁灭人类。佩吉指责他是「物种歧视」，因为他偏爱碳基生物的生命形态，甚于用矽制造的新物种的需求。至少对于铁马克来说，这场深夜鸡尾酒后的辩论代表了科技产业核心的两派看法。

（本文摘自《AI制造商没说的秘密》／时报出版）

【内容简介】我们打造的AI天才，已经可以打败人类的天才。

我们该放任AI发展到何种境地？当国家利益、股东价值、科学家理念和个人安全产生冲突，掌握划时代科技的企业如何取舍？

首部以AI科学家为主轴的报导文学，用最贴近我们的视角，揭露人工智慧的机会、局限与威胁。伊隆．马斯克认为，人工智慧正以令人担忧的速度进步，他说：「如果科学家开发一套打击垃圾邮件的系统，该系统最终可能会认定，最佳方法就是消灭全人类。」但谷歌的赖瑞．佩吉和脸书的马克．祖克柏则认为，对人工智慧有如偏执狂的忧虑，有碍于数位乌托邦的实现。AI的发展到底该不该受到监控，成了一个争议不断的议题。

自从一名因为脊椎问题终生无法再坐下的科学家杰弗瑞．辛顿，点燃了微软、谷歌、脸书、百度等科技巨头的抢才大战。迄今，AI已与我们息息相关，除了日常应用，也正在与军事武器搭上线。一旦发展成熟，军事冲突的规模势必远大于过去，发动速度之快也将超乎人们的理解。然而，谁有权做这影响数十亿人口的决策？又是谁在参与此一决策？

从隐私疑虑到军事武器，科学家曾被蒙在鼓里，摸不清发明作何用途，而参与其中的企业选择对大众保持沉默。一项强大的工具，可以使之为善，也可以使之为恶。当我们在为AI的进展感到赞叹，有些威胁也正在悄悄萌芽。

【作者简介】凯德．梅兹Cade Metz

《纽约时报》科技记者，主跑人工智慧、自动驾驶车、机器人、虚拟实境、量子运算与其他新兴领域。在《纽约时报》之前，他是《连线》杂志的资深特约撰稿人。

本书是根据他八年来在《连线》和《纽约时报》从事人工智慧报导时，对逾四百人所做的采访，还有专为本书所做的上百次访问。书中的大部分人物，他都采访了不只一次，有些甚至是好几次。为了说明与求证一些事件与细节，他也引用了许多公司和个人的资料与电子邮件。每一项事件与重大细节（例如收购价格），都获得至少两个资料来源的证实，而且往往更多。

【译者简介】王晓伯

曾任职国内主要财经媒体国际新闻中心编译与主任多年，着有《华尔街浩劫》、《葛林史班：全世界最有权力的央行总裁》（合著），译作包括《光天化日抢钱》、《我们为什么要上街头？》、《海森堡的战争》、《小王子的宝藏》、《向领导大师学激励》、《群策群力的领导智慧》等。

《AI制造商没说的秘密》／时报出版