AI恐操控人类 杀手机器人10年成真

AI教父辛顿表示，AI未来将试图用语言操纵人类。他并预测10年内将出现「杀手机器人」。图为2023年第七届世界智能大会上的一款仿生机器人。（新华社）

加拿大多伦多大学荣誉教授辛顿（Geoffrey Hinton）有「AI教父」之称，他在接受日媒专访时，谈及人工智慧（AI）的威胁。他称，AI会帮助我们解决问题，但也有可能找出不利人类的对策，并试图「用语言操纵我们」。他还预测，未来10年内将出现「杀手机器人」。

辛顿是「深度学习」（Deep Learning）和神经网路（模仿人脑的数学模型）的先驱，其研究帮助奠定了AI发展的基础。2023年，辛顿突然从已工作10多年的美国谷歌（Google）辞职，并开始谈论AI的风险，忧心AI落入坏人之手。

《日本经济新闻》22日刊出对辛顿的专访内容。辛顿表示，如果给AI设定目标，作为解决对策，它可能会找出对人类不利的方法。比方说，假设向AI下达遏制气候变化的指令，AI会意识到为了达到目的，而有必要将人类清除。他担心真的会付诸实施的风险。

辛顿指出，今后还可能出现不同的AI相互竞争的局面。例如，如果AI之间发生数据中心等资源的争夺，这将是一个像生物体一样推动进化的过程。面对透过竞争变得更聪明的AI，我们人类将落在后面。

他又说，很多人主张，要防止AI失控，只要关掉电源开关就可以。但超越人类智慧的AI可以用语言操纵我们，或许会试图说服我们不要关掉开关。

辛顿还预测，未来10年内将出现自主杀死人类的机器人武器（杀手机器人）。他说，机器人武器或许迟早也会被限制，但是，这可能要等到真正在战场上被使用、人类认识到会带来多么悲惨的结局后才能实现。

21日，联合国大会通过首个关于AI的全球决议，旨在管理AI的风险，同时利用其优势。决议呼吁推动开发「安全、可靠和值得信赖的」AI系统，以促进可持续发展。美国为这项决议的发起国，并获得中国等120多个联合国会员国的共提或支持。

决议指出，AI系统治理是一个不断发展变化的领域，国际社会需要随着技术发展，持续讨论可能采取的适当治理办法，这些办法必须以国际法为基础，使所有人受益。虽然联大决议不具有法律约束力，但它反映了国际社会的政治共识。