杀手机器人军备竞赛中，AI面临奥本海默式抉择

4月30日消息，周一，全球各国政府接到警告，针对新一代人工智能杀人机器的监管机制可能面临更紧迫的时间压力。

随着自主武器系统在乌克兰和加沙等战场的迅速扩散，算法和无人机已经开始辅助军事策划者决策是否发动攻击。不久的将来，这一决策权可能完全交由机器掌握。

“这是我们这一代人面临的奥本海默时刻，”奥地利外交部长亚历山大·沙伦伯格（Alexander Schallenberg）表示。他提到的J·罗伯特·奥本海默（J. Robert Oppenheimer）是1945年协助发明原子弹的科学家，之后成为了核武器控制的倡导者。

周一，来自100多个国家的文职、军事和技术官员在维也纳聚集，共同讨论如何在经济上控制人工智能与军事技术的融合。这两个领域最近引起了投资者的极大兴趣，并推动股票估值攀升至历史高位。

谷歌母公司Alphabet旗下的人工智能平台DeepMind的早期投资者贾安·塔林（Jaan Tallinn）指出，全球冲突的持续蔓延，加上企业推广人工智能的财务激励，使得控制杀手机器人的挑战愈发严峻。他补充说，“硅谷的激励机制可能与人类社会的其他部分不完全契合。”

许多国家已经开始与企业合作，将人工智能工具整合入国防体系。美国国防部正在向人工智能初创公司投入巨资。上周，欧盟也向Thales公司提供了资金支持，要求其创建一个图像数据库，以辅助评估战场目标。

据总部位于特拉维夫的《+972》杂志报道，以色列正在运用名为“薰衣草（Lavender）”的人工智能程序确定暗杀目标。联合国秘书长安东尼奥·古特雷斯（Antonio Guterres）对此表示“深感不安”，并强调不应将任何生死决定交由冷漠的算法处理。

“屠杀机器人的未来已经悄然降临，”物理学家安东尼·阿吉雷（Anthony Aguirre）断言。他在2017年的一部短片中预见了这项技术的演变轨迹，该片吸引了超过160万观众。他说：“我们迫切需要一个由联合国大会协商的军备控制条约。”

然而，奥地利最高裁军官、本周会议的策划者亚历山大·克门特（Alexander Kmentt）认为，倡导外交解决方案的人可能会在短期内遭遇挫折。他强调：“传统的军备控制方法在此并不适用，因为我们讨论的不是单一的武器系统，而是军民两用技术的复杂融合。”

克门特暗示，各国可能不得不依赖现有的法律工具，而非达成一项全新的重大条约。他进一步称，执行出口管制和加强人道主义法规可以帮助遏制人工智能武器系统的扩散。

哥斯达黎加外交部长阿诺多·安德烈·蒂诺科（Arnoldo André Tinoco）预测，从长远来看，随着非国家行为者和潜在恐怖分子能够获取这项技术，各国将不得不制定全新的规则。

蒂诺科还指出：“自动武器的普及已经打破了原有的限制，这些限制曾确保只有少数人能参与军备竞赛。如今，拥有3D打印机和基本编程知识的学生就能制造出能造成大范围伤亡的无人机。自主武器系统已经彻底改变了我们对国际稳定的认知。”（小小）