郑永年：中美AI领域互补 需要在治理领域合作

中国发展高层论坛2024年年会，人工智慧发展与治理专题研讨会现场。（摘自新华社）

香港中文大学（深圳）前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年表示，中美在人工智慧（AI）领域是互补的，各有优势，需要两国在AI治理领域合作。而Verimag实验室创始人、2007年图灵奖得主Joseph Sifakis则呼吁，需要透过规范来防范AI可能产生的风险。

《中国经济时报》报导，中国发展高层论坛2024年年会24日登场。郑永年在人工智慧发展与治理专题研讨会上指出，人工智慧的发展与治理必须要同时发展、同时进步。美国跟中国在AI领域实际上是互补的，各有自己的比较优势，可以互相学习。

郑永年认为，在治理方面，在国际社会上，更需要中美两个国家在AI治理领域进行合作。网路AI最重要的还是要开放，中国要透过开放向美国学习，把发展做起来；美国应当向中国的监管、治理方面学习，互相进步。

此外，北京智源研究院创始人、创始理事长张宏江表示，当前，AI进入一个新的发展阶段，以大模型为代表的阶段，它代表第四次技术革命，带来效率的提高，为我们的生活带来诸多方便，将会创造大量的价值以及一个又一个新的产业。

但张宏江也提醒，人工智慧可能导致全球性的灾难性后果。为避免这样的危险发生，我们需要画出红线，改进治理机制，同时需要研发更多安全的技术，控制人工智慧不去跨越这些红线。要想做到这一点，最重要的一条是坚持和加强国际科学界和政府间在安全方面的合作。

Joseph Sifakis则强调，人工智慧本身既不是好的，也不是坏的，关键的挑战是要明智地使用它，通过规范来预防风险。

他认为，有两种主要风险，一种是技术风险，另一种是人为的风险，这可能是来自于对AI的误用或者无意中的使用而产生的影响，可以通过监管或者法律的框架来控制。由于AI所带来的自动化导致的失业问题，也可以通过适当的社会政策来应对。

此外，Joseph Sifakis称，还有两种风险，一个是怎么在选择和性能之间取得平衡，如果我们不能确保系统是以公正、中立的方式使用可靠资讯，则不要将决策权交给系统。另一个是性能的提升是否与人类控制的缺失相平衡。