英韓AI峰會 陸企簽署AI安全承諾

英国与南韩共同举办的AI安全峰会首日，16家科技大厂就AI安全，达成了指标性的国际协议。（美联社） 美联社

英国与南韩廿一至廿二日共同举办人工智慧（AI）安全峰会。英国政府表示，已有来自北美、欧洲、中东、亚洲等十六家企业签署与AI科技研发有关的安全承诺，其中包括中国企业「智谱AI」。

中央社报导，英国政府寻求在AI安全国际规范和技术标准扮演领导角色，促进在「严加管制」和「自由放任」两种AI安全管控策略之间取得平衡，并成立全球第一所「AI安全研究院」，透过预先取得业界开发中产品等方式，实际测试评估各类新AI模型和工具的能力及风险，以协助增进各国对AI安全的理解。

去年十一月，英国召开首届全球AI安全峰会，有近卅个国家的官方代表，以及超过八十个学术研究机构、企业和组织与会。这次英国与南韩合办线上峰会规模较小，下一场实体峰会则由法国主办，明年召开。

英国科学创新暨科技部说，已有十六家AI科技企业签署安全承诺，要点包括不得发展或部署安全风险无法获充分缓解的AI模型或系统、建立可供问责的安全管理架构，以及向大众揭露各企业对前沿AI科技安全的应处策略。

十六家签署「前沿AI安全承诺」企业包括OpenAI、亚马逊、谷歌、Meta、微软、IBM、三星电子、Naver、智谱AI等。这十六家企业名单，包含美国和中国大陆两大AI强权。

科技部表示，这些企业将各自发布AI安全框架，向大众说明未来将如何测算自家前沿AI模型的安全风险，包括遭恶意行为者滥用的风险，以及各家企业对安全风险的最高容忍极限、如何确保AI模型的安全风险不会超越此预设门槛。在极端情况下，若企业未能将AI模型安全风险保持在门槛以下，则不得继续发展或进一步部署该模型。

南韩表示，本次峰会与首次峰会相同，邀请七国集团（G7）成员国领导人以及新加坡、澳洲领导人与会，联合国、欧盟等国际机构和相关企业代表也将参与。