英韓舉辦峰會 16科技大廠達成AI安全協議

英国与南韩共同举办的AI安全峰会首日，16家科技大厂就AI安全，达成了指标性的国际协议。 （美联社）

英国与南韩共同举办的人工智慧（AI）安全峰会首日，包括微软、亚马逊、OpenAI等16家科技大厂，21日就AI安全，达成了指标性的国际协议。此外，全球领袖可望在峰会上，敲定实际管理AI科技的新协定，显示各国积极规范AI，也争夺AI监管话语权。

16家科技业者的协议将使美国、中国大陆、韩国、阿拉伯联合大公国等的公司，自愿确保能安全开发最先进的AI模型。

AI模型研发商将各自公布安全架构，阐明要如何评估前沿模型的风险，例如检视技术遭有恶意人士滥用的危险性。这些架构也会包含科技公司的红线，也就是被视为无法容忍的风险，如自动化网路攻击或生物武器威胁。在极端情况下，若无法保证能减少相关风险，将停止发展AI模型。

英相苏纳克表示：「这么多世界各地的AI大厂，均同意对AI安全做出相同承诺，为全球首见。」该协议仅限于前沿模型，即OpenAI聊天机器人ChatGPT大型语言模型背后的科技。

ChatGPT 2022年底问世后，监管机关和科技领袖都日益忧虑先进AI带来的风险。六个月前英国举办了首场AI安全峰会，南韩首尔会议将以前次会议为基础，应对相关风险。

英相苏纳克和南韩总统尹锡悦21日与全球领袖进行线上会议，数位部长与专家等则将在22日进行实体会议。下一场实体峰会则由法国主办，明年召开。

与此同时，欧盟成员国也在21日通过「AI法案」，该法将于下个月生效，有望替这个几乎可应用于各行业和日常生活的技术，设定潜在的全球基准防线。

美国对AI监管较为宽松，仅要求业者自愿遵守，欧盟AI法案则更为全面，依据风险采取对策，倘若某一系统为高风险，业者将有更严格的规范，以保护公民权益。该法生效后，AI模型如ChatGPT须在法案上路后12个月遵行新法，企业则须在2026年前遵守。