欧警告ChatGPT风险 义禁聊天机器人Replika用个资

路透社报导，Replika是旧金山新创企业Luka在2017年推出利用人工智慧（AI）科技的一款聊天机器人，提供使用者客制化人形机器人，能对客户说话及倾听说话。

Replika先从英语人口当中流行，使用不须付费；公司则从贩售语音聊天等额外功能获得收入，目前月营收约200万美元（约新台币6000万元）。

Replika宣传成是「虚拟朋友」，声称可以改善使用者的情绪健康。但义大利监管机关资料保护局（Data Protection Agency）表示，Replika干预使用者的心情，「可能使得尚处发展阶段或情绪处于脆弱状态的个人，面临的风险增加」。

义大利当局并指出，Replika没有使用者的年龄验证机制，例如针对未成年人的过滤器，或在使用者未明确通报年龄时能予以封锁的装置。

义大利资料保护局说，Replika违反了欧盟隐私法规，以违法方式处理个人资料。因为Replika无法依据未成年人无能力签署的合约来处理个资，即使它未表明是这么做。

根据声明，义大利当局限时Luka在20天内通知已采取哪些措施来落实要求，否则可能面临最高2000万欧元（约新台币6亿4800万元）罚款，或是其全球年营业额最高4%的罚款。

同一时间，欧盟执行委员会（European Commission）负责内部市场事务的执行委员布勒东（Thierry Breton）告诉路透社，新的人工智慧法规将锁定处理ChatGPT相关风险的疑虑，并确保欧洲人可以信任AI科技。这是首度有欧盟高阶官员对ChatGPT相关疑虑做出评论。

ChatGPT是由获得微软（Microsoft）支持的美国私人公司OpenAI开发，2022年11月底才开放给大众免费使用。但根据瑞银（UBS）引用市场分析公司Similarweb的资料所做研究，ChatGPT上线短短2个月，便已成为史上成长速度最快的消费者应用程式。

ChatGPT在接收到使用者提问时，可以产生文章、论说文、笑话甚至诗，来做出回应。

布勒东在提供给路透社的书面评论中表示，ChatGPT带来的风险，凸显人工智慧法规的迫切必要性。他已在2022年提出相关法案，盼为人工智慧科技规范订定全球化标准。

包括智慧手机、自动驾驶车辆、网购及工厂等，都使用到AI科技。目前中国与美国在这项科技居领先地位。

布勒东说：「如同ChatGPT展现的例子，AI解决方案可为企业与民众提供绝佳机会，但也可构成风险。这正是为何我们需要一个坚实的监管框架，以确保能有以高品质资料为基础的可靠AI。」（译者：张正芊）1120203