开发AI回答「国籍是中国」 中研院成立风险研究小组把关

中央研究院大门景图。(本报资料照)

网友实测提问发现中研院开发的中文语言模型AI,在答复时呈现出「我的国籍是中国」等说法,消息传出引起关注,院方在下架测试版之后,昨夜再度发出声明强调将成立「生成式AI风险研究小组」,深入了解AI对社会的冲击,并提供研究人员相关指引,避免类似事件再度发生。

中研院表示,CKIP模型(CKIP-Llama-2-7b)为院内个别研究人员主持的词库小组(CKIP)的实验性研究,模型尚在测试阶段,由该研究人员自行发布试用版本。

中研院提到,院方相当重视此事件对社会的影响,将厘清事件是否违反相关规定,后续将规划成立「生成式AI风险研究小组」,深入了解AI对社会的冲击,提供研究人员相关指引,避免类似事件再度发生。

中研院指出,繁体中文语料库是发展台湾大型语言模型的重要基础,本院将整合繁体中文词知识库,投入资源并规划管理机制。

中研院强调,院内已召开数次生成式AI相关会议,将扩大召集AI相关的跨领域研究人员,以团队方式连结资讯科技、人文及社会科学人才进行跨领域研究,与全国各界共同促进台湾繁体语境生成式AI的发展。