「一鍵脫衣」猖獗…兒少性剝削 AI淪犯罪工具
性影像传播成为主流儿少性剥削样态,AI已成为不可忽视的新型犯罪工具。记者陈正兴/摄影
除了换脸,在生成式人工智慧(AI)协助下,「一键脱衣」App已成为最新主流儿少性剥削的犯罪工具,展翅协会去年检举热线受理近二五○○件儿少性影像案件,发现五十八个网路平台提供AI换脸、一键脱衣等客制化服务,希望政府修法,严禁AI用于性影像产制。
展翅协会秘书长陈逸玲表示,违法上架儿少性影像的网站,多为档案下载、论坛类型,除了提供性影像内容,只要网友提供人像照片、生活照,透过AI,还能自动生成大量性影像内容,「这对儿少身心健康,造成重大危机。」
「生成式AI性影像早在校园现踪。」陈逸玲说,愈来愈多学生看过同侪使用AI技术换脸,或看过同学的生成式性影像,从国中至大学都有,这已是校园霸凌,虚拟性影像严重伤害当事人身心,程度不亚于真实性影像,陷入长期担忧,心理压力沉重,亟需心理资源介入辅导。
除非法网站外,透过Google Play、APP Store等应用程式下载平台,均可轻易取得一键脱衣工具。陈逸玲表示,依据现行法规,是无法开罚这类软体,而部分学生使用这类App来作弄同学、朋友,以为无伤大雅,而乐此不疲。
陈逸玲呼吁,政府与立法委员应尽速修法,全面禁止AI脱衣工具,并确立其刑事与民事责任,而平台业者应全面侦测并阻挡涉及儿少的脱衣内容,禁止任何脱衣工具上架。
卫福部保护司司长郭彩榕表示,AI浪潮难挡,儿少性剥削样态已从实体转为数位,「儿少性剥削防制条例」于一一二年大幅修正,儿少性影像明文入法,处罚范围不限于真人,AI拟真性影像也纳入处罚范围,凡制造、散布及持有,均订有对应罚则。此外,卫福部已成立「性影像处理中心」,全年无休接受通报,下架相关影像。
数位发展部次长侯宜秀指出,人工智慧基本法已于一月正式公布实施,立法附带决议特别提及,要针对AI应用进行儿少影响评估,国科会、数发部偕同主管机关卫福部、教育部及相关单位正执行这项政策,并研议建立定期评估机制。
数发部也参考国际趋势,研拟AI风险分类框架草案,预计三月底提报行政院,各目的事业主管机关将依据这个框架跟步骤,检视所主管的业务在AI应用方面的风险,采取适当治理方式。侯宜秀强调,数发部将成为卫福部、教育部的技术后盾,透过跨部会专业分工,守护儿少权益。