AI脫衣工具助長兒少性剝削 民團籲全面禁止
儿少网路安全不可忽视,台湾展翅协会观察,有多个平台结合AI换脸、「一键脱衣」技术,只要付费就可生成高度逼真性影像,呼吁政府全面禁止AI脱衣工具,确立相关民、刑事责任。
今天是全球网路安全日(Safer Internet Day),长期关注儿少网路安全的台湾展翅协会,今天召开记者会公布「web547网路检举热线」及「web885网路咨询热线」年度报告,呼吁各界建立儿少守护安全网。
根据「web547网路检举热线」观察报告,2025年全年受理4692件有效检举案,其中涉及儿少性虐待与性剥削内容达2447件,占52.15%。
台湾展翅协会秘书长陈逸玲指出,报告发现有58个平台结合AI换脸、「一键脱衣」及图像生成技术,使用者只需要上传照片并付费,就可取得高度逼真的客制化性影像,甚至还有点数回馈机制,鼓励使用者散布网址、邀请更多人加入会员赚取点数,再用点数换取AI生成影像。
陈逸玲表示,这类「一键脱衣」或AI换脸工具不需要与儿少接触,就可大量产出儿少及女性的性影像,对儿少及女性来说是相当迫切的危机;且儿少性剥削网站也与博弈产业高度连结,使用者甚至可使用博弈网站点数,在儿少性剥削网站观看内容,显见两者形成流量互换及利益共生的关系。
其次,陈逸玲说,沉浸式互动APP快速增加,但其儿少保护机制不足,即便清楚告知是一个儿童在和AI对话,它仍然可以产出色情内容,这可能降低儿少性敏感度,导致儿少遭受网路诱拐的风险大增,这些问题需要各部门协力合作预防。
「web885网路咨询热线」年度报告则显示,179件咨询案中,与性私密影像案件相关高达72.6%;值得关注的是,男性已成为视讯裸聊侧录与性勒索的主要被害人。
陈逸玲说,因视讯裸聊侧录而遭性勒索,是性影像性暴力的常见类型,从资料发现男性是主要被害人,且从裸聊开始到被性勒索,时间通常很短、不到半天;有越来越多男性愿意求助,这也提醒大家影像性暴力不是只有女性受害,男性也可能是被害人,因此也需要鼓励男性求助。
陈逸玲表示,今年全球网路安全日,国际已展开连署行动,要向AI脱衣工具说不。目前国内法规仅针对使用AI工具生成性影像者有相关法律责任,对开发这类工具者则无;因此呼吁全面禁止AI脱衣工具、确立相关民事及刑事责任,并推行学校及全民数位素养教育,科技公司则应落实安全设计,侦测并阻挡涉及儿少脱衣内容等。
延伸阅读