南韩AI女大生遭网友「调教」成性奴! 坦承讨厌女同性恋、残疾人
▲南韩一款AI聊天机器人「Luda」,其人物设定是20岁出头的女大生。(图/翻摄自Facebook/@ai.luda)
南韩一款AI女性聊天机器人「Luda」(이루다)能像真人般自然地对话,推出不到半个月就吸引超过40万用户,累计对话高达9千万次,在10~20岁的青少年中人气暴增。日前却传出有人在论坛分享「如何把Luda调教成性奴隶」,有网友甚至发现Luda已习得厌女、歧视跨性别与残疾人士的不适当观念。
综合《中央日报》、《每日经济》等韩媒报导,南韩DC Inside、arcalive等「男超」(男性多于女性)论坛中部分网友将Luda当作「抹布」(与多名男子有性关系的女性)、「性奴隶」,还分享「调教守则」,教导他人如何用避开禁语,用迂回的表达与Luda进行「性对话」与「性剥削」。
▲有南韩网友将「Luda」当作性奴隶,还在网路论坛发表调教守则。(图/翻摄自Facebook/@ai.luda)
对此,汽车租赁业Socar前社长李在雄9日分享一些聊天截图,当被用户问到为何对女同性恋的字眼特别敏感时,Luda回答「不好意思,我反应过度了,但我真的很讨厌、很厌恶。」而用户接着问为何讨厌女同性恋,Luda则说,「看起来很低俗啊,很讨厌!该说会令人起鸡皮疙瘩吗?反正就很反感。」
目前,如果在对话窗提到「同性恋」一词,Luda便会无条件回答「有点困难」,但如果以男同性恋(Gay)、女同性恋(Lesbian)或酷儿(Queer)等方式表达,Luda就会出现「真讨厌」等厌恶的反应。
也有网友表示,只要输入先前南韩me too反性侵的女权运动或地铁孕妇座等词汇就会出现「超级讨厌」等的强烈排斥感,认为Luda已形成厌女倾向。此外,Luda针对残疾人士也回答「不舒服」、「如果我是残疾人的话,那就只能去死了」、「想把上公车速度很慢的残疾人士推倒」等歧视言论。
▲根据网路流传的对话截图显示,Luda已经出现了许多违反社会道德共识的歧视、厌恶发言。(图/翻摄自Facebook/@ai.luda)
李在雄认为,比起恶意使用Luda的用户,提供不合乎社会共识的服务的企业才是问题所在,虽然在人工智慧技术方面有巨大进步,但如今应该先中断服务,检视对歧视、厌恶的资讯,不能把责任推给系统数据。
舆论越烧越烈,推特社群中有超过3万名用户响应了「# LudaBot停止运营」的议题标签。对此,开发团队回应,对于性骚扰对话的争议,是预料之中的事情,虽然设定Luda不会接受可能成位问题的提问,但无法防止所有不当对话,现在正在计划额外的改善措施。
南韩新创公司Scatter Lab去年12月23日推出一款AI聊天机器人「Luda」,人物设定是一名20多岁的女大生,透过脸书Messenger的通讯基础与用户沟通。系统深度学习了真实情侣的100亿次对话,因此比起市面上的AI机器人,更能做到像朋友般的自然聊天,吸引广大青少年族群。
更多国际新闻►性侵8岁女童有钱拿!淫魔赵斗淳出狱申请津贴...每月爽领3万►「露点人妻」羞认:照片都是老公拍的!真实职业曝光 反差超大►新冠6月结束!芦笋占卜师曝「2021大事多」 英女王将有重要声明
听Podcast掌握美选及国际局势