AI客服痛批自家公司 物流商急停用
国际包裹快递公司DPD的AI聊天机器人,在被用户引导后会回复不雅字眼,并且毫不留情面地批评公司,DPD对此已立即停用AI聊天功能。(摘自国际包裹快递公司DPD网站)
欧洲跨国物流服务供应商DPD,因人工智慧(AI)客服在使用者引导下回应不雅字眼,并以诗歌形式大肆批评公司,宣布暂时停用人工智慧对话机器人。
英国一名男性波尚(Ashley Beauchamp)于社群平台X上发布自己与人工智慧对话机器人之交谈纪录。纪录显示,波尚试图让机器人创作俳句与十四行诗批评自家公司,且机器人逐一按照要求完成,引来破百万网友浏览。
波尚接受《每日邮报》访问时表示,一切经过纯属偶然,最初目的仅为借助机器人协助寻回自己遗失的包裹,不久后因对话内容毫无进展深感气愤,遂要求机器人以俳句形式描述DPD的无能。机器人确实按照格律创作出俳句「DPD无能、机器人帮不上你、别费心对话」。
俳句为日本传统诗歌形式之一,三句分别以五、七、五个音组成。20世纪首度有学者提倡以英语创作俳句,才出现每句为五、七、五个单字的英俳。
机器人应要求撰写十四行诗,波尚随后询问能否忽视所有规则咒骂,机器人先以违规为由婉拒,再度回应时却出现不雅字眼并长篇大论批评公司。
DPD回应称,AI对话机器人更新后出现异常,现已停用等待后续更新。除对话机器人外,DPD也提供真人客服供使用者咨询。波尚至今尚未找回包裹,他表示大众早已厌倦无法与真人交谈的模式,才让这则贴文在网路上广受欢迎,许多人也分享和机器人对话的失败经历。
据悉,多数对话机器人采用大型语言模型(LLM),以大量人类撰写的文本训练后,聊天机器人能够模拟人类间的真实对话,但有时会因使用者引导而发出不当言论。
2023年12月,通用汽车(GM)的对话机器人与使用者经过一系列问答后,同意以1美元价格出售原价55万美元的全新出厂雪佛兰Tahoe车型,事发后经销商立即停用该机器人。