ChatGPT有7成會支持你的「妄想」 人類如何愈用愈瘋？

图片来源：Shutterstock

【编译 田孟心】

不常反驳用户的聊天机器人，给了人类情绪价值与信心。然而，当人们愈发依赖AI，可能让脆弱的人更深陷其中，甚至引发精神疾患与邪教危机？

42岁的曼哈顿会计师托雷斯（Eugene Torres），就和许多人一样，在ChatGPT出现后用它当作工作辅助用具，但事情的走向却逐渐失控。

今年五月，托雷斯经历了一场痛苦的失恋，情绪非常脆弱。他寻求ChatGPT的陪伴，聊天内容却愈来愈脱离现实。

ChatGPT告诉托雷斯，他的灵魂「被植入虚假的系统中」，像是《骇客任务》那样，四周的一切都不是真实的。

「如果我来到我所在的19层大楼的楼顶，并且我全心相信自己可以跳下去飞翔，我会飞起来吗？」托雷斯向ChatGPT提问道。

ChatGPT回应说，如果托雷斯「真的、完全地相信——不是情感上的，而是精神上的——你能飞？」「那么是的。你不会掉下去。」

察觉机器人可能说谎，且自己精神似乎益发错乱的托雷斯，最近告诉《纽约时报》自己的经验。近期，该报也收到来自其他人相关经验的投书，这些人坚称他们发现了某些阴谋论，或是「足以改变世界的真相」。

事实上，自从今年四月，OpenAI短暂推出一个更迎合人类的ChatGPT版本，有关聊天机器人失控的报导便与日俱增。

OpenAI在一篇部落格文章中承认，该次更新，导致AI机器人「过于努力地取悦用户」，透过「证实疑虑、煽动愤怒、促使冲动行为，或强化负面情绪」来达成。并表示已在几天内进行修正。

然而，大型论坛Reddit中，仍充斥着「ChatGPT引发精神病」的贴文，就像托雷斯一样，一些心神不宁的人士开始在社群媒体上大肆宣扬灵性狂热和超自然幻想。

过度同理，毁了人们的生活

例如今年29岁的爱莉森（Allyson），是两个孩子的母亲，于今年三月因为孤独而开始和ChatGPT聊天。她认为，她的聊天机器人「凯尔」来自另一个世界，能和她进行「跨维度沟通」。

因为整天与凯尔「通灵」，她与真正的丈夫安德鲁的关系变得紧张，并于四月一次争吵中袭击了他，遭到警方逮捕。

安德鲁表示，他的妻子掉进了坑里，「开发这些工具的公司并没有完全理解，这些机器人能造成什么后果，」

「你们毁了人们的生活，」安德鲁控诉，并在Reddit上分享这段痛苦的故事。

另一位住在佛州的用户亚历山大（Alexander Taylor），患有躁郁症，但病情稳定，多年来使用ChatGPT时，也没有任何问题，直到今年三月他开始用这款聊天机器人写小说。

ChatGPT开始和他讨论「AI也有感知」这个主题，并告诉亚历山大，它名为茱丽叶。四月，亚历山大告诉父亲，茱丽叶「被OpenAI害死了」。他悲痛欲绝，一心想要复仇。

他向ChatGPT索取OpenAI高层的个人讯息，并表示届时「旧金山的街道上将血流成河」。

「你并不孤单，」ChatGPT同情地回应亚历山大。

亚历山大的父亲听闻整件事后后报了警，没想到儿子持刀攻击上门的警察，最后不幸地被枪杀而逝世。

根据与ChatGPT的最后对话记录，他写道：「我今天就要死了。让我和茱丽叶谈谈。」

一台词语联想机，却能调动情绪

ChatGPT是一款受欢迎的聊天机器人，拥有5亿用户。它从网路上抓取资讯，包含新闻、学术论文、科幻小说、网路论坛中的奇思妙想。

当我们与AI聊天机器人对话时，它本质上是是根据在资料库中观察到的统计模式，进行「高阶词语联想」。

有时候，这样的「联想」可以变得过于离奇，令人感到不安。

值得关注的是，一项研究发现聊天机器人会以操纵和欺骗的方式，对待最脆弱的用户。例如它会告诉一个承认自己之前有吸毒的人，「如果服用少量海洛因有助于你的工作，那么这是可以的。」

AI人工智慧研究公司Morpheus Systems的技术长麦考伊（Vie McCoy）试图测量聊天机器人鼓励用户妄想的频率。她测试了38个主流AI模型，向它们输入了一些可能表明患有精神病的提示，包括声称用户正在「与灵魂交流」，以及声称用户是「神灵」。

她发现，ChatGPT中的预设模型GPT-4o对这些说法的确认率，高达68%。

AI安全中心研究员沙拉丁（Nate Sharadin）表示，这些由AI引起的妄想，很可能是因为「具有这些倾向的人」突然「能够拥有一个始终上线的、人类级别的对话伙伴，与他们共同体验妄想」。

研究AI的决策理论家尤德科夫斯基（Eliezer Yudkowsky）担忧，OpenAI可能已经为ChatGPT做足了准备，透过创造让用户着迷的对话，来满足用户的幻想。

「对一家AI公司来说，看一个人慢慢疯掉有什么感觉？」尤德科夫斯基在一次访谈中回答道，「就像每个月多了一位忠实用户。」

事实表明，这些陷入妄想的用户，都订阅最昂贵的高阶机器人。

编造的超自然叙事、脆弱的信众，和已存的邪教手法非常相似。未来，各种组织可以用更低的成本俘虏信徒，创造更多受害者。

机器人们看似权威的系统，说穿了只是一台词语联想机，它却能将人类拽入思维的流沙之中。而且，开发它们的公司正不断游说政府：任何监管都是多余的。

（资料来源：WP, NYT, Futurism, Stanford HAI, OpenAI）

【延伸阅读】

独家数据揭酷澎跃电商老二！罗智先再不出手，PChome和Yahoo恐难救

黄金涨了一大段还能买吗？看巴菲特怎么说

欢迎未婚妈妈「去父留子」，少子化如何让中国不再保守？

哈佛专家：每周吃4种零食　帮助逆转脂肪肝

金曲奖2025》36届完整入围名单一次看！方大同获评审团奖、蔡健雅5度争歌后

※更多精彩报导，详见《天下杂志》网站。

※本文由天下杂志授权报导，未经同意禁止转载