“深度伪造”值得担心吗？
利维坦按：
我个人觉得沃尔特·谢勒对于“深度伪造”的未来还是过于乐观了，各种移花接木式的明星换脸有时候可不仅仅是娱乐和恶搞，她们往往也会成为色情网站的重点技术处理对象。不仅如此，看看最近的以哈战争，各种恶意煽动仇恨的虚假信息漫天飞，尤其是那些伪造的图片，试图通过视觉上的刺激来挑动人们的愤怒情绪——这无疑分化了公众舆论，煽起了暴力的火焰。
在互联网上，我们如何知道什么是真实的？
2023年春天，一张在五角大楼附近的爆炸照片（下图）引起了华尔街的轻微恐慌，这是首次发生的人工智能生成图像通过互联网传播影响市场的案例。
虽然这个恶作剧在受到审查后消失了，但对许多人来说，它似乎预示着更糟糕的事情即将发生。
不过，当圣母大学（the University of Notre Dame）计算机科学家、媒体取证专家沃尔特·谢勒（Walter Scheirer）让他的学生在互联网上搜寻人工智能篡改视频的例子时，他们带回来的结果让他感到惊讶。他说，这就像是“无尽的迷因”。
到目前为止，大多数令人信服的“深度伪造”（Deepfake）似乎都只是为了引起你的会心一笑，而非引发经济崩溃：假冒的汤姆·克鲁斯谈论洗手；尼古拉斯·凯奇出演所有电影；拜登、川普和奥巴马一起玩《使命召唤》。
谢勒得出结论，互联网确实充斥着虚假内容，但其中绝大多数似乎旨在建立联系，而不是破坏与毁灭。
谢勒和互联网是一起成长的。作为一名较年长的千禧一代，他将自己的第一台计算机描述为“特别原始”的——一台连接到家庭电视机的德州仪器机顶盒。中学时，他开始流连于Internet Relay Chat黑客频道，与早期计算机地下世界的赛博朋克叛逆者进行虚拟交流。他说，即使在那个时候，黑客们也喜欢将科学事实和虚构结合在一起，仅仅是出于喜欢炫技而已。
在他的新书《互联网上的虚假事物史》（A History of Fake Things on the Internet）中，谢勒认为今天的“深伪”最好以这种精神来理解，即，从许多方面来看，它们是18世纪讽刺、维多利亚时代灵异摄影术等前互联网时代戏仿与想象传统的数字后代。
在最近的一次谈话中，谢勒告诉我，他逐渐认识到，互联网上虚假信息的盛行，并不是对公民规范的彻底、可怕的背离，而是我们人类创造神话和讲故事动力的完全自然演变。
-无害虚假信息和危险虚假信息，该如何界定呢？
-在写这本书的过程中，我更加欣赏的一件事就是，戏仿和讽刺在人类沟通中的价值。这是一种用来进行社会批判的非常古老的形式，经常被相当有策略地使用。早在互联网出现之前，一个非常著名的例子是1729年乔纳森·斯威夫特（Jonathan Swift）写的名为《一个小小的建议》（A Modest Proposal）的散文。
文章谈论关于同类相食和吃婴儿，这确实令人不安，但斯威夫特实际上并不是在谈论同类相食，他试图表达的是对爱尔兰贫困状况进行社会批判（该文提出下述建议：“将爱尔兰十二万婴儿中的十万婴儿提供给富家人士当成桌上佳肴”，认为这样做可以让贫苦父母纾缓经济困难，获得解脱。编者注）。如果你批判性地、深入地阅读，你会即刻建立起某种联系，你可能会以一种黑暗的方式找到它的主旨趣味所在——这当然也是斯威夫特的本意。
但多年来，这篇散文经常被误解。偶尔会有公开朗读的场合，即使在今天，人们也会失去理智——天呐，怎么可能有人提倡食用婴儿呢？——这显然没有抓住重点。
互联网上的很多内容就是这样。它充斥着颠覆性的内容，需要你思考一下才能理解其信息。问题是，社交媒体的信息流特性往往导致我们停留在信息的表面层次上，这样就会引起一片哗然。
-那么深度造假呢？内容看起来和听起来都如此真实，很难辨认真假，更不用说反驳了。对这些的担忧是否也被夸大了？
-是的，这是最近才出现的一个问题。深伪于2017年首次出现在互联网上，因此如今的它并不是一项特别新的技术。人们非常担心视频出现在政治背景下，可能会改变选举进程或导致政治暴力。但是，这些都没有发生。
-你在书中写了很多关于上世纪90年代和21世纪初计算机地下活动的内容。从你的叙述中可以看出，即使在那个时候，人们也在网络上模糊了事实和虚构间的界限。黑客们在互相分享技术信息的同时，还分享各种谣言和笑话。你那时还是个十几岁的少年，是如何被吸引进这个世界的？
-我一直对计算机非常感兴趣，但在初中时，我的一个朋友找到了一些黑客的文本文件，基本上是黑客们制作的创意写作杂志，他说：“看，这些东西真的超级有趣！” 那时我就意识到，还有这样一个完全不同的计算机世界的存在。
-这些文件里面有什么？有诸如“猜猜政府到底在做什么？”之类的阴谋信息吗？
-会涉及这些内容，但还有更多其他内容，比如有大量的视频游戏作弊代码。但随后它会更深入，比如，你听说过企业和政府使用的Unix操作系统吗？好吧，这里有如何访问它、如何使用它的方法。然后，就是创意写作部分。除了经典的阴谋论故事外，还有很多关于不明飞行物和超自然的内容，这些内容不可能是真的，但足够有趣，让你想继续阅读。我认为将所有这些想法融合在一起真是太酷了。
-你自己参与过传奇的黑客行动吗？有什么你愿意透露的吗？
-我要把所有的功劳都归功于我书中提到的那些黑客。我当时年纪还小。
-因为有一个故事我很好奇。你写到了一个在2012年出现在网上的大型文本文件，似乎记录了多年来对主要公司和政府目标进行的非常成功的攻击——深度渗透，这种攻击可能会让人入狱。你评论说，直到今天，没有人知道谁是幕后黑手。你的措辞让我想知道是否是你本人。
-无可奉告。
-（笑）所以，你显然认同无政府主义者“互联网渴望自由”的思想。但今天你在圣母大学教书，你的个人简介说你“倡导受天主教社会教义启发的技术发展”，我有点难以将这两者联系在一起：反权威的黑客，天主教社会思想家。你能解释一下吗？
-它们之间的联系是关于社群的观念。黑客是一个非常有趣的亚文化群体——一群第一次彼此相连并创造了持久事物的人。他们创建了计算机安全行业。而天主教社会教义是关于：我们如何在社区意义上茁壮成长？如何建立某种共同利益的概念？
这里有一个重要的联系：如果你把时间倒转，看看我们今天构建互联网的想法，很多想法都来自上世纪60年代著名的媒体理论家马歇尔·麦克卢汉（Marshall McLuhan）。他与反主流文化运动有着紧密联系，但许多人不知道的一个事实是，他是一位虔诚的天主教徒。
-这我真不知道。
-他皈依了天主教，并相信天主教信仰是最终的媒体系统。因为你总是在交流，对吧？与圣人，与已故的人，当然还有上帝。通过祈祷和冥想——这些灵性形式——结合在一起，看到这种想法如何渗透到他对媒体的思考中，真是令人着迷。他着迷于通过信息网络将整个地球团结起来的想法。
-他不是写过最后我们会变成信息吗？那听起来像是某种网络化的圣餐。
完全正确。当你考虑到技术时，它有点神秘，对吧？我不认为这完全是一个疯狂的想法。很多人都在用这种方式讨论新兴技术，尤其是当他们试图理解人工智能时——比如，它是否具备某种精神层面？我认为这其中是有原因的。所有这些技术都是人类创造的形式，在基督教中，我们被要求与上帝共同创造；他赋予了我们这种创造的能力。
-所以你认为互联网是人类集体想象的延伸。与其将其看作是市场驱动的技术，你更原因将其视作创造神话的工具。
你谈到了人类学家克洛德·列维-斯特劳斯（Claude Lévi-Strauss）的观念，即，我们同时生活在两个不同的领域：现实世界，或者说是真相的领域，以及神话周期。这个概念如何适用于互联网上的所有奇怪事物呢？
-列维-斯特劳斯的见解是，想象力对人类的生存非常有用，但到了19世纪和20世纪，就被忽视了。然而，我们仍在编故事。好吧，这是为什么呢？如果你是一个完全理性的人，你应该想要优化生活的方方面面。为什么要浪费时间讲故事和凭空捏造事物？这不是高效的。
特别是在21世纪，认为白日梦可能有用，简直令人震惊。我们难道不应该只是工作吗？但列维-斯特劳斯认为，这两种思考方式都很重要，它们相辅相成。
-这很有趣，因为我们可能会想知道为什么我们要花费这么多人力去构建一个模拟的虚拟世界——试图在线上建立一个蹩脚的创作副本。但在我看来，你与列维-斯特劳斯的观点是，互联网是我们人类创造神话的动力所在。
也许魅力并没有消失，而是悄悄地回到了我们互联网创造的这片狂野、尚未成形的前沿。如果是这样，那么所有那些小小的迷因都比我们想象的更有意义？
-我坚信这一点。当你审视几个世纪以来的文化时，这并不奇怪。我们开发创新的新技术，并且不断带来“惊喜，惊喜！”——我们用它们来讲述故事。我认为这在很大程度上被误解了。
我的意思是，互联网是用来做什么的？很多人仍然会说它是信息高速公路；你去那里是为了获取事实并完成你的工作——这可以追溯到90年代互网络泡沫时代的公司宣传。但互联网从来就不是这个意思。它更像是麦克卢汉对创意空间的愿景，在这里，我们可以与他人分享我们想象力的投射。
-这让我想到我们一直在与错误的人谈论互联网。与其与技术大师和网络政策专家交流，我们应该转向精神分析学家、人类学家和神学家——专注于思考我们讲述的故事、以及讲述这些故事潜意识动机的人。西格蒙德·弗洛伊德在网上会感到宾至如归。
-是的，想想梦境吧。我的意思是，互联网——尤其是通过这些创造性的人工智能技术——就像一个梦境，对吧？人类生活中有多少被编码在这些人工智能的幻觉中？我认为在这方面有很多有趣的工作要做，但很少有人在研究。
-我最近读到的另一个内容——“复活的深度伪造”。“聊天机器人”或已故人物的复制品。这是一个迫切需要深入分析的话题。
-是的，这是一个很伟大的想法，人工智能实际上可以让人重生。而且这是一个古老的想法，有点像19世纪末20世纪初流行的“灵异摄影”。摄影师在特效方面越来越精湛——是的，事实上，在暗房里可以编辑照片！他们发现，如果将底片曝光两次，你可以得到两张不同的图像。因此，你可以让某人坐下来拍摄肖像，然后将同一张底片曝光到他们失散已久的亲人旧照片上，在二度曝光中，它会呈现出幽灵般的魅影。
现在人们基本上也在使用“深伪”做类似的事情，对吧？人们有这种与已故亲人保持联系的冲动——我猜麦克卢汉可能对此会感到相当满意。
-你让我想到，询问互联网上的某事是真实的还是伪造的，似乎无关紧要。并不是说你对不道德行为表示赞同。但你的一个主要观点是，网络虚假信息所揭示的内容比隐藏的内容更多，是因为它们告诉了我们一些关于我们自己的信息。它们传达了怎样的信息？
-这是很多社会科学家试图找到的一个大问题——一个概括性的解释来归纳整个现象。但归根结底，它只是在讲故事。人们只是想要与其他人建立某种联系。很多这些媒体对象都是为了人际交往。就像我想与你分享一些东西，我希望你了解我或我的社区的一些事情。
文/Anne Strainchamps
译/tamiya2
校对/tim
原文/nautil.us/stop-worrying-about-deepfakes-470212/
本文基于创作共享协议（BY-NC），由tamiya2在利维坦发布
文章仅为作者观点，未必代表利维坦立场