当数字人比你更像你 需警惕伦理法律风险
AI“复活”包小柏女儿。 资料图
从数字人汤晓鸥、包小柏女儿，再到AI生成的“李玟”“乔任梁”，今年以来，“AI复活”一度成为热门话题。“AI复活”逐渐走向商业化，成为一门新生意的同时，其背后的伦理与法律问题也不容忽视。4月24日，南方都市报在北京举办南都数字经济治理论坛第13期活动，主题聚焦“AI复活:科技慰藉还是生意噱头”。六位来自产业实践、技术安全、科技哲学和法律方面的专家齐聚一堂，共同探讨争议中的“AI复活”。
会上，知名音乐人包小柏以视频形式参会，讲述重建女儿数字生命的经历。“虚拟人邓丽君”幕后操刀团队数字王国的中国区副总经理陈晓光，在现场揭秘让一代歌后与周杰伦同台对唱背后的故事，并分享了虚拟人技术在组织管理等应用场景的商业化实践。中国科学院信息工程研究所正高级工程师韩冀中介绍了数字人生成技术及其风险。他表示，如果合成内容未明确标识，且未能得到个人授权，会因此产生道德和法律问题。当有一天面对“比你更像你的数字化身”时，该如何自处?中国社科院哲学所科技哲学研究室主任段伟文提到了数字化身与身份的同一性问题，同时强调应重视AI分身对情感和伦理带来的冲击。
AI复活背后的伦理与法律拷问
今年以来，利用AI技术“复活”亲人成为热议话题。知名音乐人包小柏通过重建女儿的AI数据来弥补爱女生前的遗憾，希望她在数字世界里没有病痛；商汤科技已故创始人汤晓鸥以数字人的形式“现身”公司年会，讲起了一段脱口秀。但与此同时，也有人利用AI技术“复活”李玟、乔任梁等已故明星收割流量，遭家属斥责是在“揭伤疤”。
这些“AI复活”案例，一再引起公众对这项技术及其使用边界的讨论。AI“复活”逝者，一方面可以让思念具体化，给人们带来心理慰藉，但另一方面也面临诸多伦理和法律的拷问。如何看待这一现象?
当天研讨会上，与会嘉宾从不同的专业背景分享了他们的看法。北京高勤律师事务所合伙人王源表示，在未获得逝者家属的明确同意下，用逝者的声音、图像等个人数据，涉嫌侵权。
包小柏也强调，在使用AI技术延续逝者的“数字生命”时，要考虑有无立法依据和完整授权，同时避免对他人造成伤害。“要不要AI生成，是(逝者)家属决定的事。不是商业(机构)，有技术有手法的人可以拿来道长短的，这叫二次伤害。”
根据我国《民法典》第九百九十四条规定，死者的姓名、肖像、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任；死者没有配偶、子女、父母且已经死亡的，其他近亲属有权依法请求行为人承担民事责任。
AI复活涉及对逝者个人信息的再利用。《个人信息保护法》第四十九条指出，死者的近亲属可以对死者的相关个人信息享有查阅、复制、更正、删除等权利；但死者生前另有安排的除外。
此外王源补充道，AI“复活”逝者，除了可能涉及的人格权、个人信息保护和著作权等问题外，还应考虑公序良俗。比如，出于国家利益和社会利益的考虑，不能随意地“复活”一些历史英雄人物，更不能用于商业用途。
中国科学院信息工程研究所正高级工程师韩冀中注意到，现在一些AI“复活”名人的视频，已经能做到难以分辨真假的程度。如果合成内容未明确标识，并未能得到个人授权，就会因此产生道德和法律问题。
在段伟文看来，AI复活背后还有很多新的问题值得讨论:“个人数据遗产归谁所有?”“是不是所有人都有权利选择AI‘复活’?如果他是一个罪犯，我们可以‘复活’他吗?”“怎么尊重他人不想被‘复活’的意愿?”
他认为随着科技的不断发展，可能产生一些新的价值和伦理冲突；未来需要建立一种新的伦理关系，并在法律方面有所考量和回应。
艺术再创、数字分身……人机共创的未来
2013年9月6日，虚拟人邓丽君现身周杰伦的台北演唱会，不仅献唱了经典金曲《你怎么说》，还与周杰伦合唱《红尘客栈》和《千里之外》。这两年，在一些卫视的跨年晚会上，虚拟人邓丽君也几度亮相，与王心凌、周深等人一同表演。
提供视觉特效和虚拟人技术“复活”邓丽君的幕后团队，是成立于1993年、总部位于香港的数字王国。陈晓光是该公司中国区的副总经理，当天在研讨会上他分享了AI“复活”邓丽君背后的故事。
“与其说复活，我们倒不如说这是一种艺术再创——用当前的技术来弥补我们的遗憾。借此，邓丽君的艺术生命得到延续，同时也让喜欢她或者还不了解她的人，拥有记忆永存的方式。”陈晓光说。
据他介绍，在尝试“复活”邓丽君前，数字王国联系了邓丽君的三哥、邓丽君文教基金会董事长邓长富先生。在充分沟通和获得邓家人及其版权方许可后，才开始进行接下来的商业化操作。“AI复活是在一定界限内的复活，而不是肆意的突破。”陈晓光说。
如果说AI复活有不可逾越的边界，那么活着的人主动打造数字分身则有更多想象。不久前，一位技术公司的朋友主动联系王源，称只要提供相关视频素材，就可以帮她打造一个数字人，未来即可用数字分身直播或线上参会。对此，王源表现出兴趣——“技术的发展势不可挡，那为什么不拥抱呢?”
元宇宙数字品牌公司AVAR创始人胡雅婷认为，AI和人共创的未来具有无限延展和想象空间。数字生命对用户来说，是无价的。但实现的前提是，具有比较高端的多模态能力，并投入大量的训练数据，才能达到更好的交互体验。“所谓数字生命，应该是一个完整的生命体，而不只是一张图片或者一个视频。”
放眼未来，韩冀中认为随着AI复活等应用的不断落地，将有更多人选择把个人数据放在互联网上编辑处理，并形成新的信息流。回顾互联网技术发展，他认为每次信息流的变革，从黄页，搜索引擎到算法推荐，都深刻改变了互联网生态，未来我们可能靠AI代理作为数字分身，来帮我们浏览、收集和处理资讯，甚至与人进行交互。
“如果说有一天这能成为现实的话，互联网将迈入人机共生的时代，那么现在整个互联网生态也会发生改变。在这种趋势下，不仅需要促进包容其发展，也要关注其安全风险。”韩冀中说。
段伟文尝试描绘未来生活的场景:人们用AI来写小说，用AI编撰人生；从现在出门照镜子变成出门“照”数字人，由虚拟世界的另一个自己提供穿衣搭配建议；甚至人们可能在AI重建的数字空间里重“活”一遍……
“但是它一定会是美妙的吗?有可能我们很快就会厌倦这样的虚拟生活。”段伟文说。不过未来是什么样的，没有人能给出准确答案。他认为总的来说，人们的思想需要尽可能地开放，在探索中寻找到规则并不断往前进。
聚集
是否存在人们沉迷于与虚拟形象相处的风险?
研讨会上，段伟文首先指出，数字人技术实际上是对人类存在和生命的可能性维度的一种探索，也可以理解为数字技术重新定义和构造了自我与生命。
未来也会出现虚拟隐私等问题
段伟文指出，一方面，数字技术已成为当前人类所生活时代的“引力场”，人们被数字世界约束，技术的使用改变了人类的思维方式以及道德生活的重心。
另一方面，除了现实世界，人们生活在虚拟数字世界中的时间越来越长，数字世界逐渐成为人类可选择的生活空间，在其中重新定义和构造自我和生命。在他看来，这意味着人类一直以来都与技术相结合，是一种“半人马”式的存在。
如今，数字技术赋予了人类一种新的“半人马”状态，即通过一种技术图像影响人类生活。“这种技术图像是从古到今一直都有的，对于原始人类来说，那些原始的壁画就是一种很重要的技术图像，它能够赋予一个族群，赋予一个种族，赋予一个家族生活或者生存的意义。”
那么，如今的技术图像指什么?段伟文认为是短视频应用等。在他看来，一直以来人类思维里就有一种内在的虚拟，这种思维中的虚拟与真实技术相结合，使得人类对世界的认知产生变化。从原始种族的壁画图腾到现在的“网红打卡地”，都是“半人马”式存在的体现。
段伟文还谈到，AI分身是AI驱动的自动化主体。换言之，“AI复活”是在学习以往数据的基础上产生的一种合成效果，这种效果可以将人与其数字人剥离开来。比如，人类可以用一个AI分身去演讲，另一个分身去卖货。
他强调，AI分身的应用可能造成一些负面影响。一是出现“海神效应”，人们的行为和自我认知受到在虚拟世界中化身形象的影响。“你可以在不同的地方扮演不同的角色，但是能不能保证你的人格还是统一的，这是一个问题。”
二是自恋情结。数字技术让人类更多地观察自己、了解自己，甚至比其自身更了解人类。在这样的情况下，数字技术既可以指导人类生活，也可能让人类陷入一种自恋情结中——在数字人应用的过程中，“找回自我”或成为问题。
他举例道，一位韩国裔艺术家曾特意将自己少女时代写的日记数据全部用于AI训练，之后与少女时代的数字人“自己”对话，回忆青春岁月。通过这种方式，这位艺术家打开了一些心结，与过去达成和解——“那么这当然是一种最好的情况，但是实际上也会有时候和解不了，陷入到一个死结里面。”
在他看来，无论是“AI复活”还是数字人，都意味着人类可以在有情感需求时实现一种虚拟交往，因此未来也会出现虚拟隐私、精神隐私等方面的问题。“我喜欢谁，我讨厌谁，我跟谁谈得来，谁能够打开我的心扉等等……它不一定是在真实世界发生的，但确实让我们内在的心理空间有更大的一种翻转。”
三是数字化身与身份的同一性问题。他在会上提到，提出“人工智能超越人类智能的奇点临近”的库兹韦尔一度每天收集父亲生前的数据并用于制作数字人，这个过程中他意识到“做出的数字人‘父亲’比我爸爸还要像我爸爸”。这意味着人类的认知存在很多刻板印象，同时应重视AI分身对情感和伦理带来的冲击。
对人类以往“双重生活”的一种突破
那么从科技哲学的角度，如何看待“AI复活”?若这一技术持续发展，是否会有人们沉迷于与虚拟形象相处的风险?
对此，段伟文表示，最重要的是区分两个问题。首先是明确四种生命及其边界，包括物理生命、精神生命、社会生命和数字生命，其中物理生命指人类的生理、心理等，精神生命指思想观念。如果一个人去世，其精神生命可能还存在，但物理生命、社会生命已经消失，社会不再承认逝者的存在，理论上其不会再影响、干预他人生活。
其次，“AI复活”以及数字人技术意味着对人类以往“双重生活”的一种突破。他解释，人类长久以来都身处“不如意”的状态中，它能带来实现憧憬向往的生活与活在其中的生活、从未发生的生活与不断展开的生活、转瞬即逝的生活与可以赎回的生活三种可能性。在解释“可以赎回的生活”时他提到，“‘AI复活’好像给了我们这样一种暗示——我们可不可以重新活一遍?是不是可以有后悔药?”
谈及沉迷风险，段伟文引用了古希腊神话中恩底弥翁的故事作为回答。故事中，恩底弥翁与月亮女神塞勒涅相恋，塞勒涅深感人类与众神相比寿命短暂，于是向天神宙斯请求赐予爱人长生。宙斯决定，恩底弥翁若想要获得长生并永保青春，就必须陷入长眠。最后恩底弥翁选择长眠，每夜在睡梦中与塞勒涅相会。
段伟文表示，这则古希腊神话启示人类，要追寻数字生命，可能就要付出“长眠不醒”的代价。“我们为了欲望，为了永久满足对月亮女神的欲求，就只好把凡人的守夜变成不朽的睡眠，这就形成了一个死结——它妨碍了我们生命的自然进程，阻碍了人类自身创造更美好生活的可能性。”
挑战
数据授权等安全风险须前置治理
AI邓丽君如何翻唱周杰伦的《千里之外》?袁隆平院士的仿真语音又是如何生成?
研讨现场，韩冀中给与会嘉宾带来了上述场景的LIVE演示，并分享科普了其背后的AIGC技术原理及数据安全治理挑战。
互联网或将进入人机共生的时代
从“AI孙燕姿”到“AI李玟”“AI高以翔”，从“虚拟歌手一秒出专辑”到当下“复活逝者”的火爆业务，AIGC行业的发展可谓一日千里。在韩冀中看来，虽然生成式人工智能技术离真实大规模落地尚有一定距离，但在商业应用场景的丰富速度上还是非常迅猛的。韩冀中认为，“数字人也许会改变互联网的信息流，引发数字时代的新趋势，互联网或将进入人机共生的时代，更多与个人日常生活相关的数据会上网”，与此同时，大模型服务质量的提升也有赖于高质量的训练数据，但是企业能否合规留存与使用个人数据，如何保护个人隐私安全，仍是一个具有挑战性的问题。
在《数字人生成技术及其风险》的主旨演讲中，韩冀中总结了全球AIGC当前主要的模态技术路径:在文本方面体现为聊天机器人技术；音频方面包含了语音内容的声音克隆、音色模仿以及歌曲生成技术；图像和视频方面则是以人为主体的身份替换、说话人生成、人物定制化生成，以及聚焦于环境且基于文本指导的图像或视频生成。
“对周杰伦的音频输入，首先尽可能地去除他的音色，而保留其中的歌词、语气等信息，随后再使用专属于邓丽君的vits模型为其添上邓丽君的音色。”韩冀中以语音生成领域为例，介绍称当前该领域主要包括音色迁移、声音克隆等主流技术形态。”
“声音克隆主要基于卷积神经网络和大规模语音的预训练模型，比如只要输入袁老的既往语音来提供音色，再加上一段文本，就能克隆出对应音频。”韩冀中演示称。他同时表示，“在音乐生成行业比较敏感的话题，则主要是涉及音乐版权的问题，相关业务领域的训练数据来源目前也存在风控漏洞。”
“对AI复活逝者的追寻是有代价的”
会上韩冀中表示，在AI复活亲人的案例中，可以综合利用这些工具，比如使用定制化文生图技术生成亲人头像、使用声音克隆技术复制亲人音色、使用文字生成技术生成对话内容、使用音频驱动视频生成技术来驱动亲人的头部动作等。
“对AI复活逝者的追寻是有代价的。”韩冀中坦言，对数字人来说，技术上可以实现和亲人聊天交流，甚至能将一些记忆的对话场景写入数据库，作为大模型的提示词，生成复原当时场景的对话。而从相应的技术需求来说，“AI复活亲人”为了做到惟妙惟肖，在数据层面需要收集一定规模高质量的逝者面部图像和声音数据，他以包小柏提到的对女儿遗产信息的使用授权为例，“如何保障这些逝者海量的敏感隐私数据在被授权后的合理存储、使用与清洗，是一个新的安全挑战。”
他强调，依照《互联网信息服务深度合成管理规定》，训练数据包含个人信息的，应当遵守个人信息保护的有关规定。AI服务提供者若在未获得数据主体(即逝者家属或法定继承人)的明确同意下收集逝者的个人数据，如声音或图像，就是侵犯了逝者的隐私权。而即便在获得授权的情况下，服务提供者对于使用逝者数据的方式仍可能超出原授权的范围，如未经授权用于模型训练，“这种行为可能对逝者家属造成严重伤害。”
与此同时，随着合成内容的效果越来越逼真，如果未明确标识，容易引发混淆，加剧网络虚假信息的泛滥，韩冀中一针见血地指出。而根据《互联网信息服务深度合成管理规定》，深度合成服务提供者所提供的深度合成服务，可能导致公众混淆的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
此外，韩冀中还同时提到，如何甄别公司发布的数字人技术是否使用了某个隐私数据，在技术上也在探索阶段，目前的检测技术还需要企业配合提供测试接口，纯粹的黑盒测试仍有一定困难，因此“在一些企业不配合的情况下也很难探知它是否使用过一些无授权的隐私数据。为此，我们团队也正在开展相关研究，如有进展，会再向大家汇报与交流”。
采写:南都记者 李玲 樊文扬 吕虹 莫倩如 见习记者 杨柳