原创 张纯 民主与法制周刊
>>视觉中国供图
“你能想象再次与逝去的亲人对话吗？”近年来，AI“复活”技术引发了广泛关注，它似乎打破了生与死的界限，让人们有机会旧梦重温、亲情再现，与逝者“零距离接触”。
一方面，“AI复活亲人”服务为人们提供了情感慰藉的新途径。另一方面，这一温情脉脉的面纱背后，可能存在着隐私泄露、侵权、诈骗等一系列法律风险。一门以“AI复活亲人”营利的生意，也已初步形成产业链，更是引发了广泛关注与深入思考。
可以说，这项新兴技术蕴含的社会价值具有一定积极意义，同时也面临着道德伦理和法律法规的双重审视。
逝者归来？AI能“复活”什么
王琴、王霜（化名）姐妹，已步入知天命之年，她们年轻时便远嫁他乡。至亲的离世，错失最后一面的遗憾，成为她们内心中难以抚平的伤痕。
王琴的女儿晓晴（化名）告诉记者，两位老人每每提及父母总是热泪盈眶，愧疚与遗憾之情难以言表，令人十分不忍。就在不久前，晓晴在短视频平台上刷到有商家提供AI“复活”的服务，决定给母亲和小姨一份特殊的“礼物”。
所谓“AI复活”，是利用人工智能技术,将逝者的文字描述、图片、视频和声音资料输入AI算法模型，从而模拟生成一个数字形象，拥有逝者的性格、记忆、图像、视频和声音。
在数字“复活”领域工作的张鑫（化名）介绍说，此类产品主要分为两种：一种是以视频为媒介，通过逝者的照片和声音，创作生日祝福或精神安慰的视频。另一种是开发可对话的聊天机器人，不仅具备逝者的声音和外貌特征，还能模仿其性格和记忆，为客户提供个性化的体验。
晓晴购买的是第一种。在支付了200元并提供了外婆生前的照片和录音后，她便收到了一段视频。视频中，外婆栩栩如生，面带微笑，亲切地诉说着往事。晓晴告诉记者，虽然只有短短几十秒，但王琴和王霜却反复观看了数十遍。
“妈妈和小姨太想姥姥了，两人都激动得泪流满面，几度哽咽、泣不成声。”晓晴告诉记者，两位老人希望她尽快为已故的外祖父提供同样的“复活”服务。
晓晴的故事并非孤例。随着AI技术快速进步，类似的“复活”服务正逐步进入普通民众的生活，更有明星效应将该话题频频推上热搜。
2023年1月，通过全息投影、AI语音合成等技术合成的吴孟超院士AI“复原人”，在其追思暨安葬仪式上向追悼者提问互动；2023年3月，一位博主通过数字建模，生成了奶奶的“数字人”，一口湖北方言的“奶奶”和博主视频对话;近日，音乐人包小柏用AI“复活”22岁不幸离世的女儿——“妈咪生日快乐，说真的，包子好想你啊……”画面中惟妙惟肖的年轻女孩儿为母亲庆生。
从频频引发热议的“复活”案例来看，网友评论出现两极分化。上述案例中，当“复活”出自情感需要时，能够引发部分网友的共鸣，故而遭受的争议最小。但也有一些人为了牟利，将“名人复活”当成“流量密码”，引发家属的强烈不满。
此前，一些从事AI“复活”生意的博主发布已故明星的视频，视频中的明星面带微笑，对镜头说着“其实我并没有真正离开”“我的心永远和你们在一起”“我一直能感受到你们无尽的爱和支持”等话语。
据媒体报道，3月16日，乔任梁父亲针对儿子肖像被侵权使用一事，回应称他看到网上传播开来的“儿子被复活”影像后表示不能接受，希望对方尽快下架。李玟的母亲更是通过律师发布声明，严厉谴责此类行为对逝者尊严及家属情感的冒犯。
针对此类事件，网上发起了题为“你赞成用AI复活逝者吗”的投票活动，在7257名参与者中，有55%的网友选择中立，认为“AI复活逝者必须经过家人同意，并符合法律”；36%的网友则表示不赞成，因为“这种行为是揭伤疤”；8%的网友表示赞成，认为这是“以慰思念之情”。
从投票的结果中可以看出，对于这把新技术的“双刃剑”，网友更多的是持有保留态度。不得不说，在AI“复活”逝者脉脉温情的背后，隐藏着的或许是无情的商业目的。
记者搜索某视频平台，输入“AI复活亲人”关键词，可以见到至少数十个与之相关的账号，部分账号还公开招募学徒或代理。
据了解，这些视频账号多半是代理商或AI视频制作者为吸引流量而设，运营主体多为公司或团队。当然，也不乏个人运营者。要成为其代理，需一次性缴费980元，代理只需将客户的照片、音视频资料提交给上线，由上线负责完成视频制作。在费用收取方面，也有明确的定价体系。“早鸟价”分为198元、398元和598元三档，视频时长均控制在1分钟以内。价格越高，产品质量似乎更高，最高价套餐宣传其还原度可达90%左右。而位于上海的一家殡葬服务企业，早在2018年便开始数字殡葬的业务，到今年更是推出数字家祠、数字礼葬、数字礼祭、数字人模型等一系列数字化服务。在AI技术的加持下，逝者可以在告别的葬礼上“讲述”自己的人生过往。
逝者“永生”，伦理和法律面临风险重重
尽管AI“复活”非常吸睛并颇受欢迎，通过这种方式，人们可以再次感受到亲人的音容笑貌。但这项技术也伴随着极大的风险。有专家提出，一旦被滥用或将带来侵害个人权益、数据隐私安全、传播虚假信息等诸多问题。
全国政协委员、金杜律师事务所高级合伙人张毅对此表达了担忧。在他看来，若这项技术被滥用，可能具有较多风险。其中之一，就是数据来源的侵权。“复活”技术需要以逝者的照片、声音等信息作为媒介，这就涉及逝者的肖像权、隐私权、个人信息等多种相关权益。
我国民法典第1019条规定，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。个人信息保护法第28条、29条规定，生物识别信息（含声音等）属于敏感个人信息，处理敏感个人信息应当取得个人的单独同意。当然，逝者的个人信息如何保护，还需要进一步论证。
“法律除保护生者的人格权外，对死者的人格权亦加以保护。”河南言东方律师事务所主任闫斌表示，在没有经过逝者亲属等同意的情况下，用AI“复活”逝者的行为涉嫌侵权，逝者配偶、子女、父母有权依法请求行为人承担民事责任；若逝者没有配偶、子女且父母已经死亡的，其他近亲属有权依法请求行为人承担民事责任。
不过，具体到AI“复活”的委托，张毅介绍说：“委托人是不是逝者的合法继承人？存在多个继承人的，继承人之间是否就此委托达成了一致意见？上述问题一旦处理不好，很容易滋生法律纠纷。”
在闫斌看来，一些网络经营者利用粉丝的思念之情，使用AI技术制作“复活”名人视频给自己账号引流、变现，极大可能涉嫌侵权，需要承担民事责任，严重者还会承担刑事责任。
对此，也有专家认为，是否进入公共领域，是判断AI“复活”是否侵权的重要分界线。世辉律师事务所合伙人王新锐表示，个人利用AI“复活”亲人、缅怀纪念，且在必要范围内使用，无需过度干预。而如果在公共平台扩散传播，用于市场营利，是否侵犯他人或社会公共利益就要特别考量。
“数据不仅关乎克隆效果，目前数字人面临的主要法律问题，也是因不当获取、使用数据造成的。如未经同意使用他人数据克隆数字人，就会侵犯他人的肖像权、隐私权。”北京交通大学法学院副院长郑飞指出，根据相关法律，虽然自然人死后不再享有作为民事权利的肖像权，但不代表其肖像可以被任意使用。
一家社交平台相关负责人同样对记者表示，未经逝者生前同意或逝者家属授权，他人不应使用AI或任何技术手段“复活”逝者。该负责人称，如果家属投诉或侵权行为被查实，平台将对侵权账号作出处罚。
AI“复活”还涉及“数字遗产”问题。北京康达（厦门）律师事务所高级合伙人张翼腾说，逝者生前的个人信息、聊天记录等“数字遗产”能否继承，目前没有明确法律规定。对于谁有权使用、如何避免不当获取、使用时应遵循何种规范等问题，仍需进一步明确。
此外，在数据处理过程中的法律风险方面，张毅谈到，虽然法律层面已经出台《互联网信息服务深度合成管理规定》（以下简称《管理规定》）等法律法规，对技术的应用进行了规制，但实践层面针对AI“复活”技术的行业资质与准入门槛尚待建立。
“有关经营者在数据处理中是否严格遵守了委托权限？是否采取恰当的措施保护了用户的数据安全？经营者的从业资格尚待进一步规制，实际履行中也存在违约风险。”张毅如是说。
值得关注的是，AI深度合成的“成品”在使用过程中的违法和犯罪风险也要注意。举例来说，利用AI技术“复活”逝者后，经营者是否存在擅自使用“成品”进行未经同意的商业推广并牟利的行为？或者针对特定自然人“成品”的内容，存在委托人或特定关系人不认同的涉及侮辱、诽谤的内容，可能会构成刑法第246条中的侮辱或诽谤罪。
与此同时，在张毅看来，服务商对于深度合成的视频是具有标识义务的，需要在“成品”中向公众提示深度合成情况，法律依据是《管理规定》第16条：“深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。”但实际执行情况并不理想，反而曾出现过不少利用AI技术“成品”实施诈骗犯罪的案例。
“服务提供者不会也没有能力核实‘逝者’的身份信息，一些不法分子也可能以‘复活’之名行‘诈骗’之实。”中国科学技术大学网络空间安全学院教授左晓栋介绍，面对新的电信网络违法犯罪活动时，不熟悉网络应用的中老年群体更易成为受害者。
与此同时，AI“复活”也可能衍生新型法律纠纷。“不排除有人会借AI‘复活’来伪造逝者遗嘱或做出其他违背逝者意愿的事。”王新锐提出，如有近亲属利用这项技术伪造音视频遗嘱，或将耗费更多时间和人力成本来验证真实性，甚至造成对司法鉴定的一定挑战。
值得关注的是，除了法律风险，AI工具使用者们还面临着网友们的“道德审判”。在中国社科院哲学所科技哲学研究室主任段伟文看来，AI“复活”这项技术的应用当前还面临不少“伦理困境”，最核心的当属对人类生命观提出了挑战。
段伟文列举说，比如涉及生命尊严诸多问题：一个真实的人可不可以被复制？谁可以授权去“复活”一个人？这项服务的经济效益和相关责任之间的冲突怎么界定？是否要把它当成一种新的生命形式？
对此，此前因AI“复活”奶奶而感动不少网友的B站UP主吴伍六（网名）表示，自己的弹幕和私信中有不少人认为他的做法和“挖人坟墓”没有区别。在中国人的传统观念中，这样的视频似乎会惊扰逝者的灵魂，让他们“不能安息”。
中国科学院自动化研究所人工智能伦理与治理中心主任曾毅还谈到了其他隐患，比如说拥有数字逝者的时候，会不会使得人长期沉迷于与数字逝者之间的交互往来，从而对心理产生非常负面的影响。
“这是数字逝者这项人工智能的应用技术，可能给社会带来的长期潜在的隐患，也是我们是否应当开发这样的人工智能技术必须去思考的伦理道德的问题。”曾毅说。
AI“复活”，不能成为无规矩和底线的“生意”
不可否认的是，我们正处在一个人工智能技术快速发展和迭代的时期。AI工具不仅不断冲击着人们的认知，也让这些工具的认知门槛降低。或许在不远的将来，“数字生命”真的可以成为现实。但人们也不得不考虑一个问题：如何化解可能面临的法律风险？又该如何监管，以防止这一技术的过度滥用？
首先，AI“复活”技术的应用，应严格遵守知情同意原则，在网络传播过程中不侵犯他人利益。现实中，AI“复活”当前还存在技术、素材等局限，但是这一正处于萌芽阶段的技术和商业模式，已经向现有标准与规范提出挑战。
对此，中国政法大学数据法治研究院教授张凌寒介绍，目前我国已有相关的规定。2023年1月生效实施的《管理规定》中，对通过人工智能技术生成合成数字人、使用他人生物识别信息合成数字形象等服务，都有相关的规定。
“根据这些规定，如果要生成他人的换脸、换声或者合成他人形象，应该得到当事人的单独同意。这也与我国个人信息保护法的相关规定是一致的，因为这些生物识别信息构成了敏感个人信息。”张凌寒说。
不过，目前从事技术“复活”的机构资质、AI“复活”发起方的权责、数字形象的技术应用边界、“数字人”产品的监督机制等许多问题，亟待解决。
在中国传媒大学文化产业管理学院法律系主任郑宁看来，制作方在利用AI技术数字“复活”逝者后，可能需要承担一些法律责任。因此，为保障逝者的人格权益，制作方只有经过逝者继承人的同意，才能进行相关“复活”操作。
另外，业内人士提出，在数据处理过程中，要更注重隐私保护和数据安全。
2023年，国家网信办、国家发展改革委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》（以下简称“办法”），进一步明确了生成式人工智能的行业发展规范。办法规定，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。
其次，不少专家提出，AI“复活”产品应恪守技术管理规范，加强内容“标识”。张凌寒谈到，无论这项技术如何发展，有一点应该明确，即仅限在怀念的场景下使用，不得与他人产生互动或者在公共场所传播，避免发生欺诈。因此，法律也要求生成合成的音视频，必须作出显式标识和隐式标识，避免公众混淆。
郑飞也认为，应比照人工智能在学术研究中的“披露性”原则，还应建立深度合成内容标注机制。“以显著、明确、无异议方式对虚拟数字人作出特别标注，让用户清楚知道其属性。”郑飞强调。
与此同时，左晓栋等专家表示，根据有关规定，相关技术服务提供者必须对“生成内容”进行“标识”；在已有原则性要求的背景下，可出台相关行业标准，要求相关技术服务提供者在生成式内容中添加“水印”，防止不法分子借用该技术实施违法犯罪活动。
专家还建议，要进一步落实相关平台的主体责任，处置借AI“复活”概念不当牟利的不法商家。实际上，我国已经出台了《管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》等，为人工智能治理搭建了基本的规范体系，为行业规范划定了一些“红线”。
值得一提的是，虽然人工智能技术在我国兴起的时间不长，但此类规定的出台相对及时。不过，郑飞也谈到，这些“红线”或失之于宽、或失之于软。“失之于宽表现为缺少明确可执行的正负面清单，现有规定过于宽泛化，难以有效界定行为的违法性；失之于软表现为当前针对人工智能治理缺乏上位法规定，现有规范法律强制力不足，宜尽快制定出台人工智能法。”
除了法律法规的完善，行业自律、平台监管也很重要。“立法通常是滞后的，尤其在新技术领域。”郑宁谈到，总体而言，科技发展的边界应该在维护社会法治、保护个人权益和确保伦理底线的前提下进行。数字“复活”技术的推广需要更多的监管和规范，既保证技术的创新，也要保障人类的价值和尊严。除此之外，可以通过“软法”比如行业标准、企业自律行为等，在实际操作中发挥规范作用。
上海大学法学院教授陈敬根同样认为，画出底线和红线的“硬法”固然不可缺位，但为了弥补立法的滞后性，当前在人工智能等新兴领域应提倡设立更多的“软法”，即通过行业协会、团体组织等自发制定的规则，产生集体约束力，由此在法律底线之上起到行业监管的作用。
上海政法大学教授张继红也建议，更加重视人工智能领域的行业自律，通过国家标准、行业标准引导产业发展，以场景化的标准指引企业做好人工智能合规工作。
“不能放任AI‘复活’变成一门没有规矩和底线的‘生意’，尤其要保护对新技术不敏感的中老年用户群体。”中国法学会消费者权益保护法研究会副秘书长陈音江指出，有关平台要帮助中老年用户群体辨别深度伪造技术，取缔不当得利的违法违规商家，尽可能减少技术滥用带来的社会风险。
法律界人士建议，有关部门对AI“复活”的需求和其衍生的产业链要保持关注、合理辨析，在现行法律法规基础上做好数据保护、涉诈犯罪风险预防等方面的监管。
除了法律风险，还存在诸多伦理道德问题。北京航空航天大学法学院副教授赵精武介绍说：“为了解决这类问题，科技部在2023年9月发布了科技伦理审查办法，那么通过建立一个科技伦理审查制度来预防科技伦理层面的风险，AI逝者‘复活’也在被规制的对象里边。”
（原题：“人工智能时代的治理转型”系列报道之三 | AI“复活逝者”，引来伦理和法律的双重审视）
文/本社记者 张纯
原标题：《AI“复活逝者”，引来伦理和法律的双重审视》
