视频 | AI“复活术”的预警：前沿技术亟待法律和伦理规范

近期，音乐人包小柏用AI技术“复活”离世两年的女儿；又有网友未经明星亲属授权，将多名去世明星AI“复活”。AI“复活术”一时引发相关法律、伦理边界的争论。

2023年4月，就已经有公司开始对外提供AI“复活术”服务。2023年9月，江苏徐州的杨先生委托这家公司，为已故的二舅做了数字分身，目的是向90岁高龄的外婆隐瞒二舅的死讯。当年8月，杨先生的二舅在外务工期间意外去世。外婆大病初愈，又刚经历了外公的离世。家人考虑到老人身体一时承受不住噩耗，就同意了杨先生的方案。

“一方面是换脸，一方面是声音的克隆。外婆视频的时候，其实是工作人员坐在视频对面，是实时换脸和声音提取。”杨先生告诉看看新闻Knews记者。

龙年春节前，杨先生为外婆和“二舅”安排了一场“团圆”。视频聊天时，外婆和“二舅”有说有笑，聊些家常，最后招手道别。

为了实现外貌、表情、声音、语气实时仿真的效果，杨先生向这家公司提供了二舅为数不多的日常照片、视频，并提前约定了聊天语境。

“（做数字孪生）花了9800元。后面三次的话，按照他们定的费用结构，多一次加200元。”

张泽伟（右）和他的“数字孪生”

为了进一步了解AI“复活术”的细节，我们找到了杨先生委托的这家公司，见到了公司的创始人张泽伟。他向我们展示了他自己的“数字孪生”，以及迭代后的换脸技术。

在屏幕前，张泽伟向记者演示了一番，遮挡摄像头、捏脸和捅鼻子等方法，已经不能鉴别AI换脸。但是他认为，“科技在不断发展，这些科技漏洞都是会被修复和弥补的”。

今年清明节前，有北京和云南的养老产业和殡葬产业公司找到张泽伟，他们计划在老人群体中推广AI定制服务。“把每个老人的形象，数据化做成数字分身。比如说墓地上有一个二维码，未来只要过来祭奠，你扫一下，他的数字人形象就会出现。”

过去的半年，他的团队接到了1500多条诉求，履约完成了600多条“复活”“疗愈”和“数字孪生”的客户订单。还有明星向他提出了“AI爆改”的合作，一时间他也成了AI红人。

关于可能存在的商业风险和争议，他们有着自己的运作防范机制。“已经离开的人，他是没办法进行授权的。我们的宗旨，只要有直系亲属的签字或者同意，我们都可以去给他制作。如果他是在世的，那肯定是要本人授权的。另外，合同里或者协议里直接写清楚，这个东西你不能去用任何违法违规的事情。”

张伟泽的终极目标是做真正的“数字永生”。对于可能存在的风险，他持乐观态度。“科技是永远不会停下脚步的，它既然一直要往前发展，那你还不如去早点去顺应这个发展的趋势。”

复旦大学教授 上海市数据科学重点实验室主任 肖仰华

复旦大学肖仰华教授，上海市数据科学重点实验室主任，他是国内AI研究领域的一线专家。在他看来，意识编码上传、人类的数字永生眼下还是遥远的科幻；不过，当下“复活”已故亲人的技术并不复杂。“它本质上是在大模型强大算力基础上，结合亲人的某一些语音和视频片段，能够比较逼真地进行模拟，仅此而已。”

肖教授认为，“数字孪生”和照片、视频一样，都可以缅怀亲人，不过，AI“复活术”带来的法律、伦理问题必须警醒，未来“数字孪生”和“AI复活”“数字永生”的边界最好提前划定。

“追忆、怀念、纪念我们的亲人，这个初衷是好的。但是一定程度上，这也是AI技术在干涉我们非常传统的伦理生活。它是否有可能将我们对亲人的怀念变成了一种执念？事实上，技术应该是有所为、有所不为的。”

目前，AI领域新产品、新技术、新突破层出不穷。在他看来，如何监管、立法，在安全的前提下使用AI，是快速发展中必须规范的。虚实难辨的AI换脸技术很容易滋生低成本的诈骗案件。

“AI生成能力已经做到以假乱真，所以这种虚假信息、虚假新闻、虚假视频的泛滥，可能是我们要面对的，非常重要的AI治理、社会治理的问题。对于这种AI生成能力的提供方要进行规范，比如说要主动在AI生成内容里面加上‘AI生成’的标识，以防我们的普通民众被误导，所以这些都是我们应该积极去推动的举措。”

连尚网络AI工作室负责人程翰（左）和同事

程翰是连尚网络的AI研发带头人。投身AI开发后，程翰在新应用上马之前，一定要到法务部咨询细节，避免法律风险和商业损失。“当我们创造了这样一个智能体之后，它的行为和选择是要偏向人类的，要按照我们社会的价值观和基本的社会道德去处理所有的问题，否则它就是对人类有害的。”

人工智能高速突破技术边界的同时，也把从业者和受众带到了法规、监管暂未完全覆盖的领域。目前，全球范围内对AI的监管已经进入立法和执法阶段，我国AI行业可以遵循的个人信息法规政策有181项。2023年8月15日起施行的《生成式人工智能服务管理暂行办法》鼓励生成式人工智能创新应用的同时，也对AI领域的合法权益和义务做了明确规定，其中第二章、第四章对个人信息、个人隐私都有清晰的论述。2023年11月，人工智能安全峰会举行，包括中国、欧盟在内的参会方签署了《布莱切利宣言》。

2024年，AI前沿的技术更新周期从年缩短到月，甚至周。由于AI拥有能够操纵内容或生成欺骗性内容的能力，可能存在无法预料的风险，肖仰华教授认为，我们在发展的同时，必须清醒认识到解决这些问题的必要性和紧迫性。

“AI作为一种先进生产力，它的到来是具有不可阻挡的趋势，很有可能随着AGI（通用型人工智能）的发展，我们人类社会会进入新的一轮技术革命浪潮，这波浪潮可能已然袭来。”

在发展新质生产力的路上，我们必然倚重人工智能。未来，类似AI“复活术”引发的预警还会出现。怎么保障科技安全，避免技术滥用？面对新风险，适应性的立法监管、伦理规范需要加快更新步伐。

肖仰华教授建议，在立法规范的同时，要让更多人学习、使用AI。“建议从应用开始，从我们日常生活开始，融入AI，使用AI，拥抱AI，然后了解AI，但是这个也要端正心态，要对未来可能面临的一些冲击做好准备。”