文|正解局

“大家好我们又见面了！”

2024年商汤科技年会上，公司创始人汤晓鸥这句问候，令在场所有人泪目又惊喜。

因为这个“汤晓鸥”并非真正的活人，而是用AI技术“复活”的“数字人”。

2023年年底，汤晓鸥在上海因病抢救无效去世，让无数熟悉他的人深感惋惜。

如今，“AI汤晓鸥”以如此生动的形式重返人间，不仅令人感受到科技进步的力量，更引发一股数字AI“复活”亲人的热潮。

其实，早在“AI汤晓鸥”之前，著名音乐人包小柏就利用AI技术复刻出“数字女儿”，不仅能用日常的音容和父母对话，还在她妈妈的生日宴献上一曲生日歌。

UP主@吴伍六也曾在网上分享了他AI“复活”奶奶的全过程，视频在网络引发巨大反响，不仅让人们找到缅怀逝者一种新的心灵寄托，也让很多人看到了商机。

UP主@吴伍六AI“复活”奶奶的视频截图

通过数字AI技术“复活”亲人，本质上是基于逝者生前留下的影像资料，借助神经网络、深度学习等AI算法，搭建出逝者的思维模型。

如今，“AI复活”的亲人技术，不仅在一定程度上缓解了人们对亲人的思念之情，同时也成为一条全新的产业链。

清明前夕，这项业务更是火爆异常。

在某电商平台上搜索“AI复活”，能看到不少相关店铺，但由于这个行业尚无统一的收费标准，价格和服务质量参差不齐。

一般来说，市面上的“AI复活”产品，根据成本高低、技术难度，主要分为三档。

某宝上展示的AI复活技术产品

最低档价格只有10元，客户只需提供一张亲人正面照片，准备50字左右的文字内容，半天之内即可收到一个“数字亲人”的短视频。

说白了，这些服务都是赚“信息差”的钱，商家几乎都是套用某些AI软件的“照片说话”项目批量作业。

由于照片质量以及各类AI软件技术等原因，这种低价的“亲人说话”视频不仅说话时五官变形严重，声音也极为生硬，实在“惨不忍睹”。

中档则是一种价格在百元左右的“AI换脸”项目。

这项服务特点就是“投机取巧”，在客户提供的照片、视频等资料基础上，利用AI换脸技术，套用真人模特替换被克隆者的形象和声音后生成，看上去倒也栩栩如生。

只是这种项目很考验技术，许多商家做出来的“换脸亲人”不仅脸型和动作脱节，表情也极为僵硬，经常出现身体在动，脸部却纹丝不动的恐怖画面。

最贵的，要数售价超千元的“数字人克隆”。

这种项目一般要求客户提供至少10秒的单人正脸视频、30秒无杂质的录音或语音内容，等待至少一周时间。

事实上，这种项目是借助更为成熟的AI捕捉技术，通过模型重塑一个与真人无异的“数字亲人”。

无论形象、声音还是动作表情，均可以假乱真，逼真度可达95%以上。

如果对这些项目还不满意，某些更为专业的AI网站已经宣称，可提供超万元的“豪华版数字人”服务。

数字克隆人网络图

这种技术其实与汤晓鸥和包小柏女儿的数字复活项目类似，主打的就是“不仅像，而且还有灵魂”。

事实上，人类一生产生的数据量其实并不大。

根据微软公司的研发信息显示，普通人一生可能产生的数据，只需约1TB的硬盘容量就够了。

这点数据处理量对于如今的AI来说，实在是“小菜一碟”。

此类项目核心就是尽可能多地采集克隆对象的一切信息资料，从而让AI通过算法分析和模拟出对方的性格、说话口气、思维习惯等信息。

请注意，我们提到的是“克隆对象”啊。

因为这种技术不只是用来复制死者，只要有足够的数据量，复制活人也没任何问题。

AI可以定制逝者，也能克隆活人

这就带来一个新的问题：AI复制出的“数字人”，相关的信息如何保护？

其实，大部分客户在网上定制“数字亲人”时，未必会注意到商家会在相关视频下标注“不做人脸识别，只做亲人怀念”的提醒语。

很多商家虽然接单时都会承诺“所有数据是严格保密的，不会用于不法途径或者网上进行二次传播”。

可这对于客户来说，只是一种心理安慰。

毕竟，网上商家不仅AI技术水平良莠不齐，也不乏心怀叵测之徒。

想想看，网上定制“AI亲人”，虽然是线上发货，可后台是可以看到客户详细电话和地址等信息的。

虽然大部分客户定制是为了缅怀逝去的亲人，可也有不少人是为了好玩去定制自己宝宝和其他家人的搞怪或祝福内容。

而且，为了更为逼真的效果，就需要尽可能多地提供相关的对话、视频和照片，甚至还可能在沟通时，说出更多家庭或个人隐私，从而带来不必要的风险。

虽然不能说从事“AI复活”的商家都会将资料拿去作不法用途，可想想这些年我们不知何时被泄露的家庭地址、电话信息，这些更为具体的视频与身份信息很难说不会被盗用。

任何时候，越高级的技术往往越是一把“双刃剑”，既可能给人们带来便利，也可能沦为犯罪分子使用的“新道具”。

自从生成式AI爆火，基于“AI换脸”的诈骗案件在过去一年层出不穷，有人甚至在短短10分钟内就被骗数百万元。

2023年5月，包头警方发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司的郭先生10分钟内被骗430万元。

这位人在包头的“好友”通过微信视频联系郭先生，因外地投标需要对公账户过账，所以想要借用郭先生公司的账户走账。

基于对“好友”的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了“好友”的银行卡上。

事后，郭先生才发现被骗。

对方通过“AI换脸”技术，佯装成好友对其进行了诈骗。

郭先生事后懊恼地说：“他当时是给我打了视频电话的，我在视频中也确认了面孔和声音，所以才放松了戒备。”

网上出现的利用AI换脸技术的新骗局

虽然包头和福州警方接警后立即行动，成功追回三百多万元，但还有近百万资金无法追回。

这还算是简单版的“AI换脸”骗局，更高级的诈骗能直接通过人工智能深伪（Deep Fake）技术诈骗上亿港元。

今年2月，香港警方就曾公布过一起案件：某跨国公司香港分行的财务，收到假冒该公司英国总部首席财务官的信息，邀请对方参与一个多人视频会议。

起初，这位财务对自己突然参加这么高级别的会议有些怀疑，可由于参与视频会议的成员容貌“与真实人士一样”，财务还是放松了警惕。

最终，他按照“总部领导”指示分15次汇款2亿港币（约1.84亿元人民币），转账至5个本地户口。

当报案人最终向总公司查询之后，才发现被骗。

据香港媒体报道，诈骗分子是利用了人工智能的深度伪造技术，从国外视听网站YouTube上下载视频，通过更为先进的Deepfake（深度伪造）技术模仿了相关人士的视频人像和声音，制造多人参与视频会议的假象。

事实上，整个会场其实只有这位香港财务是“真人”，其余都是“数字人“。

为了不露破绽，视频会议期间，对方采取了“直接下达命令”的方式，丝毫不给财务反应的时间。

这起案件涉及金额达2亿港元的诈骗案，不仅是香港历史上损失最惨重的“换脸”案例，也是国内目前涉及“AI换脸”案件被骗金额最高的案件。

香港警方除了同样提醒市民做好信息防范，还提醒一旦遇到此类可疑视频内容，可要求对方在镜头前作出指定动作，或在会议期间不断向对方提问来辨别真伪。

除了AI技术可能带来的骗局，AI涉足人类的生死之事，依然极具挑战。

日本电影《入殓师》中有一句台词：死可能是一道门，逝去并不是终结，而是超越。

电影《入殓师》剧照

可面对亲人的离世，我们大部分人都无法真正能有如此超脱的意识。

通过AI技术“复活”亲人，或许能满足亲友的不舍之情，但是也带来新的伦理挑战：AI“复活”的“人”是否能真正代表死者本人？

“即便模仿得再像，她也不爱我。”一位利用AI“复活”妻子的丈夫在网上悲切地说。

事实上，基于目前的技术条件，即便是价格不菲添加了所谓前世记忆的“数字亲人”，与我们想象中具有细腻情感要素的活人还是相差甚远，更无法真正替代已经离开这个世界的他（她）。

更值得关注的，是“AI复活”技术背后暴露出的法律和伦理问题。

要知道，技术是可以被任何人掌握的。

因此，理论上，任何离开这个世界的人，都有可能被人以不同方式“复活”。

但是，这种“复活”是不是都能被其亲人接受呢？

答案是否定的。

之前，许多视频博主未经李玟家属同意，利用AI技术“复活”李玟，擅自利用李玟肖像制作、发布“AI复活李玟”系列短视频，以温情之名非法牟利，备受争议。

这样的情况在很多已经离世的明星和名人身上都曾出现过，也毫无例外被其家属抗议和反对。

今年3月28日，李玟母亲委托律师对此发表声明，指出“AI复活李玟”系列内容已经给李玟母亲及其家人带来巨大心理冲击和二次伤害，警告涉嫌侵权责任人7日内下架、删除含有上述侵权内容的相关图片、视频及文章。

李玟母亲委托律师发布的律师函

事实上，根据《中华人民共和国民法典》等相关法律规定，死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。

因此，不要以为谁离开人世，就能随意通过“AI复活”来博取关注和流量。

这类未经死者家属授权的行为，同样会受到法律的严惩。

客观上说，无论是从伦理还是法律角度，当一个人离开了这个世界，并不代表他（她）在这个世界就可以被肆意描绘。

作为一种提供情绪价值的新式手段，“AI复活亲人”确实有一定市场和需求，但也必须看到，这种技术一旦被滥用，甚至沦为哗众取宠的工具，不仅会给死者家庭带来二次伤害，更是对死者最大的不公和侮辱。

为此，2023年欧盟出台了《人工智能法案》，将AI技术划分为“不可接受”、“高风险”、“中风险”和“低风险”四个管控等级。

2023年7月10日，中国也起草了《生成式人工智能服务管理办法》，不仅再次强调了保护个人隐私的重要性，也强调了不得含有违法和有违公序良俗的内容。

显然，国内外都已经意识到，“AI复活”会带来隐私、伦理等方面的社会隐患，必须及时进行防范。

不过，法律终归是道德的最低要求，AI技术异乎寻常的生长速度，必然会带来许多令人意想不到的伦理考验，监管依然面临各种难题。

在法律和伦理的交汇点上，我们需要更加谨慎地平衡技术发展与人类情感之间的关系，确保每一次“复活”都是对生命的尊重和对记忆的珍视。

只有这样，“AI复活亲人”才能真正成为人类情感世界中的一份宝贵财富，而不是一种对过去的侵犯。

同时，我们也希望更多的人可以坦然面对亲人的离世，将这份思念深埋心底。

如同我们熟悉的那段话：面对告别最好的态度，就是好好告别。