从几元到几万元 AI“复活”惊成产业链

羊城晚报记者 詹淑真 n#"N"6s  
k<QZ_*x}G  
近日，“AI复活亲人”的话题成为社会关注热点。知名音乐人包小柏运用AI技术“复活”已去世的女儿、男子用AI“复活”病故父亲哄高龄奶奶等案例，让不少网友直呼“这才是AI存在的意义”。但随着越来越多人用AI“复活”逝去的乔任梁、李玟、高以翔等公众人物时，也引发了诸多争议。尽管AI“复活”亲人为人们提供了情感慰藉的渠道，但其背后隐藏着隐私泄露、侵权、诈骗等诸多风险。羊城晚报记者注意到，网上关于AI“复活”的生意已有不少，价位从几元到几万元不等，如何看待“AI复活亲人”已成产业链？其背后有哪些法律风险？相关法律或者管理应如何跟上？普通人又该如何防范AI诈骗风险？ e_3($pj  
EWK?vs  
一搜一大片 AI“复活”成产业链？ Zr|z!S?aSC  
&h'NC%
"v  
在当下，用AI复活亲人的案例越来越多。一些个人或机构甚至以此为卖点，形成相应的灰色产业链。 M~Ph/  
MwTouEGGgA  
3月18日，羊城晚报记者以“AI复活”的关键词在多个社交平台和购物软件上尝试搜索，发现能轻易地搜索到诸多相关店铺。比如在淘宝上，就有商家提供让老照片动起来开口说话、声音及形象再现、实现语音互动、真人复刻等差异化服务，标价几元到几万元不等。一家店铺的AI制作流程显示需要五个步骤，分别是沟通用户需求、提供照片及声音、策划逝者文案、等待制作、发货验收。 P]<15l  
DT[WO_=  
在小红书上，有不少标有从事“AI复活亲人”相关内容的账号。一个简介标着“专注AI造梦、AI数字人定制、声音克隆、AI‘复活’亲人视频、明码标价”等信息的博主，吸引了三万多名粉丝。该店提供的AI数字人视频定制套餐介绍中，价格从99元到1499元。这名博主发布了多条AI视频，其中一条“用AI克隆技术将去世奶奶‘复活’了”的视频，尽管画面单一、AI复制的痕迹较为明显，但底下也有人询问如何收费、是否收徒等问题。 o|Kd\<rY  
bA02)?L  
此外，社交平台上还有不少人传授“AI复活亲人”的教程，以此赚取流量、卖课程、招收学徒等。 "] [u  
pz ~REsx  
“用AI技术简单‘复活’亲人并不难，只要有开源的技术就可以了。当然也需要训练模型的机器，以及一些时间投入。但想要实现逼真的效果，还是很有挑战性的。”计算机专业的王先生告诉记者。 Hd89./v`:  
Mt\.?V:  
被骗2亿港元！ “AI换脸”诈骗不断 `9mc+  
L17{W4  
用“AI复活”一搜一大片，“AI换脸”这么容易，也让人不得不担心由此可能带来的诈骗风险。 wOn*QO[  
8T}Dn\f  
羊城晚报记者注意到，在社交和购物平台上，有的商家就特别标识，让照片“开口说话”的AI数字人制作，可以用自己照片，也可以用别人照片。 h)h%y)1  
4MPR
  
实际上，AI技术应用门槛越来越低，近期多起“AI换脸”诈骗案例，就凸显了AI技术快速发展背后隐藏的风险。其中，香港警方近期披露的一起多人“AI换脸”诈骗案就令人咋舌，涉案金额高达2亿港元。该案件中，一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后转账多次。没想到，其他“参会人员”都是经过“AI换脸”后的诈骗人员。 k\Z@B!VAq  
Rgb&EnVW  
这也让更多人意识到，当前，使用AI的深伪技术能达到高还原度的换脸效果，再结合语音伪造技术，就能做到“造人”。种种案件的发生，意味着AI诈骗距离我们并不遥远。 =i:,")W7=  
{+jO/ZQu5  
有业内人士就提醒，当用户将逝去亲人的相关信息转发给商家进行“复活”的时候，也可能让各种隐私信息被非法收集、交易和利用，并形成相关的黑灰产业链。 4GG0jCNk  
}.N~jx0R  
有人用AI“复活”行骗 商家或平台是否要担责？ ()(^B}VK  
0 LQ%tn  
人们在享受AI技术红利的同时，应有所警惕和预判。科技的发展应该在保护个人权益、维护社会法治和确保伦理底线的前提下进行。“AI复活”技术的推广需要更多的监督和规范，从而防止技术被滥用的情况。 CS\8ej}y  
L|Bjw3K&D  
如何看待“AI复活亲人”相关照片或视频成为产业链？其中会有哪些法律风险？ w-P;E!gTt  
H?wf%0  
广东国鼎律师事务所高级合伙人廖建勋律师在接受羊城晚报记者采访时表示：“AI复活产业链的形成，其中一个风险在于涉嫌侵犯死者的人格权。死者的肖像权和名誉权也是受法律保护的。如果未经死者家属的同意，使用死者的肖像权来进行复活。在这种情况下，死者的家属可以提起相应的民事诉讼，要求相关的行为人承担民事责任。另外一个风险在于，有些人可能会刻意利用AI复活人像来进行诈骗活动。” EqF>=5*  
h.4FY<  
商家如果对死者进行“AI复活”，需要亲人提供相关关系证明吗？复活后的图像或视频，是否应加挂AI生成LOGO？对此，廖建勋提到，如果商家要从事类似的商业活动，首先需要行为人提供跟死者相关的亲属关系的基本证明材料。如果没有亲属证明材料，使用了逝者的肖像，有可能构成侵权。“我们认为，如果在一些平台去展示这些视频，或者是使用这个视频，应当在上面进行显著的标示，告诉人们这是属于AI人像。” `i)Pf WdBN  
iH>I
V0 <  
如果有犯罪分子利用“AI复活某人”行骗乃至犯罪，商家是否需要负责任？平台有无管理责任？ =?[:Nj636  
(CrP6]=  
“根据消费者权益保护法第44条规定和电子商务法的相关规定，如果商家明知道某些经营者是利用这种生成的AI人像在做经营活动，或是有可能从事犯罪活动，而不加制止、不采取相应措施的话，那么相关平台需要承担相应的民事连带责任。因此，对于平台而言，对利用AI生成的人像、复活的人像进行展示、宣传或者经营活动，它要尽到合理管理的注意义务。”廖建勋说道。 m;
{(U Z  
#Q$e%VJ(c1  
AI技术快速发展 法治建设该如何跟上？ C=8IQl[^e  
`*y%[J,I#  
那么，该如何识别视频是否由AI技术生成？ 3v>w$6  
@BMuov  
对于这一问题，计算机专业的王先生告诉记者：“能否识别AI生成的内容，也是业界关注的。”他表示，比如比较常用的一种办法是利用GAN（生成对抗神经网络）进行异常检测。GAN检测算法通过训练一个分类器来区分真实图像和合成图像，这有助于辨别AI生成的图片或视频。此外也可以通过视频时序一致性检测、数字特征分析、多模态分析等方式提高检测的准确性。“现在的情形，其实有点类似博弈——一方想要以假乱真，另一方需要练就火眼金睛。”王先生说道。 =F/EzS  
[7h/ 2La#  
廖建勋坦言，相对技术的快速发展，法律总是有一定的滞后性。“就目前而言，我们国家法律包括民法典的颁布，相应刑法的相关规定，对这方面民事活动的规范，相对比较完善。对于新技术而言，我们认为需要平台去履行监管义务，利用好技术为广大人民群众服务，而不能成为滋生犯罪的温床。同时，相关部门要对这类知识应用加大宣传，引导人们合理合法利用技术。” l`rO)7  
.s\_H,  
现阶段，利用AI人像进行诈骗活动的案例越来越多，普通人该如何防范诈骗风险？廖建勋建议，普通人碰到用视频进行诈骗活动的情景，涉及钱财，或是银行卡密码的情况下，一定要高度警惕。可以通过针对人像，进行一些特别问题的设置，来辨别这到底是AI人像，还是真实人像。 q+{yv  
[E)&dl_k  
新闻背景 [i8Ju  
"1%\Fil  
AI“复活”引争议 }%`f%/  
]e(\<R6Gf  
近日，“父亲希望AI复活乔任梁视频尽快下架”登上微博热搜。针对儿子肖像被侵权使用一事，乔任梁父亲表示，不能接受，希望对方尽快下架，“他们未征求我们同意，是我侄女刷到视频发给我的，这是在揭伤疤”。 <$Djags,F  
kJpr:4;@_  
在相关话题的评论区，有网友表示“这确实对至亲之人是一种伤害和冒犯了”，也有人提到“为了博点流量，也真是不择手段啊，都拿逝者搞上事情了”。此外，关于“AI技术会触及伦理道德逻辑，正在穿透法律底线，在犯法的边缘试探。支持制作者向逝去者家属公开道歉 并支付赔偿”“有人打着温情的名义，趁机做起AI推广、收费服务……AI技术被滥用，那些违规者不付出代价就离谱！这块儿空白什么时候补上？”等评论也获得了诸多点赞。 UL]zuW/  
(g0U v.*  
在“你接受用AI复活亲人吗”的话题下，江歌妈妈明确表达了自己的立场：“不接受！不接受！不接受！如果能‘复活’，也仅限于我亲自来做这件事！”“你们不懂我们，又凭什么为我们（我与女儿）作决定！” *r|Zbxf(  

[BKOK7QK|  
记者注意到，对于“AI复活”亲人，有些人表示欢迎态度，也有不少人较为谨慎。接受记者采访的贾女士就表示：“不能接受。首先，除了涉及肖像权、隐私权等法律风险，我觉得从生命伦理的角度也是不可接受的。接受AI复活技术，也就意味着我们不接受死亡本身。但正视、接受死亡应该是每个人都必须学会的一课，只有敬畏死亡及其带来的痛苦，我们才有可能更敬畏生命、敬畏当下的生活。” g"v6UZ\  
_*-b0}T   
事实上，“AI复活”引发的争议才刚展开，比如在伦理道德方面，逝者是否应该被“复活”就发人深思。有人认为，基于数据和算法生成的虚拟形象，可能加剧人们对于生死的模糊认知，导致一些人对死亡产生不切实际的幻想。此外，人们应当如何对待被“复活”的亲人？他们能拥有自主的意识吗？怎样的交流才是“健康”的状态？这一切又该如何向前发展？“AI复活亲人”引发的一系列争议，仍需要时间做出解答。