2024年03月11日

AI“复活”已故亲人服务火了

业内提醒须警惕背后存在的风险

制图/万显明

□楚天都市报极目新闻记者 康旭阳

如果能有一次和已故亲人再次对话的机会,你会有哪些想说的话?

近日,用AI技术“复活”已故亲人服务火了。极目新闻记者注意到,电商平台有不少店铺提供该项服务,价格在10元至数百元不等,只需提供一张照片和一段音频,就能让照片上已故的亲人开口说话。

不过业内人士提醒,AI“复活”已故亲人服务为人们提供了情感慰藉的新途径,但也要警惕背后可能存在的隐私泄露、侵权、诈骗等风险。

1

用AI技术“复活”已故亲人

近日,知名音乐人包小柏成功运用AI技术“复活”了已离世两年的女儿。“数字世界”里的女儿,不仅会唱歌跳舞,还能跟家人对话。

据悉,女儿因病去世后,包小柏开始钻研AI技术并攻读相关专业博士,用女儿生前的碳基资料进行重建,重现了女儿生前的动态。他感慨:“AI就是寄托思念的工具,也是一种对思念的表达方式。”

普通人有机会让已故的亲人“复活”吗?极目新闻记者在电商平台上看到,有不少店铺提供用AI技术“复活”已故亲人服务,价格在10元至数百元不等,有的还提供定制服务。

一家AI工作室的客服人员称,只需提供已故亲人的一张正面半身照、一段1分钟左右的音频,以及你想让亲人复述的文字内容,就能让照片上已故的亲人开口说话,并且面部也有表情动作,“最后的成品是一段视频,制作一般需要两天时间,只能说定制指定的文字内容,不支持和定制者聊天。”

还原度能达到多少?“还原难度主要在说话音色和习惯上,百分百还原肯定是不可能的,一般能达到70%。”上述客服人员介绍,方言的还原度要比普通话低一些,因为方言的发音习惯不一样,只能尽可能在音色上提高还原度,“可以先让身边的人录一段同样内容的方言音频,再让AI进行模仿。”

另一家店铺的客服则称,无法克隆和模拟声音,需要顾客自行提供一段配音,或根据顾客文字内容生成普通话配音,但普通话配音为AI模板,不能还原照片人物的音色、说话习惯。

2

背后存在侵权等法律风险

这一AI技术的新型应用,帮助不少网友实现了与已故亲人“再见一面”的心愿。极目新闻记者注意到,有店铺月销量已达到20多单,不少网友购买此项服务后评论道:“看到了逝去多年的亲人,泪流满面”“方言有点不像,还原度70%左右,但已经很好了”“对家人是很大的慰藉,希望未来能实现和亲人实时对话”……

“这种AI技术应用其实已经十分普遍,不过运用到让已故亲人‘开口说话’上确实很新奇。”天使投资人、资深人工智能专家郭涛向极目新闻记者解释道,AI技术已具备从图像和声音中提取特征、进行深度分析并生成新内容的能力,从技术角度看,这项服务实际就是利用深度学习、图像处理等技术,让静态的照片动起来,甚至能让照片里的人物“开口说话”。

郭涛认为,这种技术在一定程度上满足了人们对亲人的思念,会有一定的心理慰藉作用,但也引发了许多争议。毕竟,AI“复活”亲人提供的只是一种模拟的、虚拟的交互体验,可能会让人们沉浸在虚假的亲情中,无法面对现实,是否会导致某种程度的心理依赖和误导,值得深入探讨。

同时,河南泽瑾律师事务所主任付建认为,这种服务背后还可能存在不少安全隐患,也涉及隐私保护、数据安全以及服务质量的监管问题。如果未经授权就擅自使用AI技术“复活”他人,可能构成侵权行为。同时,如果这些服务提供者没有采取足够的安全措施,用户的照片和视频信息就有可能被泄露,被用于不法目的。“除了泄露隐私和侵权风险外,AI‘复活’亲人服务还可能涉及诈骗问题。”付建还提醒,一些不法分子可能会利用这一技术,制作虚假视频进行诈骗,损害消费者权益。

极目新闻记者注意到,在电商平台上,不少提供该项服务的店铺都在商品页面强调:只帮助缅怀亲人,不做人脸识别,也不做违法的内容。“我们不提供声音还原服务,就是担心利用AI技术克隆出完全一样的声音,生成出顾客需要的内容后,会被用于不法途径,传播虚假信息等。”一家店铺客服表示。

3

AI应用的发展需要规范和引导

“如何确保用户提供的个人信息不被滥用,如何保证服务的质量与效果,都需要有相应的法规和标准来加以规范。”付建认为。

北京社科院副研究员王鹏也表示,如今AI技术应用领域越来越广,需要多方规范才能更好地引导行业发展。首先,政府应制定和完善相关法律法规,明确AI技术的使用范围和限制,以及法律责任。其次,应建立独立的监管机构来监督AI技术的使用和开发,确保它们符合道德和法律要求。此外,公众教育和意识提升也非常重要,人们需要了解AI技术的潜力和风险,以作出明智选择。

“利用AI技术可以解决人们的思念问题,这也是科技发展的意义所在,但是AI技术应用要在法律允许的范围内探索,才能让人们的生活变得更加美好。”付建表示。

--> 2024-03-11 业内提醒须警惕背后存在的风险 4 4 楚天都市报 content_265981.html 1 AI“复活”已故亲人服务火了 /enpproperty-->