AI“复活”亲人大火,有温情也有担忧

南方探针
+订阅

清明前的两周,阿彭在一家网店下单“复活”了自己的丈夫。

电影《流浪地球2》中图恒宇用数字生命技术“复活”女儿丫丫的桥段令人印象深刻。而自生成式AI技术兴起以来,用AI复活逝去的人已经日益普遍,并且形成了产业链。在电商平台上,用AI“复活”亲人已成为一门生意,一单最低只需要5元。

不过,AI技术的发展在带来温情的同时,也引发了伦理和法律的相关争议。4月3日,抖音发布清明期间内容创作提醒,应慎用AI“复活”技术,未经逝者生前同意或逝者家属授权,请勿利用AI或其他技术手段“复活”逝者。

电商平台上有大量售卖AI“复活”的链接

电商平台上有大量售卖AI“复活”的链接

AI“复活”亲人最低只需5元

阿彭的丈夫几年前因为意外去世,最近她在短视频上刷到了很多AI技术“复活”亲人的新闻,抱着尝试的想法她向网店客服上传了丈夫生前的照片。20元的订单只够生成一段简短的视频,但也足够给她慰藉。

等到商家把制作好的视频发给她的时候,她的泪水在眼眶打转。在商品评价里,阿彭写道:“真的非常感动和开心!感谢店家的用心制作。”

AI“复活”亲人的新闻在近年来已不鲜见。不久前,音乐人包晓柏用AI“复活”女儿的新闻引发热议。在AI技术的加持下,他离世的女儿重新出现在电脑上、手机里,能唱歌跳舞,且能用生动的声音和父母对话。

在商汤2024年年会上,创始人汤晓鸥数字人现身,还来了一场演讲,且数字人的演讲风格与真人生前的演讲风格非常像。

去年4月,有位B站UP主就曾用AI工具生成了奶奶的虚拟数字人。视频中,数字人“奶奶”讲着流利的湖北方言与UP主对话。

B站某up主用AI技术“复活”奶奶

B站某up主用AI技术“复活”奶奶

随着生成式AI的进步,目前电商平台上也有越来越多在做AI“复活”生意的商家,标价从几元、几十元,到上百元不等。其中不少链接已有超过500人购买,其中不少都是在清明前夕新增加的订单。

但是,大多数店铺的商品都比较简单,只是单纯让照片动起来。有商家表示,定价是根据照片的难易程度决定的。如果要加声音,则需要额外加钱,需要制作可以实时互动的“数字人”,则需要更高的价格。

有从事AI行业的人士告诉记者,这种网店售卖的AI“复活”并不需要特别高的技术门槛,用Pika等现成的AI工具就可以做到。

然而想要成更加生动的AI形象,不仅需要大量的影像和声音资料,还需要用AI工具反复模仿训练才能形成。然而即使这样,生成的也只是一个虚拟形象,离数字生命的定义相去甚远。

争议:新技术带来伦理与法律难题

AI“复活”,从诞生以来一直都饱受争议。

有观点认为,通过AI技术还原亲人生前的形象,见逝者“最后一面”,让人们对亲人的思念有了合理的寄托。

也有人认为,通过AI生成的亲人形象终究是虚假的,反而会让失去亲人的人更难从悲伤中走出来。在社交平台上,也有网友指责售卖AI“复活”服务的商家是“吃人血馒头”“揭伤疤”。

李玟家属喊话要求下架AI换脸视频

李玟家属喊话要求下架AI换脸视频

比起伦理问题,未经允许通过生成式AI制作他人的虚拟形象,也极有可能涉及法律风险。

近日,有网友用AI技术“复活”了已经去世的公众人物李玟、乔任梁、高以翔等,并在网络上发布动态视频引发大众争议。

随后,乔任梁的父亲接连喊话网友删除,并在接受媒体采访时表示其侵犯了儿子的肖像权,不能接受,感到不舒适,希望对方尽快下架。

《民法典》第994条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶子女父母有权依法请求行为人承担民事责任。

深伪技术的普及同时也让AI诈骗随之兴起。相比于传统的诈骗手段,用AI“深度伪造”换脸的诈骗手段更难识别,危害也更大。

不少知名明星与跨国公司相继成为AI“深度伪造”的受害者。今年1月底,明星泰勒·斯威夫特(Taylor Swift)大量虚假“不雅照片”在社交平台上传播,甚至惊动了美国白宫。

明星成为AI换脸技术的主要受害者

明星成为AI换脸技术的主要受害者

2月4日,有诈骗集团利用AI“深度伪造”技术向一家跨国公司的香港分公司实施诈骗,并成功骗走2亿港元,这也是香港迄今为止损失最大的“换脸”案例。

香港破获一起2亿港元AI深伪技术诈骗

香港破获一起2亿港元AI深伪技术诈骗

新技术的使用为人们怀念亲人提供了便利,然而在温情之外,如何为未来的“数字生命”构建伦理与法律的边界,仍然有待思考。

南方+ 记者 吴扬

编辑 刘婷婷
校对 胡柔群
+1
您已点过

订阅后可查看全文(剩余80%)

更多精彩内容请进入频道查看

还没看够?打开南方+看看吧
立即打开