【开栏语】

“AI换脸”这门生意，到底“刑不刑”？“自动驾驶”汽车出事故，谁来担责？用人工智能“搞创作”，著作权归谁？……即日起，“南方法治”《约法三章》栏目将升级为普法脱口秀栏目《这能“刑”吗？》，聚焦法治新闻热点，用最短时间带你抽丝剥茧，学习热点事件背后的法律知识点。开栏之初，我们将聚焦当下热门的人工智能相关话题推出系列节目，敬请关注！

AI换脸，生财新赛道？

【省流版】

1.当下，“AI换脸”技术已经被一些不法分子盯上，一旦成为色情、诈骗犯罪的工具，就很有“判头”。

2.有些生意看似“没那么刑”，但若未经被“换脸”自然人授权，实际也涉嫌侵权，可能承担道歉、赔偿等民事责任，比如“AI复活”。

3.日常生活中，建议别下载注册来源不明的软件，定期清理手机里的个人信息，保护好您的“脸面”。

【完整版】

“AI换脸”，可能很有“判头”。先来看三个真实的案例：

内蒙古包头警方通报的一起利用AI实施诈骗的案件中，张三通过AI换脸和拟声技术，佯装熟人实施诈骗，导致一受害者10分钟内被骗430万元。

山东警方公布的案例中，李四搜集他人个人信息，通过AI技术制作成“不雅视频”，精准发送给受害者，并以举报、散播、告知家属等方式要挟受害者“花钱消灾”。

浙江检察机关不久前披露的一起案件中，王五在网上收集他人提供的女明星或普通女性的生活照，通过AI技术“定制”淫秽视频和图片，甚至同时出售相关制作软件及使用教程。

仅在这三个案子中，这些不法分子就可能涉及诈骗罪、敲诈勒索罪、传播淫秽物品牟利罪和侵犯公民个人信息罪等罪名。

或许你要问，不碰这些涉黄、涉诈的行为不就好了？

其实，一些看似安全的行为背后也有法律风险。比如前不久，有商家用AI“复活”了李玟、高以翔等去世明星，无论是否以营利为目的，相关行为都已涉嫌侵权。根据民法典有关规定，这些技术的使用者可能面临停止侵害、消除影响、赔偿损失等民事责任。

电影《流浪地球2》中，科学家图恒宇用科技“复活”了因车祸去世的女儿。

随着深度合成、深度伪造等技术的快速发展，“换脸”“拟声”效果愈发逼真，但使用门槛却越来越低。此时此刻，这些教程、软件就在互联网上被悄悄兜售，买卖双方都可能“心怀鬼胎”——这也客观上导致AI技术加速向侵权、诈骗、色情等领域渗透。

在某电商平台输入“换脸”，会看到不少人出售相关软件包和教程。

怎么办？立法层面，需要给当下狂飙突进的AI技术划红线，踩刹车。

这些年，我国陆续出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等多项法规和政策，逐步明确了深度合成服务提供者、内容生产者和个人信息处理者等主体的责任义务和相关处罚措施。

更进一步的“AI法”也已经在路上。5月6日，国务院办公厅印发《国务院2024年度立法工作计划》，其中透露预备提请全国人大常委会审议人工智能法草案。

但不得不承认的是，规则的制定总是滞后于社会问题产生。

对此，执法监督部门正在加强对图像、声音伪造技术的反制研究，用魔法打败魔法。

比如，我国公安机关就联合国家重点实验室等单位，开展了人脸识别与活体检测技术安全测评，范围覆盖了通讯、直播、社交、电商等多类APP。

纵观与“AI换脸”相关的案件，会发现，个人信息泄露往往是犯罪的源头。

这就提醒我们，在网上冲浪时，要保护好自己的“脸面”，比如不下载注册来源不明的软件，定期清理手机里的个人信息等。

【统筹】祁雷 张梓望 杜玮淦

【文案】孟健 祁雷

【出镜】孟健

【摄影】梁钜聪

【剪辑】金镝

【设计】吴颖岚 谭唯