“张文宏是不是带货了？”近日，有网友发现账号名为“般画234”发布的视频中，“张文宏”正在售卖一种蛋白棒。然而，媒体调查发现，该视频中口型和声音像是张文宏，售卖行为却非本人。

懂点AI技术的人会发现，这是AI合成的视频。现在的科技，只要有一段张文宏正常说话的视频，再把你想要他说的话输入，AI一处理就能自动生成带货视频。但不了解的人会上当，根据网友发布的截图，该蛋白棒产品已售出了1266份。

通过AI技术合成视频来不法牟利，张文宏不是首个“躺枪”者。

今年国庆假期，短视频平台上出现了大量“雷军AI配音”的视频，这些恶搞视频在社交平台上的相关话题浏览量过亿。视频中，“雷军”锐评了堵车、调休、游戏等热门话题，言辞犀利，还常爆粗口。有网友调侃，“国庆上网被雷军骂了整整7天”。

今年11月，江西一位老人来到银行贷款200万元要给自己的男朋友“靳东”拍戏。这位老人在短视频平台上认识了“靳东”，“靳东”向老人表白并以拍戏缺少资金为由向老人索要200万。最终，在民警的耐心劝导下，老人才醒悟过来。

近年来，AI技术飞速发展，给生活带来更多惊喜和美好的同时，也带来不小的争议。在技术手段日益成熟的今天，几乎可以以假乱真的AI合成技术让普通人难以分辨真伪。利用AI生成虚假图片、视频编造谣言，颠倒黑白进行诈骗等一系列乱象，也让AI技术制造假信息成为了全球性问题。2024人工智能安全报告显示，2023年基于AI的深度伪造欺诈增长了3000%。

如何防范AI骗局？要从内外两方面入手。

首先要从自己出发，做好信息保护，提高警惕。不要泄露个人信息，尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，意味着AI算法参考的数据越多，生成的“数字人”会更真实。在涉及资金交易等场景下，需要多留心眼，不轻易相信视频、声音。很多时候，传统的识别方式要比技术识别更有效。例如，可以询问对方只有当事人之间知道答案的问题、共同经历的事情等。

其次，要通过立法给AI技术应用套上法律缰绳。当前，我国已出台了《中华人民共和国网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，但这对不断发展的AI技术应用手段来讲还不够完善。今年9月14日，国家网信办起草的《人工智能生成合成内容标识办法（征求意见稿）》，目前已完成社会意见征集。该办法出台后将进一步加强对AI生成技术的约束和规范，督促服务提供者和网络平台承担起应有的法律责任。

（大众新闻记者 修从涛）