文 | 李咏瑾

最近，一条啼笑皆非的新闻登上热搜：有人制作高度逼真的“AI流浪汉进家门”发给亲人整蛊以测对方反应，受惊的亲人有的报警，有的通知物业整楼排查。好笑吗？并不好笑。民警提醒，此类行为若造成严重后果，将触犯法律红线，面临拘留罚款甚至刑事责任。

整个新闻最让人隐忧的地方在于，AI虚构的“泛真实场景”，已经让人不敢确认“眼见为实”了。大家如果将自己代入，当你某天面对日常生活中“平地起波澜”的视频，你应该投入怎样的情感去看待？相信，抑或“又是狼来了”？

无独有偶，最近全球互联网也掀起了一波真假难辨的内容狂欢：毫无违和感的“爱因斯坦走出高考考场接受采访”“毕加索在家门口的画室中被年轻老师大声批评”，以及“高速公路上的海绵宝宝驾车逃逸”，AI沉浸的真实感得到了极度的强化，这一系列场景好像就发生在我们身边。

这源于Open AI公司最近推出的视频生成AI模型Sora 2，其中一大创新即是允许用户将本人或授权对象的形象与声音嵌入视频中，引发了众多网友的创作热情。从动漫角色到真人图像，各种角色、各种风格应有尽有，看上去“已经可以手搓另一个平行宇宙了”。众多经典的影视形象乃至逝世名人，纷纷成为这波恶搞事件的主角，触发了全球多个影视制作公司的版权保护，也引发了一些名人家属的反感和抵制。

随着AI不断飞速发展，其“双刃剑效应”正不断显现。一方面，它从技术层面突破了创作的限制、降低了参与的门槛，激活了一系列创新创意产业链条，将互联网“人人创作、人人传播”的内容生产模式整体提升到一个极高的水平。与先贤坐而论道、与冒险家征服自然奇观、化身为宇航员奔向太空、甚至与远方的朋友或逝去的亲人漫步在同一片星空下……AI技术将指引你突破时空甚至生命的界限，奔向遥远的无垠的想象力空间。

但从另一方面来说，AI创作由文字到图形、再到视频，其饱受诟病的虚构“幻觉”正不断“污染”着活跃的网络信息源，并且现在由众多网友参与的恶搞生活类AI视频，更是为网络信息传播人为增添了更多的虚假信息。当网络上的文字、图片乃至亲人发来的家庭视频都有可能是由AI伪造，AI“幻觉”事实上在日益扩大，正在一步步产生、替换、嵌入我们生活中原本真实可信的整体要素，将网络交流日益拖入信息混乱的漩涡。

今天，当老人和孩子看到“猫会骑摩托AI版”信以为真时，自诩见多识广的成年人当然能付之一笑，但是当你看到目前更加真实的“生活场景嵌入式AI”，比如“流浪汉进家门”时，估计也会陷入深深的迷惑和不适，而这样的场景如果不加限制、渐渐增多，届时，与“信息茧房”类似的“虚假樊笼”将逐渐产生，并不断强化，直至“最终闭合”。

不妨以此类推，如果以后AI与全息投影进一步融合，甚至能在你面前构建出肉眼可见的虚构奇观；如果AI与全息投影、即时3D打印再更进一步融合，甚至能逼真地影响到你的触觉。如果不对此类虚假信息传播加以限制，任由其打着恶搞、狂欢的旗号渐成风潮，我们的眼睛与大脑将逐渐丧失对周遭信息的真实判断力，当“真实”由他人随意篡改涂抹，生活的“镜像”逐渐扭曲变形，“楚门的世界”还会远吗？

话题再度回归到AI创作的伦理规范必要性。AI善于虚构的“幻觉”特质既是其创造力的源泉，也可能成为信息生态的隐患，如何释放其创新潜能，同时又为使用者划分合理的创作边界？今年9月1日，《人工智能生成合成内容标识办法》正式实施，明确要求人工智能生成合成内容应加以标识。而“编造、故意传播虚假信息罪‌”早已由《刑法修正案》增设，将社交平台虚假信息传播行为由治安处罚升级为刑事犯罪。这一系列法律法规的设立，正为AI创作构建“创新与规范并行”的法治框架。

从更深层次看，这也是在数字文明进程中重建“真实性契约”，为智能时代的知识生产和文化创新奠定至关重要的信任基石，从而让AI成为真正推动文明进步的建设性力量。

---

大家点评：

AI技术飞速发展，其生成内容越来越逼真，如何保证AI内容可信日益重要，而AI幻觉仍是当前面临的难题，亟待新的突破。

——中国科学技术大学教授、博士生导师，安徽省高性能计算重点实验室主任 李永坤