在数字化浪潮席卷全球的今天

人工智能（AI）已逐渐渗透到

我们生活的方方面面

智能助手、自动驾驶、医疗诊断……

AI的每一次进步

都激起人们对未来生活的期待

然而

当人们还在探讨

AI还会给生活带来哪些便利的时候

殊不知

有人已经开始利用AI干坏事了

别信！

这些谣言是AI写的！

近年来，在人工智能技术和产业快速发展的背景下，受“流量经济”刺激，“AI生成谣言”现象日渐增多，其内容广度、传播速度、更新频率、影响范围及社会危害性等显著增强，对个人生活、社会秩序以及企业的正常经营产生了多重影响。

“未来两年时间内，虚假或错误信息将对全球构成重大威胁。”世界经济论坛公布的《2024年全球风险报告》指出，由AI产生的错误和虚假信息正在成为一种风险。对于这种风险的担忧来自现实，利用AI编造谣言的情况正在全球上演，我国也不例外。

日前，公安部公布10起打击整治网络谣言违法犯罪典型案例。其中，广东公安机关查处编造“广州限制外卖配送”谣言案中，6人被采取刑事强制措施。

2023年12月19日，有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”的信息，迅速引发关注形成网络热搜。经查，四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，使用人工智能工具批量生成不实文章进行引流牟利。叶某英为吸引眼球编造发布上述谣言，扰乱社会正常秩序。

除了“广州限制外卖配送”谣言案系人工智能（AI）生成外，公安部此次公布的10起典型案例中，还有3起案件涉及使用AI造谣。

·湖南公安机关查处人工智能工具编造“民警离职潮”谣言案，涉案人被行政处罚。

·江西公安机关查处一起MCN机构使用人工智能工具造谣案，该平台发布“某市2024年1月10日发生爆炸导致建筑、车辆炸毁、人员伤亡”“某公司的转基因试验证实转基因玉米致1000只小白鼠全部死亡”等多条谣言信息。目前，已对涉案人处以行政拘留5日，责令涉案MCN机构停业整改。

·重庆公安机关查处一起使用人工智能工具编造“爆炸事故”谣言案，重庆网民康某余为引流牟利，使用人工智能工具编造虚假信息后在今日头条平台发布。

清华大学新闻与传播学院新媒体研究中心发布的《揭秘AI谣言：传播路径与治理策略全解析》研究报告指出，2023年以来，伴随AIGC技术的高速发展，一些造谣者不当利用AI工具，使得AI谣言量高速增长，近半年信息量增长65%。

其中，餐饮外卖、快递配送等民生行业成为经济与企业类AI谣言重灾区，相关谣言数量、种类繁多。自2023年1月份以来，在经济与企业类AI谣言中， 该类谣言占比达45.39%。根据“AI谣言的综合社会影响力”列出了十大典型案例，科大讯飞、美团等企业均曾受到攻击。

涉企AI谣言的常见形态，是结合企业负面新闻，用“东拼西凑、旧闻新炒、夸大事实、真假参半、移花接木”等手段，在AI工具的辅助下炮制谣言，恶意抹黑企业形象、曲解相关经济政策。AI的不当应用放大了涉企谣言对民营经济发展舆论环境的破坏性，也加剧了治理难度。

警惕！

AI人工智能洗稿成产业链

一条自媒体发布的不实信息，为什么经过官方辟谣后谣言还在大量传播，甚至愈演愈烈，这背后到底是怎么回事？

据查，AI谣言的背后，是一条涉及网络水军、非法出版商、“黑公关”等多方的黑产利益链，目的是为了获取流量和广告收入，甚至是诱导消费、影响商业竞争等操纵社会情绪等。

为在自媒体账号上发布文章博流量，不少用户会用到了专门的AI写稿软件。以“西安市鄠邑区管道破裂”谣言案为例，涉案的一款名为“翠绿笔墨”的写稿软件，一天能生成19万篇文章，7天能达到上百万篇。

发布者需要从一家专门售卖新闻稿件的网络平台上，购买大量的真实新闻稿件，形成稿池。接下来，注册用户就可以根据各自的需求，自动生成一篇篇的文稿。

软件会从大量的在平台购买的社会热点新闻里，根据用户的需求抓取热点比较高的文章，用AI把这些文章进行拼凑、前后段落颠倒、同义词替换，产生一篇同质的反映同一件事情的不同类型的文章。

为了规避监管，不引发风险，这款软件在抓取社会热点文章时，还专门设计了关键词筛选的功能，会规避一些涉政、涉案件、涉暴恐的文章。

打击！

相关政策措施陆续出台

专家表示，使用AI造谣造假，我国近年来陆续出台了相关政策，保障群众及企业利益。

2023年1月正式实施的《互联网信息服务深度合成管理规定》（以下简称《规定》）明确，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息；深度合成服务提供者提供智能对话、智能写作等模拟自然人进行文本的生成或者编辑，合成人声、仿声等语音生成或者显著改变个人身份特征的编辑，人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑等深度合成服务时，可能导致公众混淆或者误认的，应当在生成或者编辑信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

同年8月施行的《生成式人工智能服务管理暂行办法》（以下简称《办法》）也规定，提供者应当按照《规定》对图片、视频等生成内容进行标识。同时，《办法》规定，“提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务”。

专家表示，法律上AI服务的提供者有对生成内容进行标识的要求，我国也正在抓紧进行相应的执法、标准等配套工作。国家从技术规范方式做好标识要求，实际上一定程度能从源头上防止造假、谣言问题。

安全上网做好三点防范

科学技术是把“双刃剑”，AI技术也不例外。我们在积极拥抱新技术、新事物的同时，也要注意规避其中潜在的问题和风险。

在政府对利用AI造谣者积极亮剑、加强对AI服务提供者监管的同时，公众个人在网络空间也需提高警惕，做到以下几点：

1. 在上网浏览信息时要保持对信息来源的警惕性，尽量选择权威、可信赖的媒体或机构作为信息来源；

2. 要注意网络新闻信息的逻辑性，如果发现一条新闻信息在逻辑上存在明显的漏洞或矛盾，它很可能是经过篡改或杜撰的；

3. 切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时，可以先进行核实或者等待官方消息发布后再作判断。

让我们共同打造，

风清气正的网络空间，

不让AI成为造谣者的“帮凶”！