“广州限制外卖配送”谣言竟是AI生成,公安部网络谣言典型案例“AI谣言”占四成

南方+ 记者

4月12日,公安部公布10起打击整治网络谣言违法犯罪典型案例。其中,广东公安机关查处编造“广州限制外卖配送”谣言案中,6人被采取刑事强制措施。据悉,2023年12月19日,有网民在网络平台发布“广州即将成为全国首个限制外卖配送的城市”,迅速引发关注形成网络热搜。经查,四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员,使用人工智能工具批量生成不实文章进行引流牟利。叶某英为吸引眼球编造发布上述谣言,扰乱社会正常秩序。广东广州公安机关已对杨某、叶某英等6名人员采取刑事强制措施。

如图

4月12日,公安部公布多起“AI谣言”典型案例,6人造谣“广州限制外卖配送”被采取刑事强制措施。

据南方+记者了解到,2023年11月15日,广州交警发布《广州市人民政府关于电动自行车通行管理措施的通告》,随后相关谣言开始出现,广州市市场监督管理局第一时间进行了辟谣,明确指出“这些信息严重不实,恶意曲解广州电动自行车限行新规,误导民众,引发不良社会影响。”

值得注意的是,除了“广州限制外卖配送”谣言案系人工智能(AI)生成外,公安部此次公布的10起典型案例中,还有3起案件涉及使用AI造谣。湖南公安机关查处人工智能工具编造“民警离职潮”谣言案,涉案人被行政处罚。江西公安机关查处一起MCN机构使用人工智能工具造谣案,对涉案人处以行政拘留5日,责令涉案MCN机构停业整改。重庆公安机关查处一起使用人工智能工具编造“爆炸事故”谣言案。重庆网民康某余为引流牟利,使用人工智能工具编造虚假信息后在今日头条平台发布,重庆公安机关已对康某余处以行政拘留3日。“广州限制外卖配送”谣言案,也是4起案件中唯一对涉案人采取刑事强制措施的案件。

近年来,在互联网技术和产业快速发展的背景下,受“流量经济”刺激,网络谣言的内容广度、传播速度、更新频率、影响范围及社会危害性等显著增强。公安部党委决定将2024年作为打击整治网络谣言专项行动年,部署全国公安机关开展为期一年的专项行动,打防管控一体推进,持续加大全链条、全平台、全领域打击力度。据悉,去年12月公安部部署全国公安机关统一开展打击整治网络谣言专项行动以来,截至目前,累计侦办网络谣言类案件1万余起,抓获犯罪嫌疑人1500余名,行政处罚10700余人,打击整治网络谣言专项行动取得阶段性成效。

与此同时,人工智能AI等新技术降低造谣成本,一些不法分子利用新技术一键生成虚假信息,也增加了治理难度。2023年,最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定,对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形,依法从重处罚。

中国政法大学传播法研究中心副主任朱巍对南方+记者表示,随着人工智能工具日渐普及,用“AI”降低造谣成本、引流牟利的不法现象日趋增多。公安机关加大对相关案件的打击力度,体现了对“AI造谣”的坚决整治态度。此次广东警方对“广州限制外卖配送”谣言案中涉案人采取刑事强制措施,或将成为打击治理“AI造谣”的样板案例,将对不法分子起到有力震慑作用。

南方+记者 叶丹

编辑 欧旭江
+1
您已点过

订阅后可查看全文(剩余80%)

更多精彩内容请进入频道查看

还没看够?打开南方+看看吧
立即打开