千笔楼|当网络谣言遇上AI……(组图)

发布时间:2024-06-06 17:25 | 来源:新华网 2024 05/27 15:54:28 | 查看:99次

  

  “广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”“甘肃红十字会收取160万元暖手袋管理费”……这些所谓“有图有视有真相”的重磅“消息”,曾在网上广泛传播,引起大量网民关注。

  令人大跌眼镜的是,警方事后的调查发现,这些耸人听闻的“消息”,是不法分子使用AI制作的网络谣言!尽管警方紧急辟谣、澄清事实,可谣言已经领跑真相一大截,让很多人信以为真,给当事方带来极大困扰。

  AI加持下的互联网,给人们生活场景的丰富、生产效率的提升带来了全新机遇。但当谣言披上AI的外衣时,谣言和真相更难辨认,造谣的门槛和成本极大降低,传播的效率和产生的影响成倍增加,成为亟需治理的一道网络新课题。

  近日,多地警方通报了一批利用AI造谣的典型案例。

  去年12月,甘肃积石山发生6.2级地震,张某某利用AI软件,编造了“甘肃红十字会采购暖手袋,收取160万元管理费”“甘肃执法队扣押救灾货车”等不实信息,并通过多个网络平台进行发布,对当地抗震救灾工作造成严重影响。

  今年2月,杜某利用AI技术,编造了“某著名女星命运多舛、含恨离世”的短视频,上传网络后引起广泛传播,严重影响了当事人的生活和声誉。

  一份近期审结案件的材料显示,不法分子利用AI技术,以热点新闻和随机网络视频为素材,短时间内就制作出约1万条虚假视频新闻,其中发布出去的20多条视频,涉及多个省份,浏览量超过百万。

  清华大学新闻与传播学院新媒体研究中心今年4月发布的一份报告显示,经济领域已成AI谣言的高发地,餐饮外卖、快递配送等民生行业是AI谣言的重灾区。

  当网络谣言遇上AI,后者低成本、高效率、操作简单的特点,使谣言视频的批量化生产成为可能。AI谣言的视频形态,也契合了部分网民“有图有视频就有真相”的认知,使得AI谣言常常一经上网,就能迅速传播。

  从查获的典型案例来看,“吸睛引流”“变现牟利”等,是不法分子屡屡提及的高频词。

  自媒体时代,“注意力经济”为很多人提供了发家致富的机遇。但一些人信奉“流量至上”,为了流量,什么技术都敢用、什么手段都敢使,甚至把冲撞道德底线、践踏法律红线当作“流量密码”,猎奇、八卦、低俗、编造假新闻等等,都成为追求流量的工具。

  AI造谣更衍生出一条条黑灰产业链。

  去年国庆假期,“4岁女童海边走失”发生后,上海警方发现十余个散布“走失女童曾被丢弃”等虚假信息的自媒体账号,并在进一步侦查中打掉一个“水军”团伙。该团伙借助AI技术,批量制造不实帖文,大量转发炒作,非法获利4万余元。

  前述清华大学的研究报告,以80余件涉AI谣言案例进行统计,发现涉案所受处理当中,占比最大的是行政处罚,包括罚款和行政拘留,约占一半;而实施刑事拘留和判刑的,不足两成;其余则是封禁账号、信息清理、批评教育等。

  同谣言造成的破坏相比,不少网友认为,惩处造谣的力度还不够刚硬。只有进一步完善法律法规,实施更强有力的惩处,才能发挥震慑作用,遏制AI谣言黑灰产业蔓延势头。

  AI谣言传播的相关网络平台,也不能忘记平台的主体责任。加大人力、财力、技术等多方面投入,在内容甄别、谣言拦截、防止扩散等方面展现更多主动作为,坚决阻断谣言传播链条,切实肩负起社会责任。

  走好群众路线,发动广大网友,激发网友参与举报AI谣言的热情,共同筑起防范AI谣言传播的铜墙铁壁。

  唯有如此,AI这种新生产工具才能扬长避短,不为谣言生产、传播助纣为虐,而为社会发展进步贡献更多正向力量。

  监制:令伟家

  终审:何莉、杨侠、安涛

  文字:鲁畅

  题图漫画:潘红宇

  编辑:李代祥、缪异星、刘雅萱、李茜、李昂



用户名:验证码:点击我更换图片                *如果看不清验证码,请点击验证码更新。