“一天造谣7000条”,人工智能技术不能这么用

发布时间:2024-12-23 06:52:14 来源: sp20241223

  “西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息,竟都是利用AI软件炮制的谣言——据央视新闻报道,近日,一些不法分子为赚取平台流量补贴,实现流量变现,利用AI合成技术编造谣言,严重扰乱社会秩序。多地警方对相关责任人进行了行政处罚,并封禁其网络账号。

  与以往靠自身发挥想象力杜撰“小作文”不同,如今利用AI造谣的门槛和成本更低。只需要输入关键词,AI软件就能自动在网络上抓取素材生成文本,再配上貌似和事件具有相关性的虚假图片,一条图文并茂、“有图有真相”的谣言就诞生了。

  可怕的是,这一过程基本不需要人的参与,就可实现谣言的批量生产。比如,发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,每天收入在1万元以上,而公司实际控制人王某某经营着5家这样的机构,运营账号达842个,这一数字触目惊心,令人十分不安。

  造谣难度降低了,其产生的负面影响陡然增大。AI造谣能生成极为逼真的图片、音视频,这就颠覆了“有图有真相”的常规认知,蛊惑性极强。以新闻报道的口吻生成所谓的“突发新闻”,再配上耸人听闻的标题,短时间内就能快速传播,让不明真相的民众轻信,易引发社会恐慌,扰乱社会公共秩序,对社会信息生态造成极大的破坏,而相关部门的查证、辟谣则要浪费大量的社会资源。

  造谣、发布、扩散,说到底,是有人看到这背后有利可图。在警方查获的数起造谣案件中,当事人将虚假消息发布在平台,平台会根据文章的点赞数和阅读量支付相应的报酬。在这一规则的刺激下,不法分子利用AI技术“加持”,追求谣言更逼真、内容更猎奇、传播更快更广,博取更多眼球,从而牟取流量带来的巨大经济利益。

  刺破不法流量经济的美梦,需要法律利刃出鞘。一些人奉行流量至上,心中既无法律观念,也无道德底线,甚至把冲撞法律红线的行为当成流量密码、炫耀资本。网络并非法外之地,在互联网造谣情节严重的,将被依法追究法律责任,这应该成为悬在每个网民头上的警钟。同时,惩处造谣的力度也要再有力一些,让造谣成本再大一些。

  谣言通过平台发布传播,平台理应负起主体责任。作为具有技术优势的一方,平台要在内容甄别、阻断谣言、防止扩散方面积极主动作为。现有的内容监管机制还有哪些漏洞、分成机制是否合理、处罚措施是否完善,这些都应该成为平台查漏补缺的重点。对于造谣者,该警示警示,该截流截流,该封号封号,让毒流量“利尽而断”。

  造谣手段在迭代,相关治理也要使出“加强版”新招儿。监管部门对网络谣言的出击一直在持续。面对AI技术生成的新型谣言,执法监管要利用技术赋能,让识别谣言的精准度更高、阻击速度更快、打击力度更强,斩断造谣背后的黑灰产业链,营造清朗网络空间。 【编辑:刘阳禾】