视频 | 一天造谣几千篇 AI技术应用乱象如何整治？

近年来，利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知。近日，多地警方查处了利用AI软件炮制网络谣言的案件。比如，6月20日，上海市公安局城市轨道和公交总队就发布警情通报称：有营销人员使用AI技术，编造了“地铁行凶”的虚假视频，并发布到网上。

此前，“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等耸人听闻的“消息”，警方调查后发现，竟然也是一些MCN机构利用AI软件炮制的谣言。该MCN机构是通过具有语音交互功能的AI软件，生成大量与百姓生活密切相关的文章上传到多个网络平台，最高峰一天能生成4000至7000篇。而文章中加入了夸张故事情节、猎奇性成分，或编造不实信息，以此来获取网民关注度和点赞量，进而实现流量变现，公司实际控制人王某某短时间内获得了高额报酬。经查，王某某的行为构成传播谣言虚构事实扰乱公共秩序。王某某被依法处以行政拘留5日，责令涉案MCN机构停业整改。

而在重庆，公安机关也查处了一起个人利用AI软件造谣的案件。去年12月25日，一则“重庆巫溪一民房发生爆炸事故，4人不幸遇难，官方紧急介入调查”的消息在某网络平台上发布，短时间内这则所谓的“突发消息”获得了几万次的点击量。但警方核实后发现，该消息实为康某某为获取平台奖励，实现流量变现而利用AI文本生成软件制造的假新闻。

确实，这一两年来，AI造谣在全国多地频发，而且传播快、门槛低、迷惑性强。谣言为了以假乱真，通常还会采用新闻报道的语气，比如，“据报道”、“相关部门提醒”等字眼，让普通人信以为真。AI的介入使得信息的生成和传播速度大大加快，大幅提升了谣言的数量级和传播力，并且有可能通过社交平台实现“精准化”传播、“智能化”扩散。

近两年的AI谣言中，经济与企业类谣言占比最高，达43.71%；其中餐饮外卖、快递配送等行业也是AI谣言重灾区。这些行业都与老百姓的生活息息相关，造谣者通过虚假编造、博人眼球的文字往往能获取巨大点击量，为电商平台经营引流，甚至成了一门生意。在自媒体平台上，“AI自动写文章，一天100篇原创”之类的宣传文案已经广为流传，甚至成为了一门生意。以某平台为例，一篇文章千次阅读单价为0.12元，如果可以大范围传播，阅读量达到100万次，那么创作者收益可以超过1000元。

AI谣言的传播速度和范围都远超传统谣言，为了治理新型乱象。今年4月，中央网信办发布专项行动通知，要求使用AI等技术生成信息的，必须明确标注系技术生成。面对AI谣言等技术和犯罪形式的快速迭代，法律法规研究也要与时俱进。律师游云庭今天上午在接受看看新闻Knews采访时表示，AI造谣不是简简单单的一键生成的，实际上首先它要确定被造谣的目标之后，还是要编造相关情节，然后设置相应的提示词才会产生相应的谣言的文字、图片或者视频。用谣言去打击竞争对手，或者影响股市的股价，也是经常发生的事情。比如：之前科大讯飞就曾经被人工智能的谣言造谣过，造成其股价暴跌。一方面造成公司损失，另一方面是持有该公司股票的股民也受到了损失。所以，法律要是对人工智能造谣进行监管的话，应该是全方位的监管。首先，对于造谣者我国有多部法律法规可对其进行惩处。比如：寻衅滋事罪、我国刑法上还有故意编造传播虚假信息的相应的罪名，如果说这个罪相应的犯罪后果或者是危害后果还不够严重的，可以适用治安管理处罚法进行相应的处罚。

此外，游云庭还表示，从监管上除了对造谣者要进行法律打击之外，实际上对于人工智能生成平台和传播平台，他们的合规监管也很重要。如果说人工智能生成平台在运营当中发现有人故意造谣的，其有义务将这部分的内容上报到有关部门，并且停止相关的服务，对于内容传播平台来说也是一样，对于热播的信息以及平台推荐的信息，平台就有审核的义务。有义务去阻断阻断相应的信息的传播。

网络并非法外之地，和传统谣言比起来，AI造谣成本更低，社会危害更大。想要消除虚假信息的传播，有哪些治理手段？中国人民大学公共管理学院教授马亮在接受看看新闻Knews采访时表示，人工智能炮制的谣言具有低成本、高效率、以假乱真，危害严重和难以防治等等特点。会对我们的互联网环境、网络舆情、社会治理等方面带来严重的负面影响。通过AI仿真一些真实发生的事件，会带来很强的迷惑性，普通人可能难以辨别真伪。一些博主和MCN机构为了蹭流量博眼球，往往就会使用AI生成谣言并大肆进行传播，这样一种违法行为的成本很低、风险小，但收益可能却很高。

在马亮看来，针对AI造谣的这些特点，相关部门要进行严格的执法，并加大查处处罚的力度。首先，平台要履行内容生态监管的责任，不能揣着明白装糊涂，放纵乃至推荐AI批量制造的不良内容、虚假内容大行其道。事实上，现在人工智能生成平台的技术优势非常明显，完全能够识别哪些内容是AI生成的，哪些谣言是存在风险的，并且能够去追踪整个的链条。同时，平台应优化涉及AI内容的流量分发和收益机制，压缩别有用心者批量生产谣言的牟利空间。只有斩断AI造谣的产业链，让这些灰产从业者无利可图，乃至受到法律的惩罚，才能彻底斩断这个产业链。