徐汇警方供图
□ 记者 陈颖婷
去年上海浦东海滩女童走失事件中，一造谣团伙以“标题党”“震惊体”方式恶意编造炒作了一系列谣言，牟利4万元；社会知名人士离世消息竟然是AI凭空杜撰的谣言……
近年来，网络谣言出现新动向，不法分子紧跟社会热点、突发事件，通过无中生有蹭热点、夸大其词带节奏、恶意拼接博眼球，加之利用AI新技术，叠加引爆社会舆论，使网络谣言具有极强的传播力和破坏力，给社会秩序带来严重危害。
记者昨天从市公安局新闻发布会上获悉，去年12月，公安部部署打击整治网络谣言专项行动以来，上海警方针对网上恶意炒作、造谣生事等网络违法乱象开展全力集中整治，依法从严快处网络造谣违法人员、全链条打击网络谣言犯罪、持续开展网络谣言生态综合治理。
据统计，截至目前，上海警方累计查处网络谣言384起，依法查处造谣传谣人员530余人，清理网上谣言信息53000余条，依法关停违法违规账号5000余个，坚决维护清朗有序的网络环境。
“震惊体”谣言更具煽动性、迷惑性
去年10月4日傍晚，一名4岁女童在上海南汇新城海滩走失，引发全网关注。其间，一造谣团伙以“标题党”“震惊体”方式恶意编造炒作了一系列诸如“女孩父亲系继父”“女孩被带往温州”等谣言，并通过批量注册网络账号，进一步转发炒作，阅读量超百万，而该团伙仅通过炒作这一事件的谣言就非法获利4万余元。
警方进一步调查发现，该团伙还围绕各类全国性社会热点，在各大平台高频发帖、转载虚假负面信息，牟取不法利益。目前，团伙中12名成员已被依法移送起诉，涉案相关网络账号已被全部封禁。
据市网信办介绍，针对该事件产生的不实言论，市网信办协同网安部门及相关平台迅速处置，清理造谣传谣、网络暴力、人身攻击等有害信息4600条；对散布谣言、“人肉”网暴的724个账号予以禁言、禁评等阶段性处置措施。
市公安局网安总队政治处主任韩欣毅表示，制造和传播谣言的多数目的是攫取经济利益。这些团伙有分工地在网上搜集相关热点事件视频、图片，恶意拼接，制造所谓的“八卦”谣言，利用大众猎奇心理，或创建收费“吃瓜群”，或批量注册网络账号，引诱网民点击相关付费链接，进一步牟利。在炮制此类谣言时，不法分子往往紧盯社会热点事件，使用“发现爆款新闻”“骇人听闻！”“丢人现眼！”等夸张的标题和“新、奇、特”的内容，杜撰所谓的“震惊体”文章，使谣言更具煽动性、迷惑性，以获取更多流量和关注度。
“很多不法分子采用‘震惊体’方式做标题，吸引网民的关注，因此涉及所谓的‘内部流出’‘速看’等一些敏感话题的时候，我们要多加留心，通过多渠道多角度来核实信息的真实性，避免被谣言所误导。”韩欣毅介绍，上海警方坚持全链条打击此类“蹭热点”“造热点”网络造谣团伙，查清组织者、策划者、主要实施者，坚决遏制网络谣言传播势头，维护人民群众合法权益和社会稳定。警方提醒广大网民，更不要加入所谓的“吃瓜群”，以免被网络谣言制造者利用。
“网络水军”为境外黄谣网站非法引流
今年3月，根据市公安局网安总队的工作线索，徐汇公安分局网安支队发现有人利用热点事件当事人姓名、形象传播虚假图文视频，为不法网站引流。
支队会同总队对谣言首发和传播链开展全面梳理排查，查明首发人员及传播扩散重要环节，最终发现了一批在境内长期经营聊天账号群，为境外黄谣网站发布引流截图链接的“网络水军”。
经过前期充分侦查，今年3月10日，专案组赴外省抓获涉嫌非法利用信息网络犯罪的嫌疑人吴某、林某和梁某等3人。
据3人交代，自2023年上半年以来，梁某介绍吴某、林某等同乡人员，通过所谓的招聘兼职广告与境外不法网站取得联系，从事所谓“资料发送员”工作，并建立大量QQ群组，用于发送资料为网站引流。
境外网站对接人每天会把需要群发的内容发给3人，由3人转发带有视频截图和网址的图片，引诱他人点击登录网站观看视频。梁某等3人明知这些视频都是为“蹭热点”而炮制的或张冠李戴或移花接木的虚假内容，仍转发至各自建立、经营的大量聊天账号群中，引诱“吃瓜群众”点击观看，为网站获取流量，为谣言事件推波助澜。
截至案发，3人共建立230余个微信群，每个群80-160人不等；他们每次将已发布信息的聊天截图发至工作群，以此与境外网站结算工作量，每月以虚拟币方式获取引流收入，共非法获利30余万元。
今年3月28日，通过深挖扩线，专案组又在多地另案抓获同类型的网站“资料发送员”罗某、张某等4人。经查，4人是各自独立作案，分别通过朋友介绍或通过网站广告与境外网站取得联系，从事非法引流活动。截至案发，4人共非法获利7万余元。目前，7人因涉嫌非法利用信息网络罪已被依法采取刑事强制措施。
“网络水军”是网络流量经济催生的产物，其巨大煽动力直接影响舆情走向和网民情绪，给公众利益、社会秩序等方面带来危害。在此，警方呼吁广大群众，在涉及敏感话题、热点事件时，应注意通过多渠道、多角度核实信息真实性，“让子弹飞一会儿”，不轻易转发未经核实的信息。同时，不明网站链接要谨慎点击，避免个人信息泄露，被不法分子利用牟利。
利用AI技术炮制“爆点”谣言
随着科技发展，人们可以借助人工智能技术更加高效地表达和传递信息。比如，在AI的辅助下，快速生成更加生动有趣的文章、图片、视频。然而，有网民为了蹭热度、博眼球，用AI编造耸人听闻的短视频，触碰法律红线。
今年2月，长宁分局网安支队民警发现，在某网购平台上出现了一则“某著名女星命运多舛、含恨离世”的短视频，引发大量点赞和转发，社会影响恶劣。经查，该视频内容完全是子虚乌有，视频内容也存在人为拼接痕迹。在对发布该视频的账号进行深入调查后发现，该账号之前也发布了大量以“名人去世”为噱头的短视频，全部为不实信息，影响极为恶劣。长宁警方依托打谣协作机制，将上述谣言信息流转至该网民户籍所在地吉林网警部门继续开展深挖调查。
经视频发布者杜某到案后交代，他在某网购平台上开了一家网店，平时主要经营土特产。由于销量不佳，杜某萌生了编造夺人眼球的虚假新闻来给网店账号带“流量”的念头。因为杜某本人不会视频剪辑，便利用AI技术生成文本和视频，编造大量社会知名人士重病、离世等无中生有、夺人眼球的谣言视频。果然，这些短视频给网店带来了不少流量，杜某暗自高兴，准备进一步炮制该类视频，殊不知自己的行为已经触犯了相关的法律。
目前，吉林警方已依法对杜某作出行政处罚，并将网络上所有的虚假视频全部清除，及时消除不良社会影响。
人工智能技术的发展在一定程度上降低了网络造谣的技术“门槛”，甚至仅凭搜索网上“爆点”和素材，便可通过AI凭空杜撰一篇帖文。一些不法分子为了提升个人账号知名度，利用AI工具，批量炮制虚假“爆款”帖文，制造一些耸人听闻的所谓“爆点”赚取流量。今年以来，上海警方连续破获了“利用AI软件合成故意纵火虚假视频”“利用AI软件编造社会知名人士重病离世”等多起网络谣言案。
对于此类涉沪、涉民生的网络谣言，上海警方始终以“零容忍”态度坚持打早打小、露头就打。上海警方通过加强对网络新技术新业态的研究，与互联网企业建立“7×24小时”沟通联络机制，全面强化企业巡查处置能力，积极查摆网络安全责任制度问题隐患，指导建立辟谣专区、账号及谣言举报入口，今年以来，累计指导企业，深入查摆网络安全制度问题隐患并制发公安提示函500余份，指导关停违法违规账号5000余个。