“女童南汇海滩走失”事件中的网络水军：AI批量造帖、控制百余账号转发

摘要： 核心账号造谣、大量水军造势煽动公众情绪……近年来，不法分子针对社会热点、突发事件，通过无中生有蹭热点、夸大其词带节奏、恶...

核心账号造谣、大量水军造势煽动公众情绪……近年来，不法分子针对社会热点、突发事件，通过无中生有蹭热点、夸大其词带节奏、恶意拼接博眼球，叠加引爆社会舆论，最终对社会秩序造成危害。

5月10日举行的“清朗浦江·2024”网络生态治理旬行动启动仪式上，上海市委网信办对外公布“清朗浦江”典型案例。其中，“网络水军”团伙炒作“4岁女童南汇海滩走失”事件被通报。

上海市委网信办分析说，“4岁女童海边走失”事件之所以会逐步发酵成阴谋论，是信息不对称、不良自媒体的炒作、公众情绪的催化和社交媒体放大效应的共同结果。谣言对女童父母造成了精神压力与二次伤害，同时也误导公众对事件的判断，使人们对真相产生误解。

陕西恒达律师事务所高级合伙人、知名公益律师赵良善指出，网络水军为博取眼球无底线地任意杜撰事件，不仅会对被害人及其近亲属造成严重伤害，还会造成社会恐慌、扰乱公共秩序等，因而具有强烈的社会危害性。

“网络并非法外之地。网络水军不能为了私利、为了赚取流量无底线造谣，进而践踏道德、法律底线，否则将自食恶果。”赵良善提醒说。

积“水”终致深“渊”。

12名涉嫌犯罪人员已被移送起诉

2023年国庆长假期间，一名4岁女童在上海南汇新城海滩走失，引发全网关注。根据上海市委网信办对外公布的信息，一些网络账号散布“走失女童曾被丢弃”“走失女童父亲为继父”等言论，甚至炮制阴谋论，引发人身攻击。

经核查，上述信息均系谣言，上海市网信办迅速协同相关平台，清理造谣传谣、网络暴力、人身攻击等有害信息4605条。根据上海公安机关通报线索，一造谣“水军”团伙浮出水面。

澎湃新闻获悉，经上海市公安局网络安全总队进一步侦查发现，传播此次事件不实帖文的“巨蟹说娱”“饭圈娱记”等十余个相关自媒体账号注册人均是山东某网络科技公司旗下员工，他们曾在各大平台注册账号，围绕其他全国性社会热点,高频发帖、转载帖文，采用“震惊体”“标题党”“博眼球”等方式发布虚假负面信息。10月11日，在公安部的统一指挥下，专案组赴山东会同当地警方将该团伙一举抓获。

经查，该团伙系以公司为名的“水军”团伙。公司法定代表人李某与经理田某两人为公司高层。在此次事件中，两人组织周某凤等6名核心写手，选取热点、借助AI批量制造不实帖文，并组织30名公司员工，通过公司控制的平台账号大量发帖转帖，累计控制114个网络账号，持续发布了涉女童走失帖文268篇。

相关部门查实，在此次事件的10月4日至9日期间，上述团伙通过发帖炒作该事件非法获利4万余元。

目前，该团伙中12名涉嫌犯罪人员已被移送起诉，其余参与违法活动但尚未构成犯罪的人员被依法予以行政处罚，涉案相关网络账号已依法被关闭。

专项行动已清理网上谣言信息53000余条

“网络水军”常常是团伙作案，通过批量注册网络账号，推动社会舆论持续升级发酵、高烧不退。为攫取经济利益，有组织地频繁蹭“八卦”流量，有分工地在网上搜集相关热点事件视频、图片进行恶意拼接，形成新的“八卦”，再利用大众猎奇心理，创建收费“吃瓜群”，吸引网民缴费进群点击广告链接后收益牟利。

澎湃新闻了解到，事件发生后，浦东警方迅速通报事件进展和调查情况，及时发布辟谣信息，澄清事实，积极引导公众进行正确认知。上海市委网信办、网安部门也加强对网络谣言的监测和处置，减少谣言传播范围和影响。

北京市京师（上海）律师事务所吴风虎律师表示，此次事件中，造谣“水军”扰乱正常的社会公共秩序。“根据网络造谣的内容、性质、影响不同，造谣行为可能会触及民事、治安、刑事等多个领域的法律法规，造谣者需要为此承担相应的民事责任、刑事责任。”

网络谣言为何层出不穷？网络谣言该如何治理？中国社会科学院大学互联网法治研究中心主任刘晓春向澎湃新闻指出，谣言与低俗、违法的不良信息不同，如果不与真实事件进行对比，单独信息本身很难识别真伪。因此，谣言的治理是一种“事后治理”，往往在已经广泛传播并产生了不良影响后才得以救济。“现在的谣言治理，更重要的是一种全流程、全链条治理。”

近年来，上海市委网信办与政法、公安等部门加强协同，高度重视网络谣言治理工作，深入清理网络谣言和虚假信息,营造风清气正的网络空间。

据上海市委网信办工作人员介绍，在谣言早期预防阶段，上海市委网信办注重压实属地网站平台主体责任，指导平台完善用户上传内容审核机制，加强谣言处置技术手段建设，筑牢网络谣言的第一道“防火墙”。

上海警方则着力深挖编造传播虚假信息进行“造热点”“蹭热点”引流牟利的犯罪团伙，查清利用信息网络传播谣言的组织者、策划者和主要实施者；查明黑灰利益链条。

数据显示，专项行动以来，执法部门依法查处造谣传谣人员530余人，清理网上谣言信息53000余条，依法关停违法违规账号5000余个。

上海市公安局网络安全总队告诉澎湃新闻，公安机关下一步将纵深推进打击整治网络谣言专项行动，持续强化与相关部门协作，依法严查涉公共安全、涉经济民生等领域的造谣行为，严惩在互联网上恶意颠倒黑白、造谣生事的违法犯罪人员，加大典型案例曝光力度，压实网络平台企业责任，提高网络生态综合治理水平，持续为净化网络空间做出更多努力。

网络水军搅动的谣言，不应再卷走更多的人。