從熱搜榜上的“3秒7萬(wàn)轉(zhuǎn)發(fā)”到直播間里的機(jī)器人刷屏，從電商平臺(tái)的虛假好評(píng)到金融領(lǐng)域的惡意代理維權(quán)，黑灰產(chǎn)已滲透進(jìn)數(shù)字生活的毛細(xì)血管。黑灰產(chǎn)像病毒般寄生在流量經(jīng)濟(jì)中，吞噬了平臺(tái)生態(tài)的公正性，扭曲著網(wǎng)民的
作者：網(wǎng)站小編 發(fā)布時(shí)間：2025年05月13日 23:38
如何避免屏幕背后的數(shù)據(jù)淪為犯罪工具？關(guān)乎真實(shí)與虛假的戰(zhàn)斗在數(shù)字世界不斷打響。在“清朗浦江·2025”上海網(wǎng)絡(luò)生態(tài)治理旬期間，監(jiān)管部門(mén)、內(nèi)容平臺(tái)拿出案例拆解黑灰產(chǎn)鏈條構(gòu)成，避免普通人“被”卷入黑灰產(chǎn)，營(yíng)造網(wǎng)絡(luò)清朗空間。
普通人“被”卷入黑灰產(chǎn)
黑灰產(chǎn)是一條高度分工的產(chǎn)業(yè)鏈條。普通人可能會(huì)被“開(kāi)盒”推上風(fēng)口浪尖，也可能被技術(shù)黑箱以“兼職創(chuàng)收”“效率工具”等偽裝為名蒙蔽了雙眼，在不知不覺(jué)中成為犯罪幫兇。
第一財(cái)經(jīng)從上海網(wǎng)信部門(mén)了解到這樣一起案例。2024年3月有賬號(hào)在平臺(tái)上分享自己在浦東機(jī)場(chǎng)核酸檢測(cè)的經(jīng)歷，隨后水軍團(tuán)伙在2-3天內(nèi)集中大量發(fā)布浦東機(jī)場(chǎng)核酸檢測(cè)的文章，均以“今天剛到浦東機(jī)場(chǎng)落地”“今天飛機(jī)抵達(dá)上?！钡葹殚_(kāi)頭，其圖文特征引起了有關(guān)部門(mén)的注意。
經(jīng)上海警方調(diào)查，該事件中水軍團(tuán)伙通過(guò)社交平臺(tái)發(fā)布廣告吸引社會(huì)人員，引導(dǎo)相關(guān)人員注冊(cè)賬號(hào)、發(fā)布貼文，并按照點(diǎn)擊情況與相關(guān)人員分成牟利。
該水軍團(tuán)伙制造并炒作多個(gè)“熱點(diǎn)”，對(duì)網(wǎng)絡(luò)輿論生態(tài)和公共生活秩序造成干擾，通過(guò)編造故事、虛構(gòu)經(jīng)驗(yàn)、虛構(gòu)權(quán)威人士或新聞報(bào)道的說(shuō)法，引發(fā)普通網(wǎng)民的情感共鳴和認(rèn)同，只為騙取平臺(tái)收益補(bǔ)貼。
警方追蹤發(fā)現(xiàn)，該水軍團(tuán)伙控制賬號(hào)達(dá)20萬(wàn)個(gè)，通過(guò)發(fā)展“下線(xiàn)”，利用技術(shù)軟件，月均發(fā)文70余萬(wàn)篇。法院認(rèn)定該水軍團(tuán)伙違反國(guó)家規(guī)定，以營(yíng)利為目的,編撰虛假信息通過(guò)網(wǎng)絡(luò)有償提供發(fā)布，擾亂市場(chǎng)秩序情節(jié)嚴(yán)重，其行為已構(gòu)成非法經(jīng)營(yíng)罪，并追繳了各被告人的違法所得，依法沒(méi)收。
上海網(wǎng)警提醒，在網(wǎng)上瀏覽信息時(shí)，需要甄別一些冒充媒體發(fā)布的信息。首先應(yīng)當(dāng)查看消息來(lái)源是否可靠，是否來(lái)自官方媒體；此外，虛假消息往往使用聳人聽(tīng)聞、夸張和帶有強(qiáng)烈情緒的標(biāo)題吸引眼球，看到此類(lèi)內(nèi)容要謹(jǐn)慎識(shí)別，切勿隨手轉(zhuǎn)發(fā)。
在“清朗浦江·2025”網(wǎng)絡(luò)生態(tài)治理旬啟動(dòng)儀式上，上海網(wǎng)信部門(mén)通報(bào)了“兼職找搭子”“魔都驛站吧”“愛(ài)吃草莓”等賬號(hào)大量發(fā)布虛假招募信息；“泡泡糖5466”等賬號(hào)拼湊嫁接“小作文”賺取流量；“網(wǎng)絡(luò)水軍”團(tuán)伙操縱賬號(hào)不當(dāng)牟利等案例。這些案例有些已被立案查處，還有一些已由內(nèi)容平臺(tái)封號(hào)處理。
為了向公眾更好地揭露黑灰產(chǎn)利用普通人發(fā)布信息的騙局，小紅書(shū)、B站、帆書(shū)等內(nèi)容平臺(tái)在“清朗浦江·2025”網(wǎng)絡(luò)生態(tài)治理旬期間舉辦了企業(yè)開(kāi)放日，主動(dòng)向公眾介紹相關(guān)的流量算法推送機(jī)制，并介紹了企業(yè)自查和打擊黑灰產(chǎn)的情況。
“網(wǎng)絡(luò)水軍、未成年人違規(guī)、引流詐騙等違規(guī)現(xiàn)象正在隱蔽化?！毙〖t書(shū)黑灰產(chǎn)治理專(zhuān)項(xiàng)負(fù)責(zé)人“必行”提到，打擊黑灰產(chǎn)是一場(chǎng)“敵眾我寡”的戰(zhàn)爭(zhēng)并呈現(xiàn)出兩大特點(diǎn)：一是違規(guī)現(xiàn)象逐漸由公域向私域轉(zhuǎn)移，比如從筆記、用戶(hù)資料簡(jiǎn)介等公開(kāi)場(chǎng)景向群聊、私信等私域場(chǎng)景轉(zhuǎn)移；二是違規(guī)表達(dá)從純文字、圖片等形式向字母縮寫(xiě)、符號(hào)，黑話(huà)等變體靠攏。
難以辨明的真假信息讓用戶(hù)深受困擾，也會(huì)擾亂商業(yè)秩序，嚴(yán)重影響企業(yè)經(jīng)營(yíng)信心。黑灰產(chǎn)養(yǎng)號(hào)和黑灰產(chǎn)惡意營(yíng)銷(xiāo)因此成為網(wǎng)絡(luò)整治的兩大重點(diǎn)領(lǐng)域。
對(duì)此，上海市委網(wǎng)信辦建立了跨平臺(tái)水軍行為監(jiān)測(cè)聯(lián)動(dòng)機(jī)制。網(wǎng)信、公安、市場(chǎng)監(jiān)管、檢察等多部門(mén)已建立跨部門(mén)的協(xié)同聯(lián)動(dòng)機(jī)制，在發(fā)現(xiàn)網(wǎng)絡(luò)水軍行為時(shí)，能夠迅速啟動(dòng)聯(lián)動(dòng)機(jī)制，實(shí)行全鏈條整治，依法進(jìn)行查處，確保打擊效果。
讓流量回歸真實(shí)
“我們剛開(kāi)始治理的第一個(gè)月，就因?yàn)榉馓?hào)上了熱搜?！北匦刑岬?，從2024年11月開(kāi)始，小紅書(shū)成立專(zhuān)項(xiàng)團(tuán)隊(duì)，開(kāi)啟了史上最嚴(yán)黑灰產(chǎn)治理專(zhuān)項(xiàng)，累計(jì)封禁了400多萬(wàn)個(gè)賬號(hào)，減少黑灰產(chǎn)70%的曝光，這意味著小紅書(shū)幫助創(chuàng)作者和消費(fèi)用戶(hù)搶回了本該屬于他們的18.46%的大盤(pán)流量。
網(wǎng)絡(luò)內(nèi)容形式變化多端，這是防御和攻擊之間較量的難點(diǎn)所在。經(jīng)過(guò)深入的研究，小紅書(shū)黑灰產(chǎn)治理團(tuán)隊(duì)發(fā)現(xiàn)，盡管網(wǎng)絡(luò)黑灰產(chǎn)賬號(hào)擅長(zhǎng)隱匿真實(shí)身份與意圖，但其異常行為模式仍具有可識(shí)別特征，包括頻繁發(fā)布同質(zhì)化筆記、高密度評(píng)論互動(dòng)、批量私信搭訕用戶(hù)以及短期內(nèi)粉絲量激增等典型行為特征。
“過(guò)去，治理的重心都是放在內(nèi)容的識(shí)別和處置上，而現(xiàn)在，通過(guò)對(duì)用戶(hù)特征和行為的識(shí)別，能夠幫助我們更高效地批量打擊黑灰產(chǎn)?！北匦姓f(shuō)。
與此同時(shí)，監(jiān)管部門(mén)也會(huì)指導(dǎo)網(wǎng)站平臺(tái)不斷優(yōu)化技術(shù)手段，利用大數(shù)據(jù)和人工智能技術(shù)，通過(guò)分析行為模式，識(shí)別異常賬號(hào)，監(jiān)測(cè)流量異常等方式，前置攔截網(wǎng)絡(luò)水軍賬號(hào)，通過(guò)壓實(shí)網(wǎng)站平臺(tái)主體責(zé)任，切實(shí)筑牢第一道防火墻。
對(duì)平臺(tái)而言，讓流量回歸真實(shí)才能吸引真實(shí)用戶(hù)長(zhǎng)期駐留，同時(shí)需要爭(zhēng)取到用戶(hù)的理解與協(xié)助。B站從2022年開(kāi)始推出了“嗶哩嗶哩社區(qū)小管家”，作為“社區(qū)打工人官方賬號(hào)，最懂社區(qū)規(guī)則的官方，日常帶領(lǐng)風(fēng)紀(jì)委員們維護(hù)社區(qū)氛圍”定期分享社區(qū)治理案例，包括黑產(chǎn)治理月報(bào)、網(wǎng)暴問(wèn)題治理周報(bào)等內(nèi)容，為網(wǎng)絡(luò)清朗空間助力。
不少內(nèi)容平臺(tái)都在鼓勵(lì)公眾發(fā)現(xiàn)相關(guān)線(xiàn)索，積極向平臺(tái)或網(wǎng)信等部門(mén)舉報(bào)，通過(guò)全民監(jiān)督讓網(wǎng)絡(luò)水軍無(wú)處藏身，共同維護(hù)清朗的網(wǎng)絡(luò)空間。那么哪些內(nèi)容值得引起公眾警惕？
常見(jiàn)的黑灰產(chǎn)行為包括發(fā)布占卜預(yù)測(cè)、色情低俗、黃牛賣(mài)票、買(mǎi)賣(mài)實(shí)名制游戲賬號(hào)、兼職推薦、醫(yī)美等信息，也有家人得病、寵物得病求募捐等行為，目的是將用戶(hù)導(dǎo)流站外去交易服務(wù)或者商品；也有發(fā)布小說(shuō)影視劇精彩片段等給各類(lèi)第三方App導(dǎo)流的行為。
更“高階”的騙局是有人采用偽裝UGC賬號(hào)發(fā)筆記，或盜圖批量發(fā)筆記的方式誤導(dǎo)用戶(hù)和吸引流量甚至組織虛假互動(dòng)類(lèi)筆記，看似通過(guò)話(huà)題吸引用戶(hù)關(guān)注和互動(dòng)，實(shí)則在評(píng)論區(qū)鋪設(shè)水軍刷好評(píng)，影響用戶(hù)消費(fèi)決策。
這些虛假測(cè)評(píng)或避雷帖假裝客觀(guān)地進(jìn)行橫向比較評(píng)測(cè)，實(shí)際夾帶營(yíng)銷(xiāo)推廣內(nèi)容，或發(fā)布無(wú)事實(shí)根據(jù)的排行榜、避雷榜，只是為了吸引用戶(hù)前去咨詢(xún)，獲取信息資料。這類(lèi)黑灰產(chǎn)往往謊稱(chēng)有內(nèi)幕、黑料、避雷信息等，往往故意抹黑沒(méi)有與橫測(cè)黑灰產(chǎn)團(tuán)伙合作的商家或機(jī)構(gòu)。他們以此為噱頭，在站內(nèi)孵化數(shù)以千計(jì)的測(cè)評(píng)賬號(hào)，批量發(fā)布虛假或極低質(zhì)的橫向評(píng)測(cè)筆記，向站外引流，甚至再把前來(lái)咨詢(xún)的用戶(hù)信息倒賣(mài)給合作的下游機(jī)構(gòu)。
讓熱搜榜單回歸真實(shí)熱度，斬?cái)嗪诨耶a(chǎn)的技術(shù)和利益鏈條，離不開(kāi)監(jiān)管、平臺(tái)和用戶(hù)的三方合力?！扒謇势纸?025”守護(hù)的不僅是屏幕里的清朗空間，更是數(shù)字時(shí)代普通人對(duì)真實(shí)信息的知情權(quán)。
