網(wǎng)絡(luò)暴力發(fā)生原因復(fù)雜，平臺(tái)被認(rèn)為是“第一道防線”。

澎湃新聞旗下的“湃客工坊”發(fā)布的一篇文章稱，在其梳理的311個(gè)網(wǎng)暴案例中，網(wǎng)暴事件多肇始于社交媒體平臺(tái)。

北京航空航天大學(xué)法學(xué)院副教授趙精武撰文指出，在網(wǎng)絡(luò)暴力治理活動(dòng)中，最有可能并且最有能力干涉網(wǎng)絡(luò)暴力事件發(fā)生的治理主體是平臺(tái)運(yùn)營(yíng)者。在他看來(lái)，平臺(tái)運(yùn)營(yíng)者能夠更早知曉潛在的網(wǎng)絡(luò)暴力風(fēng)險(xiǎn)以及平臺(tái)內(nèi)存在的網(wǎng)絡(luò)暴力信息，并且也能夠通過(guò)封禁賬號(hào)，屏蔽、刪除信息等方式對(duì)網(wǎng)絡(luò)暴力信息采取直接攔截。

2022年4月，中央網(wǎng)信辦開(kāi)展“清朗·網(wǎng)絡(luò)暴力專項(xiàng)治理行動(dòng)”，開(kāi)始介入網(wǎng)絡(luò)暴力治理。其后又出臺(tái)多部涉網(wǎng)絡(luò)暴力的部門(mén)規(guī)章、規(guī)范性文件，強(qiáng)調(diào)壓實(shí)平臺(tái)(網(wǎng)絡(luò)服務(wù)提供者)主體責(zé)任。

“對(duì)方關(guān)注或回復(fù)你之前，24小時(shí)內(nèi)最多只能發(fā)1條文字消息”。記者注意到，社交媒體平臺(tái)已對(duì)來(lái)自陌生人的私信進(jìn)行限制。據(jù)了解，用戶還可主動(dòng)打開(kāi)“一鍵防護(hù)”，開(kāi)啟防護(hù)的用戶不會(huì)再收到來(lái)自陌生人的消息。此前，很多網(wǎng)暴信息都來(lái)自陌生人私信。

在政策倡導(dǎo)下，2022年起各大平臺(tái)陸續(xù)推出一鍵式網(wǎng)暴防護(hù)功能。開(kāi)啟防護(hù)的用戶還可以通過(guò)設(shè)置評(píng)論權(quán)限、添加屏蔽詞等方式來(lái)自行隔絕負(fù)面信息，保護(hù)自己。

為進(jìn)一步提升網(wǎng)絡(luò)暴力信息治理效能，今年6月，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合公安部、文化和旅游部、國(guó)家廣播電視總局公布了《網(wǎng)絡(luò)暴力信息治理規(guī)定》，構(gòu)建事前事中事后網(wǎng)絡(luò)暴力信息治理機(jī)制，對(duì)平臺(tái)提出全流程治理要求。

平臺(tái)面臨治理困境

“這UP主在國(guó)外生活過(guò)，屁股歪”“我認(rèn)為這個(gè)曲子作者是抄襲的，因?yàn)橛∠笾羞@歌在哪兒聽(tīng)過(guò)”等。在中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒看來(lái)，一方面，這些“誅心之詞”很有可能使得被評(píng)論者陷入挫敗、失望、憤怒、抑郁之中，客觀上產(chǎn)生網(wǎng)絡(luò)暴力的傷害效果;另一方面，這些信息也有可能屬于公民正常的言論表達(dá)之范疇，難以設(shè)立統(tǒng)一明確的規(guī)范以區(qū)分合理的推測(cè)懷疑與惡意的揣測(cè)攻擊。她表示，對(duì)這類網(wǎng)絡(luò)暴力信息“治理難度最大”。

吉林大學(xué)法學(xué)院助理研究員朱笑延發(fā)現(xiàn)，數(shù)字時(shí)代的網(wǎng)絡(luò)暴力信息已經(jīng)從“傷害性不大，侮辱性極強(qiáng)”為主的違法信息轉(zhuǎn)向以“侮辱性不大，傷害性極強(qiáng)”為主的不良信息。

《網(wǎng)絡(luò)暴力信息治理規(guī)定》對(duì)網(wǎng)絡(luò)暴力信息給出了定義，既包括含有侮辱謾罵、造謠誹謗、煽動(dòng)仇恨、威逼脅迫、侵犯隱私內(nèi)容的違法信息，也包括影響身心健康的指責(zé)嘲諷、貶低歧視等內(nèi)容的不良信息。

據(jù)朱笑延觀察，在強(qiáng)調(diào)娛樂(lè)至上、玩梗戲謔的數(shù)字化社交媒體環(huán)境下，網(wǎng)絡(luò)暴力中不良信息的比重越來(lái)越高。與網(wǎng)絡(luò)侮辱、誹謗信息不同，這些不良信息更多地表現(xiàn)為道德指責(zé)、陰陽(yáng)怪氣、主觀臆測(cè)、“三俗”等情緒化色彩的表達(dá) 。

平臺(tái)能否處置好“不良信息”，目前還存有疑問(wèn)?！芭瓤凸し弧钡臏y(cè)試結(jié)果表明，平臺(tái)多能攔截含有明確辱罵詞匯的極端言論，但對(duì)隱晦和諷刺性網(wǎng)暴信息攔截效果不佳。

在武漢被撞學(xué)生媽媽被網(wǎng)暴事件中，“妝容精致”“三天換兩雙香奈兒鞋”等與網(wǎng)民日常的言論表達(dá)極為接近。在朱笑延看來(lái)，社交媒體平臺(tái)無(wú)法在語(yǔ)言識(shí)別模型的設(shè)計(jì)中窮盡列舉所有網(wǎng)絡(luò)暴力信息，又難以在技術(shù)上區(qū)分網(wǎng)絡(luò)暴力信息與其他情緒化的言論表達(dá)。如果仍要求平臺(tái)全面審核處置海量的網(wǎng)絡(luò)暴力信息，將帶來(lái)巨大的治理壓力，或者可能傷及網(wǎng)絡(luò)空間的言論表達(dá)。

審核重點(diǎn)轉(zhuǎn)向重塑平臺(tái)生態(tài)

動(dòng)輒群嘲“國(guó)男”“普信男”，不加區(qū)分冠以“小仙女”“撈女”，在一些社交媒體平臺(tái)已成常態(tài)。設(shè)置沖突議題、侮辱誹謗他人，成為一些自媒體的流量密碼。

朱笑延分析說(shuō)，按照流量進(jìn)行內(nèi)容分發(fā)的運(yùn)營(yíng)模式下，平臺(tái)有意無(wú)意搭建了鼓勵(lì)偏激言論生產(chǎn)、放大極端情緒擴(kuò)散、助推輿論走向異化的媒介環(huán)境，這種異化“合理化”了網(wǎng)絡(luò)暴力信息并被網(wǎng)民普遍接受。

平臺(tái)難以通過(guò)技術(shù)手段完全管控大量網(wǎng)絡(luò)暴力信息。在朱笑延看來(lái)，治理就需轉(zhuǎn)變思維，將重心從網(wǎng)絡(luò)暴力信息本身轉(zhuǎn)向誘發(fā)網(wǎng)絡(luò)暴力信息生成傳播的環(huán)境機(jī)制上。“社交媒體平臺(tái)的治理責(zé)任在于將其開(kāi)啟、強(qiáng)化的網(wǎng)絡(luò)暴力信息風(fēng)險(xiǎn)控制在合理的范圍之內(nèi)，而不是對(duì)所有的網(wǎng)絡(luò)暴力信息負(fù)責(zé)?！彼硎尽?/p>

朱笑延對(duì)平臺(tái)事前預(yù)警、事中處置、損害防治義務(wù)賦予了新內(nèi)涵：如事前識(shí)別各類誘導(dǎo)網(wǎng)民群體生成網(wǎng)絡(luò)暴力信息的話題營(yíng)銷、賬號(hào)發(fā)言、熱搜組織、直播運(yùn)營(yíng)等內(nèi)容業(yè)務(wù)，精準(zhǔn)排查歪樓引戰(zhàn)、制造對(duì)立、激化矛盾的重點(diǎn)賬號(hào);事中采取多樣化治理策略，賦予理性發(fā)言和多元化的信息更多的傳播影響力，阻止極端化、情緒化的網(wǎng)絡(luò)暴力信息;事后履行被害保護(hù)義務(wù)，削弱網(wǎng)絡(luò)暴力信息的輿論宰制能力。并據(jù)此對(duì)平臺(tái)的義務(wù)履行標(biāo)準(zhǔn)全面調(diào)整。

“讓各平臺(tái)都有穩(wěn)定預(yù)期，重塑網(wǎng)絡(luò)生態(tài)，才能系統(tǒng)地減少網(wǎng)暴信息的生成、傳播和異化。” 朱笑延表示。