0
文/趙青暉 方查理
“網絡暴力”由來已久，在十幾年前的PC時代，互聯網還沒有像如今這樣滲透到人們生活的方方面面，關于網絡暴力的話題就已經引起了人們的關注與警惕，隨著技術的進步，移動互聯網時代的到來，近些年“網民”數量急劇攀升，網絡暴力的影響范圍也越來越大，甚至逐漸黑產化。
防網暴勢在必行。
移動互聯網為人們生活帶來便利的同時，也給網暴黑產造就了溫床，社交平臺、短視頻平臺等多個公共網絡場所成為了網暴行為的高發地，評論、私信也成為了網絡暴力的主要手段，所謂“能力越大，責任越大”，對于網暴亂象，除了輿論呼吁外，各大網絡平臺也應當承擔起幫助用戶防止網絡暴力的責任。
如在近期火熱的冬奧會期間，就有不少人通過網絡平臺的評論和私信功能對冬奧選手進行詆毀、侮辱攻擊、散布不實謠言，對冬奧觀賽和社區氛圍造成了極大的傷害，前不久，短視頻平臺抖音就針對冬奧會的情況對331個網暴冬奧選手的賬號進行了禁言或封號的處罰處理。
近幾年來，作為國內最大短視頻平臺之一的抖音看上去對“能力越大，責任越大”這句話有極為深刻的理解：過去一年中，抖音的公開課、曲藝、鄉村相關視頻內容高速增長；也大力推動了老年化適配，有專屬的老人專線；此外還做了最用心的青少年模式，雷峰網(公眾號：雷峰網)還曾對世面上視頻平臺的青少年模式做過橫向對比，結果顯示抖音各項產品綜合最優。
而抖音的另一個長期持續關注的領域，則選在了“防網暴”方面。
正如2018年更新的抖音品牌slogan“記錄美好生活”一樣，抖音里“每個人既是內容創作者，又是內容消費者”。每天伴隨海量的內容創作和消費，也有大量的評論、私信產生。抖音每天會有8億條評論產生，其中，被處理的視頻里，“謾罵，人身攻擊”占比32.79%。
這樣海量的負面評論內容，如果只是在事后處理，一方面會讓平臺面臨巨大的治理壓力，另一方面，對于用戶來說，網絡暴力行為已經發生，受到的創傷很難得到平復。
所以，抖音在今年1月更新了用戶風險提醒、負面內容過濾等系列功能，通過8大功能，成為國內首個在各個場景下提供預防網暴服務的平臺。從評論和私信兩個維度出發，從主動管理發送者到接收者自我管理，從前期的評論發送警示，到中期的私信分層管理，再到后期平臺小助手提供“心情關懷”，打通了預防網暴前中后的整個流程。
雷峰網也針對抖音全新的防網暴功能，進行了全面的評測。
雷峰網此次對抖音全新防網暴的功能評測，主要在兩方面，一方面是面向創作者的新權限與功能評測，看新的功能是否可以直接為創作者帶來更好的體驗，另一方面從人文關懷方面出發，探尋抖音是如何嘗試從本質上減少網暴行為的。
1、面向創作者的新權限與功能
抖音中最基礎的私信對象限定功能，早在2017年12月就已經上線，用戶可以設置為所有人/互關好友/關閉三種狀態中選擇，是最徹底和基礎的私信過濾。
但對于“大V”、流量主、商用賬號等需要面對大量陌生人、單向關注者的用戶，他們無法一刀切地限制私信對象，所以這些特殊人群在此前經常會遇到廣告、謾罵、騷擾等問題。
而1月底上線的“用戶風險提醒和負向內容過濾”功能，對前述問題進行了很大程度的優化。
用戶風險提醒是系統引導用戶去管理，對陌生人或單關人消息進行識別，并提供“拉黑/舉報/移除粉絲”的彈窗。負向內容過濾是利用了算法自動處理，識別謾罵/騷擾信息后，自動折疊到陌生人垃圾信息中。
根據抖音官方的數據，該功能上線后，日均對25萬次會話發出風險提示，日均近9萬條消息被列入垃圾信息，日均超過7萬用戶受益。
而對于評論方面，抖音上線了“誰可以評論”的選項。其默認選擇“所有人”，但另外有“所有人”、“僅粉絲”、“僅互關朋友”、“僅自己”四個選項可選，對新視頻和舊視頻都可以選擇，簡單、粗暴、有效。
2、面向內容消費者的人文關懷
抖音里的創作者和消費者是一體兩面的。
線上網暴者，很多都是線下的弱勢群體，可能是因為抑郁等心理問題才會對他人實施網暴行為，當然，這不是為了給網暴人開脫，而是需要我們關注施暴者部分群體所面臨的問題，引導其走向正軌。如果說針對創作者的防網暴功能是“治標”，那抖音針對對違規用戶進行引導和幫助，則是在嘗試“治本”。
在防網暴升級后，抖音現在會對評論進行模型匹配和校驗，發布違規或低質評論之后，會立即收到評論彈窗警示，提示“該評論可能對他人造成負面影響”，給用戶一個回心轉意的機會。
當然，彈窗可以跳過并繼續發布評論，但將不會被其它人看見，此時評論會進入正常審核邏輯，真正的違規評論依然會被處理。
抖音在新的防網暴系統中新增了名為“心情暖寶寶”的平臺助手，如果用戶多次違規發布私信、評論，算法可以自動匹配觸發“心情暖寶寶”，用消息對話嘗試緩解用戶的抑郁情緒，甚至引導用戶去人工求助、線下就診。
更具體一點來說，用戶會收到類似“您好，我們關注到您最近在站內發表的內容，擔心您的心理狀態。生活雖不完美，但我們仍可療愈自己，如果您想找個人傾訴，可以在XX時間段選擇轉人工，小助手很愿意傾聽您的心聲”之類的文案。此外，用戶也可以自主在推薦、搜索、評論等場景減少負面內容推薦。
其實，這不是抖音第一次用算法幫助弱勢用戶了，在2021年抖音也為上千位有自殺傾向的用戶提供過救助，在這一點上，作為國內頭部的平臺，抖音并沒有僅僅利用技術和算法對網暴人群粗暴地進行處理，而是在技術的基礎上，增加了更多的人文關懷，嘗試從根源處解決問題，這是所有大型網絡平臺都值得學習的方式。
在移動互聯網時代，網絡暴力變得更加頻發，在網上對他人施暴的成本也越來越低，這些暴力事件對于受害者來說，都是無可磨滅的傷痛，而在某些偶發的輿論事件中，無數施暴者在并不了解內情的情況下，會被情緒引導，參與到大規模的網暴中。
而多年來，關于停止網暴的呼吁有很多，但收效甚微，也就是說，僅僅寄希望于網民提升自我認知和素質來消除網暴，于現階段是不現實的事情，所以，不論是抖音，還是其他的網絡平臺，更應該承擔起防網暴的重任。
此次抖音升級的防網暴系統就是一個非常不錯的標桿案例，在技術上，實現了對無論是視頻創作者還是普通用戶，都有更好的保護措施。在人文關懷上，更深層次的考慮到施暴者的心理行為可能，從而引導更多人消除戾氣，共建良好網絡社交環境。
利用技術的方式，從評論和私信入手，對于還未進入網暴階段的用戶進行監督、引導，預防網暴事件的發生，能夠更好的緩解平臺的治理壓力，也能夠讓受害者免于網暴侵襲，此外，對于已經觸犯網暴行為的賬號進行嚴肅處理，建立一個良好的網絡生態環境，是未來各個平臺都需要去做的事情。
抖音的防網暴升級，一方面體現了作為短視頻頭部平臺的科技能力和責任心，另一方面也為未來其它平臺利用技術治理網暴行為做了一個不錯的范例。
雷峰網原創文章，未經授權禁止轉載
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
