抖音加強網絡暴力管理能力，多舉措預防

本文已影響6.51K人

抖音加強網絡暴力管理能力，多舉措預防，抖音專門成立了網絡暴力專項治理團隊，提醒用户使用產品功能屏蔽網暴、騷擾信息，切實保護用户的人身安全。抖音加強網絡暴力管理能力，多舉措預防。

抖音加強網絡暴力管理能力，多舉措預防1

互聯網時代下，人們獲取信息的途徑越來越便捷，這也令喜歡對他人之事“品頭論足”的人越來越多，其中更是不乏一些“看熱鬧不嫌事大”的“鍵盤俠”利用網絡評論顛倒黑白，製造話題。他們不分青紅皂白的質疑、誹謗、惡意侮辱、謾罵和歪曲事實，給當事人造成了巨大的心理壓力和內心創傷，甚至陷入孤立無援的地步，“刀沒紮在你身上，你根本不知道疼”，那種痛苦的經歷只有當事人自己知道。心理脆弱的人往往無法忍受網絡暴力所帶來的傷害，採取自殺的方式來抗爭者更是不在少數。

2018年，南京發生“泰迪狗事件”後，網友對當事人童先生進行了人肉搜索、言語威脅，其妻子不堪重壓選擇自殺。其他著名的案例還有“《魔道祖師》粉絲人肉網友致其自殺”、“德陽女醫生自殺事件”等。今年年初尋親男孩劉學州自殺的悲劇，再一次印證了網絡暴力的`可怕。

評論、私信作為一個公域表達的場景，由於其門檻低、私密性弱的特性，部分惡意騷擾、人身攻擊、侮辱謾罵甚至誹謗造謠的信息，以較低的發佈成本、較高的傳播效率給部分創作者帶來了較為負向的反饋體驗。

以抖音為例，2021年4月以來，據抖音安全中心統計，平台每天產生8億條評論，其中，被投訴、舉報並最終處理的評論中，“謾罵，人身攻擊”佔比32.79%。

針對這一網絡社會現狀，抖音不斷“人文”化升級產品，“閉環”型的打通預防網暴的前中後期，從主動管理髮送者到接收者自我管理，推出國內首個，為用户提供各個場景預防網暴功能的服務。

據瞭解，抖音推出的預防網暴功能服務共有8大功能。這些功能既有平台根據模型識別主動進行警示與人文關懷，也有用户根據自身需要，對與其交流的“人”與“文”進行自主管理。在讓用户充分表達的同時又保護了創作者的情緒，給予了用户自主權與自主能力，在因人而異的評論區，讓用户在“個性化”和“人性化”之間取得平衡。

警示風險評論營造良好輿論氛圍

抖音此次將在國內推出首個“風險評論發文警示”功能，當用户評論內容存在一些不當言論時，抖音平台會及時彈出“風險評論發文警示”，作為一個提醒機制，為人們提供了一個反思內容的按鍵，讓用户在把言論發表出去前仔細斟酌自己想表達的內容。同時，抖音在原有“誰可以評論”功能（所有人、僅粉絲、僅互關好友、僅自己）的基礎上，新增了關鍵詞屏蔽、評論精選兩大功能。用户可以在權限設置中自主選擇評論權限功能，並對評論中自己不想收到的關鍵詞進行屏蔽。

用户風險提示貼心提供人文關懷

此外，抖音在私信功能上也做了進一步建設。抖音推出了接受私信設置（所有人、互關好友、關閉）、用户風險提醒（拉黑、舉報、移除粉絲）、負向內容過濾三大功能，用户可以對與其交流的“人”進行自主管理。

用户如在私信中遇到發送者存在發送不良言信息，言語騷擾行為等，抖音會進行用户風險提醒並對負向內容進行過濾，用户可以自主選擇對私信用户進行拉黑、舉報、移除粉絲等操作。同時，抖音上線平台小助手“心情暖寶寶”，為用户提供人文關懷，通過消息對話的交互方式，緩解用户的抑鬱情緒。

抖音一直致力於為廣大用户提供一個記錄和分享美好生活的互聯網平台。抖音此舉讓科技的發展充滿了人文氣息的關懷，讓用户更感受到關懷引領責任，責任體現擔當的平台使命。

評論自由誠可貴，網絡和諧價更高。我們也呼籲更多的網絡平台向抖音此次技術升級學習，根治網絡暴力這個頑疾，還網絡評論區一片淨土！

抖音加強網絡暴力管理能力，多舉措預防2

中央網信辦“清朗2022 年春節網絡環境整治”專項行動啟動以來，抖音針對人肉搜索、曝光隱私、欺辱謾罵等不良內容，專門成立了網絡暴力專項治理團隊，重點整治借疫情、社會熱點事件等挑動網民對立，進行人肉搜索、辱罵攻擊等網絡暴力行為。

施害者治理

抖音表示，通過升級治理模型，加強巡查力度，集中整治通過評論區或私信，對新冠疫情當事人、熱點事件當事人等羣體進行人肉搜索、泄露他人隱私、謾罵攻擊等違規行為，對相關違規賬號進行處理，嚴重的予以封禁。

受害者保護

綜合短視頻、評論、私信等各個環節數據分析，當系統識別到用户被網暴的風險明顯增大時，平台將通過電話外呼、客服警示等手段，提醒用户使用產品功能屏蔽網暴、騷擾信息，切實保護用户的人身安全。

同時，抖音也提醒廣大用户，如果在用户使用抖音過程中，遭遇到人身攻擊，可以通過關閉私信功能、設置視頻權限、拉黑舉報發佈攻擊言論的賬號等方式，保護自身不受騷擾。

私信場景

1、關閉私信功能：設置-隱私設置-誰可以私信我-關閉。

2、目前實名為青少年用户，將默認開啟“僅相互關注好友才能私信”。

3、當用户收到陌生人或單關人消息時，如果對方的消息存在違規導流行為，會有提示內容，提醒用户是否認識該用户。點擊不認識後，會有彈窗提示用户進行拉黑 / 舉報 / 移除粉絲操作。

4、當陌生人或單關人給用户發來騷擾、謾罵消息時，會被幹預處理，有效幫用户隔離網絡暴力等負向內容。

評論場景

1、設置視頻權限：右下角權限設置-高級設置-誰可以評論，進入後用户可以選擇：所有人 / 僅粉絲 / 僅互關朋友 / 僅自己。

2、評論拉黑舉報：長按不良評論-設置評論權限 / 舉報。

抖音加強網絡暴力管理能力，多舉措預防3

針對頻發的網絡暴力現象，日前，抖音宣佈全面升級平台預防網暴能力，為用户提供了8項功能，全方位管理評論和私信。其中，針對不當私信，新上線“風險提醒”和“負向內容過濾”等功能；針對已發送的不當評論，即將上線國內首個“發文警示”功能，進行攔截。至此，抖音已成為國內首個為用户提供多場景下預防網暴能力的平台。

據瞭解，在互聯網平台中，發佈評論、私信是公眾對社會熱點事件和人物表達意見最主要的方式和場景。但因其發佈成本較低、傳播效率較高，也容易產生騷擾、人身攻擊、侮辱謾罵甚至誹謗造謠等行為。數據顯示，抖音每天產生8億條評論，其中，被投訴、舉報並最終處理的不當評論中，“謾罵，人身攻擊”佔比32.79%。

對此，抖音從管理評論和私信兩個維度入手，為用户提供一攬子服務能力。首先，針對評論，抖音即將上線國內首個“發文警示”功能，引導用户友善評論。該功能下，若系統模型判定已經發送的評論存在問題，則會推送彈窗提醒，建議發送者重新編輯，去除不當言論。如果發送者堅持發送，則該條評論不會在評論區出現。據悉，該功能在近期的小範圍測試中，已經日均減少約3萬條不當評論。

除此之外，在評論端，抖音還先後上線了“評論權限分層管理”、“關鍵詞屏蔽”、“評論精選”三項功能。其中，用户在使用“評論權限分層”時，可以通過“權限設置-高級設置-誰可以評論”設置評論權限，根據自身需求從“所有人”、“僅粉絲”、“僅互關朋友”、“僅自己”四個選項中，自主選取誰可以對自己發佈的內容進行評論。

其次，在私信渠道，抖音新增“用户風險提醒”和“負向內容過濾”兩大功能。在“用户風險提醒”功能下，當系統模型識別發現，用户剛接收的陌生人私信存在風險時，會對用户推送彈窗，提示其“是否認識該用户”。如果用户選擇“不認識”，系統會再次彈窗，提示用户可進行“拉黑、舉報、移除粉絲”等操作，確保自身安全。目前，該功能日均會對25萬次會話發出風險提示，引導用户自主管理社交對象。在“負向內容過濾”功能下，當模型判定用户收到的私信消息為“謾罵或騷擾”，該消息會被直接放入“陌生人盒子—垃圾信息”中。該功能已日均為7萬用户服務，減少他們接收的負向信息。