科技新聞

Facebook打假有功 Q1移除21.9億假帳號
中時電子報 2019/05/24 18:31
為了讓使用者、各界能更理解Facebook朝向更為透明化、公開化的政策,今天Facebook發表第三份《社群守則執行報告》,範圍涵蓋2018年第4季和2019年第1季,本版內容涵蓋申訴案件和恢復顯示內容的相關資料、管制商品相關資料等。此外,目前Facebook將《社群守則》中九大政策的各項衡量指標均包含在內:成人裸露和性行為、霸凌和騷擾、兒童裸露和兒童性剝削、假帳號、仇恨言論、管制商品、垃圾訊息、全球宣揚恐怖主義,以及血腥暴力內容。從本份報告中,可以看見Facebook平台社群守則在這兩季執行的成果。

如何解讀數據

報告中所提到用於追蹤Facebook執行《社群守則》成效的重要衡量指標包括:

一、盛行率:用戶看到違反《社群守則》的內容的頻率。Facebook在乎用戶實際看到違規內容的頻率。處置的內容指Facebook撤下的內容數量;盛行率則是指Facebook尚未辨識出來,而用戶仍有可能看到的違規內容數量。Facebook衡量的方式為定期針對用戶在Facebook上瀏覽的內容進行取樣,然後藉著查看取樣內容,瞭解違規的比例。

1.這個衡量指標目前適用於成人裸露和性行為、血腥暴力內容以及假帳號:

(1)Facebook估計用戶在查看Facebook內容時,每10,000次瀏覽中就有11 - 14次含有違反成人裸露和性行為政策的內容。

(2)Facebook估計用戶在查看Facebook內容時,每10,000次瀏覽中就有25次含有違反血腥暴力內容政策的內容。

(3)Facebook估計Facebook的每月活躍帳號中約有5%為假帳號。

2.在這份報告中,Facebook首次分享到「全球恐怖主義」與「兒童裸露和兒童性剝削」的盛行率衡量數據。這兩類內容的盛行率都不高,因此難以使用Facebook的標準機制進行衡量;但2019年第1季的資料量足以讓Facebook估算出結果,資料顯示用戶在查看Facebook內容時,每10,000次瀏覽中含有違規內容的次數不到3次。

3.Facebook會繼續針對報告中涵蓋的政策領域,調整盛行率衡量指標。您可以由此深入瞭解Facebook衡量盛行率的方式。

二、處置的內容:因違反《社群守則》而遭到Facebook處置的內容數量。Facebook採取的處置包括移除內容、為內容加上警告畫面或停用帳號。此數據反映的是用戶發佈的違規內容數量,以及Facebook辨識違規內容的成效。

在假帳號方面,由於有心人士企圖一次建立大量帳號並發動自動攻擊,導致受到處置的帳號數量增加。Facebook在2018年第4季停用了12億個帳號,在2019年第1季則停用了21.9億個帳號。

三、主動先發率

這是指在Facebook採取處置的內容中,於用戶檢舉前,便已由Facebook的系統主動偵測到的數量。這項衡量指標通常可反映人工智慧在特定政策領域的應用效果。

1.本報告涵蓋的六項政策領域中,超過95%的處置內容都是由Facebook在用戶檢舉前主動偵測到的違規內容。

2.在仇恨言論方面,移除的內容有65%是由系統主動偵測,相較於一年前Facebook初次分享成果時的24%提升了不少。在2019年第1季,Facebook總共撤下400萬則涉及仇恨言論的貼文,而Facebook持續投注心力,希望能針對不同語言及地區,提升偵測仇恨言論的技術與能力。

本報告的最新要點:申訴和修正誤判

Facebook處置內容時會同步通知發佈者,並且在多數情況中,若發佈者認為Facebook的處置有誤,他們得以提出申訴。在第三版的報告中,Facebook開始提供遭到用戶申訴以及恢復顯示的內容數量。

Facebook採取的處置並非全然正確,但只要Facebook確認是誤判,就會立即設法修正。正因如此,Facebook會在報告中提供相關數據,讓大家瞭解有多少內容在申訴後已恢復顯示,以及有多少內容即使未經用戶直接提出申訴,也已由Facebook自行恢復顯示。內容未經申訴即恢復顯示的原因如下:

1.Facebook誤將多則內容相同的貼文移除時,只要其中一位用戶針對處置提出申訴,Facebook便會將所有相關貼文一併恢復顯示。

2.有時候,Facebook會發現審查結果有誤,此時Facebook就會在發佈者提出申訴前自行恢復顯示內容。

3.在其他案例中,特別是含有Facebook視為惡意連結的垃圾訊息貼文遭到移除時,若Facebook悉知該連結已無害,Facebook便會恢復顯示貼文。

Facebook在報告中提供2019年第1季各政策領域(假帳號除外)的相關資料:

相同季度的「申訴內容數量」與「恢復顯示內容數量」無法直接比較,因為在2019年第1季恢復顯示的內容可能是在2018年第4季提出申訴。同樣的,於2019年第 1季申訴的內容可能是在2018年第4季遭到處置。(由於Facebook會將數據四捨五入,所以申訴後恢復顯示的內容與未經申訴即恢復顯示的內容總和,不一定會與「總恢復顯示內容數量」完全一致。)

本報告的最新要點:管制商品相關資料

為了防止非法販售毒品和槍枝武器,Facebook早已制定多項政策。多年來,Facebook以各種方法施行政策,包括:調查與已移除的違規內容相關聯的個人檔案、粉絲專頁、社團、主題標籤和帳號;封鎖及過濾數百個與毒品販售相關的用語;以及與專家攜手合作,隨時掌握有心人士用來掩飾犯罪行為的最新手法,例如毒品的最新俗稱。

自 2018 年夏季起,Facebook開始藉人工智慧找出違反管制商品政策的內容。這項投資讓Facebook得以針對更多內容採取行動,並且在大多情況中,還能在用戶檢舉前早一步進行處置。在 2019 年第 1 季,Facebook針對 90 萬則涉及毒品販售的內容採取行動,其中有 83.3% 是由系統主動偵測;同一期間,Facebook也針對 67 萬則涉及槍枝武器販售的內容採取行動,其中有 69.9% 是由系統主動偵測。

這項技術能主動揪出更多違規貼文,讓Facebook的團隊得以專注於自身的任務,努力找出有心人士未來可能用於避開偵測的方式,以保障用戶安全。

Facebook對資訊公開透明的承諾

過去一年來,Facebook採取了幾個作法,讓政策研擬和衡量政策執行成效的過程更加公開透明。在政策方面,Facebook開始分享隔週會議的會議紀錄,Facebook通常在會議中決定政策更新,並在《社群守則》網站上提供每個月的變更紀錄,讓所有人都能瞭解Facebook針對政策確切進行了哪些更新。另一方面,Facebook也致力於推動學術研究,因此Facebook為全球19項研究計畫提供補助金,用以研究Facebook的內容政策以及網路內容如何影響現實世界的活動。

獨立的外部審查和意見回饋是幫助Facebook進步的不可或缺要件。基於這個精神,Facebook成立了資料透明度諮詢團隊(Data Transparency Advisory Group, DTAG),針對Facebook在《社群守則執行報告》中分享的衡量指標進行獨立、公開的評估,藉此瞭解這些指標是否能為整體運作帶來實質幫助,以及是否精準符合需求。這個獨立團隊是由成效衡量、統計學、犯罪學和管理學等領域的國際專家組成,專門評估Facebook執行政策的方法,Facebook將執行流程與衡量方法的詳細機密資訊提供給諮詢團隊,而他們已於本週發佈獨立評估結果。在評估結果中,諮詢團隊指出《社群守則執行報告》是落實資訊公開透明的重要手段,他們也發現Facebook執行政策的作法均十分恰當且合理。此外,他們也指出一些Facebook能夠更加公開的領域,可藉此提升平台用戶的信任程度及回應熱度。這些重要的分析數據將有助於Facebook瞭解未來需要努力的方向。

Facebook表示,他們將會持續讓政策執行的過程更加公開透明,並提供更多相關資訊,不僅能讓用戶看到Facebook的進步,同時自我督促,不斷前進。