2018 年，Google發布了社群規範違規處置報告，以增加保護觀眾措施的相關資訊透明度與問責機制。這份報告以前所未有的方式呈現我們從 YouTube 移除的違規內容，並提供已移除的影片數量、最初如何偵測到違規內容，以及移除原因等多項資訊。過去幾年Google持續新增指標，例如內容申訴數量與經申訴後恢復的影片數量。自推出這份報告以來，已經有 8 千 3 百萬部影片和 70 億則留言因違反《社群規範》而遭到移除。另一個重點是，我們在 2017 年大力投資機器學習技術後，也透過這份報告持續追蹤成效，評估系統偵測違規內容的準確度。舉例來說，Google現在可利用自動檢舉功能偵測出 YouTube 上 94% 的違規內容，而當中有 75% 的影片在觀看次數不到 10 次之前便會遭到移除。今天，我們在報告中推出違規影片收視率 (Violative View Rate) 這項全新的數據指標，以更加透明的方式向使用者呈現系統的成效。
簡單來說，違規影片收視率協助我們判斷 YouTube 上違規內容的觀看次數所佔比例。YouTube 團隊從 2017 年便開始在公司內部追蹤這項數據，這是評估我們是否盡責處理平台內容的重要指標。我們持續投資人力與技術，並發現違規影片收視率逐漸下降。最新的違規影片收視率介於 0.16% 到 0.18%，亦即在 YouTube 上每一萬觀看次數中，有 16 到 18 次觀看了違規內容。與 2017 年同一季相比，違規影片收視率下降了超過 70%，這個成果主要歸功於我們所投資的機器學習技術。今後，我們每季都會更新社群規範違規處置報告中的違規影片收視率。
在研擬各種保護 YouTube 社群成員的方法時，違規影片收視率提供重要脈絡參考。雖然其他指標 (如移除違規影片的所需時間) 也同樣重要，但這些標準無法完整反映違規內容對觀眾的實際影響。舉例來說，某部違規影片累積了 100 次觀看次數，但出現在平台上的時間超過 24 小時；另一部影片在發布後數小時就已觸及數千位觀眾，然後才遭到移除。相較之下，哪一部影片的影響範圍更廣？我們相信，違規影片收視率能讓我們精準掌握不當內容對觀眾的影響，以及找出有待改進之處。
Google會對平台上的影片進行抽樣並計算違規影片收視率，再將結果傳送給內容審查專員，他們會判斷哪些影片確實違反政策，哪些則否。藉由抽樣調查，我們可以更全面地瞭解系統無法偵測出的違規內容。不過，違規影片收視率會有上下浮動的情況。舉例來說，如果在政策更新後立即檢視這項指標，可能會發現數值暫時上升，這是因為系統正在根據新版政策找出先前遺漏的違規內容。
Google一直以來的目標在於確保 YouTube 社群成長茁壯，並同時善盡我們應負的責任。社群規範違規處置報告明確反映了 YouTube 自 2017 年迄今的進展，但我們明白未來還有很長的路要走。因此，YouTube 團隊會持續檢視及更新政策、與專家攜手合作，並公開說明違規處置的工作進展。我們致力於落實前述改進措施，避免違規內容在 YouTube 上出現，如此對觀眾、對我們的業務都有幫助。我們投入大量資源移除違規影片，違規影片收視率代表Google持續負起平台責任，也讓我們更瞭解 YouTube 一路走來是如何保護使用者不受有害內容的侵擾。
本文作者：YouTube Trust & Safety 總經理 Jennifer Flannery O’Connor
史塔夫短評：不當影片真討厭！
