具體而言，Google將提供新選項，要求創作者在上傳內容時，指出該內容是否經過變造、合成、或使用 AI 工具生成。例如，可能會有 AI 生成的影片，栩栩如生地描繪了某個從未發生的事件、或是某人從未說過的話、做過的事。若創作者持續選擇不揭露這項資訊，YouTube 可能會加以處置，包括移除內容、YouTube 合作夥伴計畫資格遭停權等。當然，在這項更新推出之前，我們將會與創作者合作，確保他們了解這些新的規範。
因此，在未來幾個月內，若影片由 AI 產生、經過合成或修改，且包含臉孔、聲音等可辨識個人身分的模擬內容，使用者就能根據隱私權申訴程序要求移除。Google 在評估這些申訴要求時會考量多項因素，例如提出申訴要求的人，其身份是否能被正確辨識、內容是否為搞笑模仿或諷刺作品、或者內容是否以公職人員或知名人士為主角等，並非所有內容都會從 YouTube 移除。
此外，Google 也會推出新功能供音樂合作夥伴使用：如果發現 AI 產生的音樂模仿藝人的獨特歌聲或饒舌內容，音樂合作夥伴可以要求移除。在決定是否核准移除要求時，我們會將一些因素納入考量，例如內容主題是否為新聞報導、分析或評論等，而這項移除要求將開放給代表參與 YouTube 早期 AI 音樂實驗的唱片公司或發布商，我們也會在未來幾個月內陸續開放給更多唱片公司或發布商。
部署 AI 技術，支援內容審核作業
YouTube 一向結合人工判讀和機器學習技術來落實《社群規範》，系統採用 AI 分類器，先大規模偵測可能違反規範的內容，再由 Google 全球超過 2 萬名審查員確認該內容是否確實違反政策。透過 AI，內容審核系統的速度和準確率持續提升中，而其中一項顯著的影響便是辨認新的濫用形式。
當新威脅出現時，系統沒有足夠的背景資訊來大規模地理解並加以辨識它們，但透過生成式 AI，我們迅速擴大了訓練 AI 分類器的資訊集，而這也意味著能夠在更短的時間內辨認並找出這類內容。此外，提升系統的速度和準確率，也讓我們的人工審查員能夠減少接觸有害內容。
打造負責任的 AI 工具和功能
當我們持續為創作者開發新的 AI 工具，在面對重大責任與挑戰時的做法始終不變，我們相信重點是花時間把事情做對，而不是追逐第一名的寶座。Google 正仔細思考如何在多年的基礎上建立能夠處理內容審核作業的團隊和技術，包括投入大量心力，持續開發防護機制，避免 AI 工具生成不該出現在 YouTube 上的內容類型。
一定會有惡意行為人設法規避這些防護機制，因此 Google 將採納使用者的意見回饋，從中學習並持續改良機制。在 Google 公司內部，像是情報辦公室這樣的專門團隊，也特別著重對抗式測試和威脅偵測，以確保我們的系統能夠應對不斷出現的新挑戰。
AI 轉變近在眼前
對於在 YouTube 上運用 AI 解鎖新型態的創新與創意，我們還在這趟旅程的開端，並對這項科技的潛力感到無比興奮，而 Google 也深知在未來幾年內，接下來的變革將在創意產業中產生迴響。在這個關鍵時刻，正投入心思與時間力求平衡，在這項技術帶來龐大效益的同時，確保我們持續維護這個社群的安全，我們將與創作者、藝人、以及創意產業的各方人士攜手打造一個人人受惠的未來。
本文作者：YouTube 產品管理副總裁 Jennifer Flannery O’Connor、YouTube 產品管理副總裁 Emily Moxley
