如何分辨 Deepfake 產生的影片，避免虛假訊息的騙局？

起源：生成對抗網路 (Generative adversarial networks)

在 AlexNet 參加了 2012 年舉行的 ImageNet 大規模視覺辨識挑戰賽，達到最低的15.3%的 Top 5 錯誤率開始的十年間，AI 技術的發展可謂突飛猛進。AI 應用先後在圖像、音訊….等領域大放異彩，對於資料的辨識能力開始超過人類。

2014 年科學家 Ian J. Goodfellow 發展出對未來影響甚鉅、簡稱為 GAN (Generative adversarial networks)的生成對抗網路；這個技術顧名思義能夠產生極為真實的資料。

日益真假難辨的生成結果

GAN 的出現引起業界的熱烈反響，隨著科研的不斷進展， GAN 也越加成熟、效果越來越好，短短 5 年之內，其產生的各種資料已經讓人難以辨別真偽。

換臉軟體：Deepfake

AI 應用逐漸普及，人們越來越容易取得 AI 的各種工具與服務做自己的用途，其中就包含今年來聲名大噪的換臉軟體 Deepfake。

Deepfake 是基於 GAN 的應用，其透過人臉識別技術，找尋畫面中的人臉位置、用 AI 生成的人臉替換掉原本的人臉。

因為極具娛樂性，基於 Deepfake 各式各樣的應用案例在大眾與社群媒體的渲染之下常常成為瘋傳的話題，同時大眾莫不為 AI 的超能力感到驚訝。

南韓小有名氣的網路歌手 Rui，在 2021 年曝光自己的實際上僅有頸部以下身體、頭髮與聲音部分為本人。除了YouTube影片內容藉由 Deepfake 合成面容，包含在Instagram上的靜態照片內容，其實也是用同樣的方式製作而成。

DeepFake 與數位性別暴力

「透過網路或數位方式，基於性別之暴力行為。即針對性別而施加他人之暴力或不成比例地影響他人，包括身體、心理或性之傷害、痛苦、施加威脅、壓制和剝奪其他行動自由等。」（參酌 CEDAW 一 般性建議第 19 號第 6 段意旨）。

在大眾都可使用 Deepfake 以後，我們固然會看到許多創意的應用，但是反面的例子也同樣存且影響力更大；其嚴重地造成了社會秩序的破壞。目前 Deepfake 濫用最多的案例集中在色情內容、政治性目的。

DeepNude 是一款讓使用者可以透過輸入女性照片後，達到去除衣物後裸體的結果。 DeepNude 的發布說明了將 Deepfake 使用在色情內容的工具變得越來越容易獲得，任何女性都可能成為此科技濫用下的受害者。

美國新創公司 Deeptrace 的報告指出網路上高達 96％ 的 Deepfake 影片，是未經當事人許可下合成的色情影片，雖然是假的影片，但因為有一定程度的擬真，使受害者在身心靈受到創傷。

事實上國內也發生過同樣的事件，百萬 YouTuber 「小玉」朱玉辰涉嫌於 Telegram 群組收費散布多則立委、YouTuber 等名人的 Deepfake 造假色情影音，而遭警方逮捕。

防範騙局：了解 Deepfake 影片的特性

分辨 Deepfake 的技術近些年成為熱門的主題，除了知名學術機構投入專案以外，知名的資料科學競賽平台 Kaggle 上也出現高額獎金的徵求資料科學家們提供破解 Deepfake 的解決方案。

科研的一大發明，卻被濫用於製造虛假訊息與群體操縱，AI 技術與倫理的規範協調是我們需要省思與完善的過程，但同時社會大眾也需要培養對新型態犯罪的認知才能防範未然。

以下為 MIT media lab 所整理出的觀點，有助於科研人員以外的大眾也能增加對 Deepfake 虛假內容的判別敏感度。

• 特別注意影片中的人臉，因為 Deepfake 幾乎都用於人臉的轉換。
• 注意影片中對象的臉頰和額頭，皮膚是否顯得太光滑或太皺？皮膚的老化與頭髮和眼睛的老化相似嗎？ Deepfakes 生成的結果在某些方面經常不一致。
• 注意眼睛和眉毛，亮部與陰影是否符合場景的樣貌？ Deepfake 通常無法完全完美呈現場景的自然物理特性。
• 請注意人物是否佩戴眼鏡，並且注意人物頭部移動時，眼鏡是否有產生反光？如同前一個案例，這是因為 Deepfake 通常無法完美呈現光照的自然物理特性。
• 注意臉部的毛髮，看起來真實嗎？ Deepfake 可能會添加或去除鬍鬚、鬢角或鬍鬚。但是 Deepfake 經常無法使面部毛髮轉變完全自然。
• 注意嘴唇的大小和顏色。大小和顏色是否與人臉的其他部分相匹配？

美國華盛頓大學教授 Jevin West 和 Carl Bergstrom 設立了「WhichFaceIsReal.com」，網站中會出現兩張人臉的照片，並請你選出哪一張才是真人的臉。在選擇的過程中能逐漸培養揪出假臉的判斷能力。

我們按照 MIT media lab 提供的觀點來實際應用並解析：

本文授權轉載自 MetAI / 原文刊登於：如何分辨 Deepfake 產生的影片，避免虛假訊息的騙局？