深偽一詞是「深度偽造」(Deepfake) 的簡稱，涵蓋了所有經過生成式 AI (GenAI) 變造的聲音、視覺或文字內容。網路駭客會利用這些內容來欺騙目標，讓他們自願交出機敏資料。
深偽影片是一種逼真到讓人不容易起疑的影片，這類影片人類肉眼越來越難分辨它們是 AI 所生成的，對資料安全帶來了極大的風險。這類影片通常模仿一些知名人物，例如政治人物或影視名人，儘管同樣的技術也能用來模仿別的人。視深偽的製作者而定，深偽內容有可能用來散播假訊息、詐騙某人或某家機構，或是騙取機敏資料和錢財。
要製作深偽影片，通常需要先對原始內容進行深度的分析。一些必要的細節，如臉部特徵、動作、大小、膚色、頭髮及眼睛顏色，還有身體語言，都必須輸入 AI 才能盡可能準確地重現被模仿者的樣貌。同樣的原則也適用於影片的背景，如果目標對象出現的場景是知名的地點，那麼駭客就會利用一些原始影像和影片來盡可能準確地加以呈現。
與生成深偽影片一樣，駭客也能用網路上找到的材料來訓練 AI 生成聲音。其參考來源通常是被模仿對象的語音郵件訊息、電話內容、參加 Podcast 與新聞訪談的錄音，以及真實影片當中的聲音。
生成的聲音有時聽起來非常逼真，跟原始材料中的聲音非常相似，讓人難辨真假。駭客使用的生成式 AI 工具會分析聲音的一些關鍵細節，包括：口氣、音調、說話特徵、口齒清晰度，以及原始對象講話的聲音情緒。
深偽聲音與影片經由 GenAI 所產生，但廉價偽造使用的卻不是這類技術，而是透過手動製作來欺騙個人或機構的內容。這類內容通常是透過光學、聲音或文字幻覺來欺騙那些不會仔細分辨的人，例如當遇到緊急情況或情緒壓力很大時。正如美國國土安全部 (Department of Homeland Security) 所說，廉價偽造是數位時代之前的產物，意思是說，駭客已經互相學習切磋好幾百年了。
不肖之徒會將深偽或廉價偽造用於各種用途，包括但不限於以下幾種：
您可以採取以下幾個步驟來降低您掉入深偽或廉價偽造陷阱的風險，其中有幾點還是美國國家網路安全聯盟 (National Cybersecurity Alliance) 所建議：
零信任方法對網路資安至關重要，談到防範深偽，零信任原則可說是降低風險的基石，例如：
此外，專為其用途設計的深偽檢查與偵測解決方案，有助於保護使用者的身分、安全與資料。這類工具在 AI 創新不斷加速的時代不可或缺，因為人類通常很難靠肉眼來分辨深偽。美國國家醫學圖書館 (National Library of Medicine) 的 2023 年報告曾針對該議題表示：「隨著語音合成演算法的改良且越來越逼真，我們預料偵測的工作將變得越來越難，深偽語音的偵測難度印證了它被誤用的風險，也代表專門針對這項威脅的防禦有其必要。」
相關研究
相關文章