人工智慧
AI一鍵脫衣，假裸照真勒索！Deepfake 換臉工具隨手可得，網路詐騙危機再升級
趨勢科技研究人員發現了新的網路犯罪工具，為資安帶來更大威脅，突顯出 AI 駭客服務的快速演進以及它們遭到大規模濫用的可能性。
想像一下您接到一通視訊電話，但卻發現它是網路駭客製作的深偽視訊，而且幾可亂真。這樣的情境再也不是科幻小說的場景，而是今日數位領域正在快速演進的真實威脅。
網路資安是數位時代最迫切的挑戰之一。
趨勢科技的最新研究指出，深偽 (deepfake) 技術越來越容易取得，而且網路犯罪地下市場上的 AI 工具也越來越精密。這樣的演變，衍生出更多 AI 遭大規模濫用的機會，甚至讓不具備技術能力的網路犯罪分子也能輕鬆駕馭 AI 。
網路犯罪地下市場上許多新的深偽工具都宣稱可以完美製作極為逼真的偽造影片和圖片。包括：
DeepNude Pro：這是一項 AI 脫衣犯罪服務，宣稱只要提供一張任何人的照片，就能生成出該人沒穿衣服的裸照，可用來從事色情勒索。
Deepfake 3D Pro：可從受害者的照片取出臉部來產生全合成的 3D 虛擬角色，虛擬角色可透過程式控制來發表預錄或生成的談話，可用來騙過銀行的 KYC 真人認證，或用來假冒名人從事詐騙或撥打網路釣魚電話。
Deepfake AI：可讓駭客將受害者的臉部移花接木到不堪的影片上來破壞受害者的名聲或用來勒索，也可用來散播假新聞。只支援預錄的影片。
SwapFace：可讓駭客偽造即時串流影音來從事變臉詐騙 (BEC) 攻擊或其他企業詐騙。
VideoCallSpoofer：與 SwapFace 類似，可從圖片產生逼真的 3D 虛擬角色，並且讓角色即時模仿演員的臉部動作。這可以讓深偽用於視訊會議電話以及類似的詐騙、假新聞等等的騙局。
除了深偽之外，該報告也指出原本已經倒閉的犯罪 LLM 服務 (如 WormGPT 和 DarkBERT) 又再度死灰復燃，並推出了新功能。它們和一些新的服務 (如 DarkGemini 和 TorGPT) 一起出現在廣告中，提供多模式的功能，包括影像生成服務。
不過報告也提到，網路犯罪地下市場上許多看起來像 ChatGPT 的服務，其實不過是一種「越獄服務」(jailbreak-as-a-service)，提供一個進入商用 LLM 的前端入口，誘騙它們回答一些惡意的查詢。
不過整體來說，網路駭客集團在採用惡意生成式 AI 工具方面的步調確實相對較為緩慢，這很可能是他們現在的攻擊手法、技巧與程序 (TTP) 就已經夠用，不須再導入新的技術。
隨著網路攻擊越來越精密、頻率越來越高，傳統的資安措施已經不足以應付。企業應主動測試自己的系統與網路是否有潛在的弱點，並且在駭客有機會攻擊這些弱點之前預先修正。一般使用者也應小心不請自來的通訊，並確實檢查線上互動的真實性。
請點選以下連結來閱讀這份完整報告「飆升的熱潮：生成式 AI 日益遭到濫用的最新情況」 (Surging Hype: An Update on the Rising Abuse of GenAI)：https://www.trendmicro.com/vinfo/us/security/news/cybercrime-and-digital-threats/surging-hype-an-update-on-the-rising-abuse-of-genai
