生成式 AI 對 2024 年的網路資安有何意義
 

2023 年，生成式 AI 一現身就立即成為媒體新寵，到了該年年底，它已經成為企業、創作者、科學家、學生以及 (不可避免地) 犯罪集團不可或缺的生產力工具。

駭客隨時都在尋找省力、高報酬的攻擊方法，而生成式 AI 正好帶來了某些重要機會。它的速度和擴充性，對於社交工程 (social engineering ) 操縱人心與詐騙手法大有幫助，駭客可以更快、更輕鬆地從大量資料當中挖掘可化為行動的資訊。事實證明，AI 應用程式確實很容易遭到不法集團挾持與濫用，有些駭客集團甚至自己推出了不受監管的大型語言模型 (LLM) 服務。

要防範這些日益升高的威脅，企業需要窮盡各種辦法，結合更先進的資安實務和工具，再配合強大的企業資安文化，而且在應用程式開發階段就將資安融入。