人工智慧
AI Pulse：AI 的好處以及 AI 代理的承諾
人工智慧 (AI) 的危險性媒體已大量報導，那 AI 的好處呢？ 本期的 AI Pulse 將探討 AI 能帶來哪些好處：從強化網路資安到帶動醫療上的突破；還有，即將來臨的代理式 AI 浪潮將如何讓這些可能性推升到全新境界。
AI 有什麼好處？
身為一家網路資安公司，趨勢科技在「風險領域」當中投注了大量心力來預測威脅並尋找該如何消除這些威脅。但我們也體認到，我們有必要退一步來思考 AI 的強大威力如何為人類帶來正面的改變。
本期的 AI Pulse 將介紹一些致力讓 AI 變得安全而且有益於人類的集體作為，包括利用 AI 來改善漏洞追蹤與威脅偵測，進而強化網路資安。此外我們也會說明，隨著人類文明朝「通用人工智慧」(AGI) 邁進，代理式 AI 將如何開創全新契機，讓人類的生活變得更美好。
最新發展：讓 AI 成為一股良善的力量
少了「AI」就拚不出法文的「和平」(paix) 一字
對巴黎和平論壇 (Paris Peace Forum) 來說，「和平」的意義不該只是「沒有戰爭」，而是應該聯合各國的力量共同解決氣候變遷、遷徙以及資安威脅等等挑戰，這些都是影響所有國家且不受疆界限制的重大問題。2024年的論壇 (2024 年 11 月 11 日至 12 日) 明確指出，資安威脅 (與機會) 不一定會包含 AI。在為期兩天的演講當中，AI 的所有層面都獲得了討論：從負責任的 AI 治理、消除 AI 落差，到 AI 假訊息與女性在 AI 領域的所有內容等等。
趨勢科技也參加了這場論壇，並宣布將與該論壇合作制定 AI 導入與實作的安全指引。此外，趨勢科技也將參加二月份即將舉行、由法國總統馬克宏 (Emmanuel Macron) 所領導的 AI 行動高峰會 (AI Action Summit)，分享有關 AI 威脅的洞見，以及如何運用進階的網路資安工具和實務方法來因應這些威脅。
代理式 AI 對您的健康有益嗎？
根據《麻省理工科技評論》(MIT Technology Review) 的看法，情況很可能確實如此，該期刊最近發表了一篇文章來介紹代理式 AI 在協助生物學領域創造突破的潛力。這篇文章之所以值得關注，有幾項原因：首先，它宣稱 AI 代理 (AI agent) 非結構化的「通用」問題解決方法，能突破長久以來研究人員所面臨的複雜性困境。其次，這篇文章本身就是由 AI 系統「Owkin」所撰寫，它被稱為「全世界第一套端對端 AI 生物技術」。
AI 能促進科學探索並對科學文獻做出高品質貢獻的雙重能力，讓許多觀察家感到振奮。當然，這其中存在著一些必須管理的風險：《The Verge》最近報導了 AI 生成醫療轉錄文件當中出現的一些不當幻想內容，此外，《Physics World》也指出，由於資料集的偏差 (bias)，使得某些電腦輔助診斷在遇到某些病人時，會比其他病人來得較不準確。但兩相權衡之下，代理式 AI 對於改善人類生活以及普遍性提高科學涵養的承諾，似乎是正面的，同時也算是一種革命性技術的善用。
有關 AI 的傳言
每一次的技術躍進，都會擴大 AI 做善事的能力，最近又開始有傳言指出，AI 三大巨頭將推出新的技術。儘管 OpenAI 執行長 Sam Altman 已否認這點，但有消息指出該公司最快將在 12 月推出一個目前代號為「Orion」的平台，這很可能就是 GPT-5。一名火上加油的高階主管戲謔地表示新的平台有可能比 GPT-4 強 100 倍。根據《The Verge》表示，OpenAI 的目標是朝通用人工智慧 (AGI) 邁進，將其各種 LLM 結合起來 (儘管有些消息來源表示該公司內部已經實現了 AGI)。
Anthropic 正著手開發其平台的下一版本：Claude 3.5 Opus。雖然該公司執行長 Dario Amodei 目前對發布日期仍含糊其辭，但觀察家懷疑可能年底之前會看到一些東西。該公司尚未公布任何具體的改善細節，但「更快、更好、更聰明」似乎是可以預期的，同時也進一步證明 Anthropic 對 AI 發展應合乎道德的堅持。
Google 據說也正準備在今年底之前推出 Gemini 2.0。同樣地，確切的細節還很少，但 TechRadar 暗示應該會是「回答更聰明、處理速度更快、支援更長的輸入，還有推論和程式碼更可靠」。時程更遠一點的還有 Meta 下一版的 Llama 平台，其一位公司發言人表示，Llama 4 可望在新的一年初期推出，帶來一些「自主性機器智慧」(AMI) 相關的強化功能，透過像思維鏈 (chain-of-thought) 這樣的技巧來提升其「認知、推理及規劃」能力。從以上這些傳言就能看出，目前競賽依然相當激烈，而且 AGI 是每一家追求的最終目標。
開放還是不開放，這才是問題
隨著 AI 大廠們持續開發新的模型，關於開放原始碼 AI 的優缺，大家依然爭論不休。反對的一方擔心開放原始碼 AI 很容易遭到濫用，從中國將 Llama 2 用於軍事用途就知道這是一項真實的風險。然而贊成的陣營卻點出開放原始碼在網際網路和音樂串流等應用領域的成就，來證明開放性通常能帶來更強大、更值得信賴的解決方案。最近，《經濟學人》(Economist) 上的一則評論對於今日主流 AI 模型至少具備部分的開放性給予肯定，並呼籲政府應該透過法規和智慧財產權法律來鼓勵開放原始碼的發展。
AI 網路資安技術趨勢
圖片來源：Bing：一個專門剷除害蟲的 AI 代理正在尋找害蟲。
讓 AI 幫忙尋找漏洞
隨著 AI 的「軍備競賽」持續攀升，資安人員正盡可能善用每一分優勢。現在，他們有了一種新的工具可供選擇：可自動追蹤漏洞的 AI。今年 10 月，Protect AI 推出了 Vulnhuntr：一套能「尋找並解釋多重步驟複雜漏洞」的 AI 強化 Python 靜態程式碼分析器，據稱已在開放原始碼 AI 專案當中發現了十多個零時差漏洞。
11 月初，Google 宣布他們的 AI 技術在 SQLite 開放原始碼資料庫引擎當中發現了一個零時差漏洞，這是 Google 的 LLM 輔助 Big Sleep 框架發現的第一個漏洞。這兩者都突顯了開放原始碼的優點，因為在尋找漏洞方面，「擁有」原始程式碼要比「沒有」原始程式碼容易許多。
讓 AI 加入防禦的行列
McKinsey 最近發表了一篇文章指出，在前 32 家的網路資安產品當中，有 17 家現在都使用了進階 AI 技術，而且絕大多數的企業客戶 (超過 70%) 都「非常願意」採購以 AI 為基礎的資安工具。據報導指出，資安營運是一大重點領域，尤其在威脅偵測及回應方面，包括使用 AI 來查詢大型資料集並提供防護建議。
其他的機會領域還包括：雲端防護、端點防護，以及使用 AI 助理來自動填寫問卷和報告。此外，Google 也一直在推銷他們為期三個月的網路資安 AI 成長計畫，協助新創公司在開發 AI 技術的網路資安解決方案時，採取負責任的創新方式。
有關 AI 的安全主張
我們 9 月號的 AI Pulse 討論了當今一些對抗 AI 威脅的集體作為和監管工作，從那時起，情勢便不斷演進。
10 月初，MITRE 宣布了 AI 事件分享計畫，該計畫讓企業會員能夠獲得匿名的 AI 系統事件相關資料。同月底，Anthropic 發布了一則 AI 法規方面的強烈呼籲，表示政府必須在未來 18 個月內採取行動，否則可能將失去對 AI 的掌控。該文也趁機宣傳了 Anthropic 的「負責任擴張政策」(Responsible Scaling Policy，簡稱 RSP) 作為「一種發掘、評估及防範災難性風險的適應性框架。」 儘管 RSP 框架是自願採納的，但 Anthropic 也表明強制性法規有其必要。
到了 11 月底，美國商務部 (U.S. Commerce Department) 與美國國務院 (U.S. State Department) 共同舉辦了舊金山國際 AI 安全機構高峰會 (International AI Safety Institute Summit)，召集來自「國際 AI 安全機構網路」(International Network of AI Safety Institutes) 和其他政府資助科學單位的 AI 專家來推動AI 安全的合作與知識分享。該網路的成員包括：澳洲、加拿大、歐盟、法國、日本、肯亞、韓國、新加坡、英國以及美國。11 月的大會可說是 2025 年 2 月巴黎 AI 行動高峰會 (AI Action Summit) 的另一場會前會。
下一步：代理式 AI
可自行思考的 AI
我們 8 月號的 AI Pulse 曾經簡短介紹過 AI 代理，這將是邁向通用人工智慧 (AGI) 道路上的一個新星，值得我們更深入加以探討。
用最簡單的話來說，代理式 AI 就是能在無需人類介入的情況下自行做出決定並採取行動的人工智慧。Gartner 稱之為未來幾年最重要的策略性技術，並預測到了 2028 年，AI 代理將肩負起日常工作當中大約 15% 的決策判斷。
您獲得了一名代理！您也獲得了一名代理！
10 月份是代理式 AI 大鳴大放的一個月，Microsoft 宣布 Copilot Studio 使用者現在可建立自主式代理，並在其 Dynamics 365 ERP/CRM 套裝軟體中加入將近十幾個代理。Anthropic 推出了能夠「閱讀」電腦畫面並在軟體應用程式內部以及網際網路上執行某些工作的 AI 代理。Salesforce 發表了「Agentforce」來讓使用者建立自己的代理來幫他們執行一些業務工作，並已獲得 OpenTable、Saks 和 Wiley 採用。Intuit 宣布推出 Intuit Assist 這款 AI 代理產品來為 TurboTax、Credit Karma、QuickBooks 和 Mailchimp 的使用者提供個人化建議。
隨著企業開始建立及部署各種代理功能，他們也在尋找方法來讓這些代理能簡化、維持效率，並互相協調，透過合作來提升解決問題的能力。OpenAI 正在測試一種名為「Swarm」的輕量式代理協調方法，而趨勢科技專家也一直在探索「代理網格」(agentic mesh) 的概念，將 AI 代理彼此串連，讓它們彼此合作來達成人類所指示的目標。
有了代理網格之後，建立信任的機制將非常重要，還有就是讓人類監督和稽核代理式 AI 活動的方法。當 AI 代理開始建立自己的代理、並將自主性無形地散播到一個日益機械化的環境當中時，這一點將變得更加重要。
終極目標：AGI
許多人認為，能對自己下達指令的 AI 代理，是邁向 AGI 所必需的墊腳石，不過 Anthropic 的 Dario Amodei 卻比較喜歡將 AGI 稱為「強大的 AI」。Amodei 在他的「Machines of Loving Grace」(慈愛的機器) 一文章表示：「很重要的是要有真正鼓舞人心的未來願景，而非只是一項滅火計畫。強大的 AI 可能將帶來許多不善或危險的後果，而這一切終將要有某種東西值得我們拼命...。」
Amodei 提到了一些「後代理式 AGI」(post-agentic AGI) 可大幅改善人類生活的領域，例如：生物學與人體健康、神經科學與心理健康、經濟發展與消除貧窮、和平與治理，以及工作與意義。
不令人意外地，OpenAI 的 Sam Altman 也同樣抱持樂觀想法，他預見未來每個人都將擁有自己的「個人 AI 團隊」，「由不同領域的虛擬專家組成，彼此合作為我們創造任何我們所能想像的東西。」
隨著代理式 AI 的來臨，並準備在 2025 年開啟下一波 AI 革命，Amodei 和 Altman 的看法也許是對的：邁向未來最好的作法就是讓我們自己從 AI 獲得啟發與鼓舞，並對我們必須集體管理的風險隨時保持警戒。
更多來自趨勢科技的觀點
請參閱以下其他文章：