AIセキュリティとは何か？（後編）～Security for AIとAI for Security～

前編では、LLMアプリケーションの開発および利用に焦点を当て、AIセキュリティについて解説してきました。後編の今回は、「Security for AI（AIのためのセキュリティ）」と「AI for Security（セキュリティのためのAI）」という2つの視点から、AIセキュリティについて解説します。

参考記事：AIセキュリティとは何か？（前編）～AIのセキュリティリスクとその対策を考える～

トレンドマイクロでは、安全なAI活用の実現とAIに関する脅威や攻撃からの保護として「Security for AI」、そして巧妙化しているサイバー脅威に対して、AIによってサイバーセキュリティを強化する「AI for Security」の2つのアプローチを行っています。「Security for AI」、「AI for Security」につながるソリューション・機能を、エンタープライズサイバーセキュリティプラットフォーム「Trend Vision One」で提供しています。

Security for AIとは？

前述のとおり、「Security for AI」は安全なAI活用の実現とAIに関する脅威や攻撃からの保護を指します。具体的には、機密情報の漏洩をはじめとするAIを利用する上でのセキュリティリスクや、ディープフェイクなどのAIを悪用したサイバー攻撃から保護するためのセキュリティ対策です。

●例1：ディープフェイクを悪用した詐欺対策

偽の動画や音声といった「ディープフェイク」を悪用した詐欺被害の防止には、「ディープフェイクを見破る」ことが重要です。しかしながら、ディープフェイクの精度は日々向上しており、人間の目や耳でディープフェイクか否かを見破ることは困難になってきています。そこでソリューションの活用が有効です。

トレンドマイクロでは、「Deepfake Detector」をエンドポイント対策ソリューション「Trend Vision One -Endpoint Security™ 」の一機能として提供しています。ビデオ会議中のディープフェイクの可能性を検出し、警告を表示して知らせることによって、金銭や企業の機密情報を窃取することを目的とした詐欺被害リスクの低減が期待できます。今後、個人においても、法人組織においても、これらの対策技術の導入を検討することが求められるでしょう。

ディープフェイクとその対策については、こちらのウェビナーでも解説しています。ぜひご覧ください。

詳しくはこちら

●例2：生成AI利用時のセキュリティ対策

ChatGPTをはじめとする生成AIサービスの活用には、個人情報や機密情報が漏洩するリスクが存在します。生成AIサービスには、プロンプトインジェクションを回避するためのフィルタやガードレール^※などの保護対策が施されていますが、仮に攻撃者によってそれらが突破されてしまった場合、入力された機密情報が窃取されてしまいます。このため、サービス利用時には個人情報や機密情報を入力しないように注意する必要がありますが、ユーザ個人の認識や判断に依存するため、それらが入力される可能性はゼロにはなりません。そこで、ソリューションの活用が有効です。
※生成AIにおけるガードレールとは、ユーザからの危険な質問や不適切なリクエストにAIが応えないようにするための機能

「Trend Vision One –Zero Trust Secure Access™ –AI Service Access」では、ChatGPTやMicrosoft Copilotなどの生成AIサービスで、ユーザが入力するプロンプトや、生成AIからのレスポンスの内容を検査することができます。プロンプトに機密情報が含まれている場合には、ブロックすることが可能です。また、適切なガードレールが設定されていないなどのリスクがある生成AIサービスや、自組織で利用を許可していない「シャドーAI」に対してのアクセスを制御することでリスク低減を実現することもできます。

生成AI利用時のセキュリティ対策については、こちらのウェビナーでも解説しています。ぜひご覧ください。

詳しくはこちら

AI for Securityとは？

「AI for Security」は、巧妙化しているサイバー脅威に対して、AIによってサイバーセキュリティを強化することを指します。トレンドマイクロでは、約20年前からAI技術の研究、製品機能の開発を行ってきました。この長年におよぶ専門的な知見と経験から、LLMやNLP（自然言語処理）、機械学習、AIエージェントなどのAI技術を集約し、サイバーセキュリティに特化したAI、「Trend Cybertron」をエンタープライズサイバーセキュリティプラットフォーム「Trend Vision One」の各機能へ活用しています。

参考記事：トレンドマイクロ、オープンソースのAIモデル/AIエージェントを公開し、エージェント型サイバーセキュリティの未来を推進

トレンドマイクロでは、Security for AIに加え、サイバー脅威の発見や予測、煩雑なセキュリティ運用支援といったAI for Securityにつながる機能も提供しています。

●例1：潜在的な攻撃経路の予測

サイバー攻撃は日々巧妙化しており、例えばマルウェアにおいては既知の技術での検知が困難な亜種や未知のマルウェアが増加傾向にあります。
「Trend Vision One – Cyber Risk Exposure Management」で提供する機能「Attack Path Prediction」では、AIを使って自組織の各資産やリスクを分析することで、攻撃の弱点や潜在的な攻撃経路を以下の図のように予測します。このような予測は、脆弱性情報や公開設定、権限設定などさまざまな情報を複合的に分析する必要があり、人の力で予測することは非常に難しいですが、AIの力を借りて分析・予測することによってリスク低減を実現できます。

図：「Trend Vision One -Cyber Risk Exposure Management」で提供する「Attack Path Prediction」（イメージ）

●例2：セキュリティ運用の支援

現在、全世界においてセキュリティ人材は不足しており、サイバーセキュリティ労働人口の需要と供給は11万人もギャップがあると言われています。どの企業も、セキュリティ部門の頭数も足りなければ、必要なナレッジを持ったメンバーも十分にいないというケースが散見されています。
トレンドマイクロでは「Trend Companion」を提供し、手間がかかったり高度な経験や知識が要求されたりするセキュリティ運用にAI技術を活用しています。「Trend Companion」は、「Trend Vision One」上で利用できる機能です。ユーザが入力した質問やリクエストに対して回答を生成し、調査が難しいXDR（eXtended Detection and Response）アラートの詳細な調査や攻撃者が実行したコマンドの解説など、難しいセキュリティ運用を支援することで運用負荷の軽減に貢献します。

画面：「Trend Companion」では、AIを使用して調査レポートの生成も支援。

今回は全2回にわたって、AI時代におけるセキュリティリスクと、その軽減策について解説しました。報道などでAIについて耳にしない日はなく、AI開発や関連企業の動向がさかんに取りざたされる中、AIが個人の生活や企業活動の基盤となる日はそう遠くないかもしれません。このようなパラダイムシフトのもとで、セキュリティにおいても、従来とは性質の異なるリスクや、従来とは異なる視点からの活用方法があり得ることを念頭に置き、引き続き情報収集をしていくことが重要です。