生成AIサービスへのサイバー攻撃や情報漏洩を防ぐ
「Trend Vision One - Zero Trust Secure Access - AI Service Access」を提供

2024年8月1日

トレンドマイクロ株式会社（本社：東京都新宿区、代表取締役社長 兼 CEO：エバ・チェン　東証プライム：4704、以下、トレンドマイクロ）は、法人組織が利用、提供する生成AIサービスを、プロンプトインジェクションをはじめとしたサイバー攻撃から保護するとともに、自社の社員による生成AIサービスを介した情報漏洩を防ぐソリューション「Trend Vision One - Zero Trust Secure Access - AI Service Access」を2024年8月1日より提供開始することを発表します。

近年、法人組織による生成AIの利活用が業務効率化につながることが期待されています。実際、業務での生成AIの利用は約3割に及んでいます※1。一方、生成AIサービスに対して不正なプロンプト（AIサービスへの指示や質問）を入力することによる、悪意のある操作の実行など、サービス提供者側が意図しない動作を生成AIサービスに行わせるプロンプトインジェクション攻撃や、組織が許可していない生成AIサービスを社員が利用することによる情報漏洩、生成AIサービスが差別や性的な情報といった道徳的・倫理的に問題のあるレスポンスを生成する可能性等の懸念があります
※1 出典：日本情報経済社会推進協会／ITR「企業IT利活用動向調査2024」集計結果の「3.生成AIの使用状況」

法人組織は、自社が利用、提供するプライベートな生成AIサービスとChatGPTをはじめとしたパブリックな生成AIサービスの両方において、社員が安心・安全に生成AIサービスを利用するためのセキュリティ対策を講じることが求められます。
今回新たに提供する「Trend Vision One - Zero Trust Secure Access - AI Service Access」は、法人組織が利用、提供するプライベートな生成AIサービスに対して、誤動作を起こさせるための不正な指示を行うプロンプトインジェクションをはじめとしたサイバー攻撃から保護します。
また、一般公開されているChatGPT(OpenAI)、Microsoft Copilot(Microsoft)、Gemini(Google)などのパブリックな生成AIサービスに対して社員が個人情報を入力しようとしたり、ファイルをアップロードしようとした際にブロックを行い、機密情報が漏洩するリスクを防ぎます。
加えて、パブリックな生成AIサービスの中で、自組織で利用を許可・把握していないシャドーAIサービスへのアクセス制御や、不正なURLや不適切な表現が含まれている生成AIサービスからのレスポンスをブロックするなどの機能を提供します。

Trend Vision One - Zero Trust Secure Access - AI Service Accessの主な機能

＜プライベートな生成AIサービスに対する機能※2＞

機能 概要
アクセス制御※3 組織内のプライベートのIPアドレスグループを指定することで生成AIサービスへのアクセスをブロックします。
プロンプトフィルタリング 生成AIサービスに入力する指示や質問となるプロンプトに個人情報や「社外秘」、「重要機密」等の指定したキーワードが含まれていたり、ファイルをアップロードした場合に、監視、ブロックを行います。
プロンプトインジェクション防止 情報漏洩や悪意のある操作の実行など、サービス提供者が意図しない動作を起こさせるための不正なプロンプトを監視・検出します。
レスポンスフィルタリング 不正なURL、人種差別や性的な内容といった不適切な表現が含まれるレスポンスを監視、ブロックします。
レート制限 任意の閾値を設定し、プライベート生成AIサービスへのアクセスがその閾値を超過している場合、トラフィック量の制限をかけることで、プライベート生成AIサービスに対するDDoS攻撃等のサイバー攻撃を防止します。

※2　提供内容が一部変更になる場合があります。
※3　法人組織が組織内で利用する生成AIサービスが対象となります。

＜パブリックな生成AIサービスに対する機能＞

機能 概要
アクセス制御 連携するIAM(Identity and Access Management)のアカウントやグループ、ローカルのアカウント、組織内のプライベートのIPアドレスグループ等を指定することで、生成AIサービスへのアクセスをブロックします。また、自組織で利用を許可・把握していないシャドーAIサービスへのアクセスを制御します。
プロンプトフィルタリング 生成AIサービスに入力する指示や質問となるプロンプトに個人情報や「社外秘」、「重要機密」等の指定したキーワードが含まれていたり、ファイルをアップロードした場合に監視、ブロックを行います。
プロンプトインジェクション防止 情報漏洩や悪意のある操作の実行など、サービス提供者が意図しない動作を起こさせるための不正なプロンプトを監視・検出します。
レスポンスフィルタリング 不正なURL、人種差別や性的な内容といった不適切な表現が含まれるレスポンスを監視、ブロックします。
図１：Trend Vision One - Zero Trust Secure Access - AI Service Accessが提供する機能 図１：Trend Vision One - Zero Trust Secure Access - AI Service Accessが提供する機能

図１：Trend Vision One - Zero Trust Secure Access - AI Service Accessが提供する機能

図２：プロンプトフィルタリング 図２：プロンプトフィルタリング

図２：プロンプトフィルタリング
（ChatGPTに入力したプロンプトに個人情報が含まれていた場合のブロック例）

図３：レスポンスフィルタリング 図３：レスポンスフィルタリング

図３：レスポンスフィルタリング
（ChatGPTのレスポンスに不正なURLが含まれていた場合のブロック例）

 

■「Trend Vision One - Zero Trust Secure Access - AI Service Access」概要
・提供開始：2024年8月1日
・利用条件：Trend Vision One Credit※4が必要となります。必要なCredit数は、1アカウント※5につき年間50Credits（10,000円）です。
・利用方法：Trend Vision One - Zero Trust Secure Accessの設定から、AI Service Accessの機能を有効にしていただくことでご利用いただけます。
・製品詳細はこちらをご覧ください。
※4 Trend Vision One Creditsについての詳細はこちら
※5 １アカウントとは、Trend Vision One - Zero Trust Secure Accessを介して通信する利用者数、またはTrend Vision One - Zero Trust Secure Accessで管理するアカウント数の多い方となります。（部門、組織共通のアカウントでのご利用を想定しています）
 

  • 2024年8月1日現在の情報をもとに作成したものです。今後、内容の全部もしくは一部に変更が生じる可能性があります。
  • TREND MICROはトレンドマイクロ株式会社の登録商標です。各社の社名、製品名およびサービス名は、各社の商標または登録商標です。