AWS re:Invent 2023 出展レポート：生成AIとセキュリティの関係性

みなさん、こんにちは。
トレンドマイクロでクラウド環境向けのセキュリティ製品のマーケティングを担当している岡本です。
AWS re:Invent初参加ということで、アメリカ入国や英語力に不安を感じつつの渡米でしたが、Keynoteを中心に生成AI関連のアップデートラッシュに大興奮する結果になりました。
それと同時に「生成AIにセキュリティを絡めた最新情報を日本に持って帰りたいなぁ」という期待をもって自社セッションに参加してきましたので、その内容をこの場でご報告していきたいと思います。

今年のre:Inventでは、生成AIに関連する新サービスのリリースや既存サービスのアップデート、ユーザ企業における活用事例など様々な情報が発表されました。

AWSは生成AI関連のサービスをインフラ、ツール、アプリケーションという3つのレイヤーに分割。レイヤーごとにAmazon SageMakerやAmazon Bedrockといった既存サービスのアップデートや新サービスのリリースが発表されました。

多くのアップデートの中でも特に注目を集めたのがAmazon Qという新サービスです。
Amazon Qはチャット形式でユーザの質問に回答してくれる生成AIアシスタントサービスで、AWSの生成AIスタックの中ではアプリケーションレイヤーに位置づけられる新サービスです。

生成AIの活用と聞いて「よし、じゃあ明日からAmazon SageMakerを使って機械学習モデルを構築して～」となる企業はそう多くはないと思います。
それに対してAmazon Qの場合は、AWS Management Consoleにログインするだけで誰でも使える、しかもチャット形式で利用できるという使いやすさも注目を集めた理由のひとつだろうと感じました。

開発担当者にとってAmazon Qは、新たにコードを書く際はもちろん、秘伝のソースと化したコードの解読を助けてくれる非常に心強いパートナーになるかもしれません。
運用担当者にとっては新システムの構築やトラブルシューティング時に、コールセンターのオペレーターにとってはお客様との対応をスムーズに進める際の優秀なアシスタントになる可能性があります。

AWS re:Invent期間中に発表されたAmazon Q in Connectのように、Amazon Qは今後Amazon Q in 〇〇といった形でAWSの各種サービスとの連携がより密になっていくのではないでしょうか？

また、生成AIは「どうやって学習させていくか」がキモになりますが、Amazon Qはユーザの情報を学習に利用しないという発表もあり、セキュリティを強く意識しているのも興味深いポイントでした。

Amazon Qをはじめ、今後ビジネスシーンでの活用が見込まれる生成AIですが、同時にサイバー犯罪者にとっても非常に有益なテクノロジーであることを忘れてはいけません。
トレンドマイクロはAWS re:Invent 2023内のセッションで「サイバー犯罪者は生成AIをどう使うか」「生成AIを活かしたセキュリティ」についてご紹介しました。

サイバー犯罪者は既に生成AIを活用した攻撃手法を積極的に採用しています。
わかりやすい例として、セッションでは生成AIを悪用した非常に巧妙なビジネスメール詐欺をご紹介しました。
生成AIにいくつかの条件を与えるだけで、ビジネスメールとして整った体裁、効果的な文面を瞬時に用意することができます。
さらに生成AIの多言語対応を悪用すれば、自分の母語ではない言語であっても従来の翻訳ツールにありがちな不自然さを感じさせないメールを簡単に作成できるようになっています。

生成AIを悪用したビジネスメールは、これまでビジネスメール詐欺の対策としてよく言及された「不自然な日本語」「ビジネスメールらしくない文体」といった判別方法では対応しきれません。
セキュリティベンダーは不審なURLやマルウェアの検出にとどまらず、AIや機械学習を利用してメール文面のトーンや微細な変化などからリスクを検知できるような検出力が求められるようになってきます。

さらに音声やビデオを悪用したなりすましやディープフェイクの高度化や、それらを既存の攻撃に組み込んだより高度な攻撃シナリオについてもセッション内で紹介しました。

こうした例からもわかるように、攻撃者にとっても生成AIは非常に重要なテクノロジーと言えます。
生成AIを悪用することで、これまで以上に高度な攻撃を今までよりも簡単に実行できるようになるのです。

当然ですが、セキュリティにとっても生成AIは非常に心強く効果的なテクノロジーです。
生成AIを悪用した攻撃による被害を防ぐためには、サイバー犯罪に対抗する我々も生成AIを活用していくことが重要です。

トレンドマイクロのセッションでは、セキュリティにおける生成AI活用の一例としてTrend Vision OneのCompanionという機能をご紹介しました。

Trend Vision Oneは、企業が平時からリスクの把握、評価、軽減を行うための「アタックサーフェスリスクマネジメント」と、マルウェア等の脅威や、脅威とは断定できない不審な挙動の抽出を行い、影響範囲や感染経路の特定、攻撃の全体像の可視化など、迅速な対処を行うことを支援する「XDR」機能をご提供します。
(Trend Vision Oneの1サービスであるTrend Vision One Endpoint SecurityはTrend Micro Cloud One – Workload Security™ の後継製品です)

CompanionはTrend Vision Oneのコンソール上で提供される生成AIを活用したチャット形式のアシスタント機能です。CompanionにTrend Vision Oneが検出したアラートや対処方法について質問することで、アラートの解説や対処方法のアドバイスを提供します。