AIがもたらす「毒」と「薬」 - Interop Tokyo開催レポート

Interop Tokyo 2024開催レポート

2024年6月14日～16日の期間、「Interop Tokyo 2024」が開催され、トレンドマイクロも出展しました。本稿ではその開催概要や当日の様子をレポートします。

Interop Tokyoはインターネットテクノロジーのイベントで、毎年数百の組織が参加する展示会です。これまでに30回以上開催されてきており、毎年多くの技術やソリューションなどの情報が展示・共有されます。今年は542社（昨年475社）が出展していました。

会場は多くの出展ブースとそこでの各社プレゼンやブースの間を行きかう様々な人の話し声で賑わっており、大きな盛り上がりを見せていました。編集部は6/12(水)にお邪魔しましたが、Interopの公式サイトによれば来場者数は6/12単日で38,459人、3日間トータルでは124,482人が会場に足を運んだとのことです。

会場は幕張メッセを使用していることもあり、大変大きく様々な企業が出展しており、とても数時間で全てのブースは回り切れないように感じました。当社ブースにお越しの方とお話した際には、3日間連続で参加するつもりの方や、有休をとってお越しになっており、丸一日かけて回るつもりとおっしゃっている方などもいらっしゃいました。

インターネットテクノロジー関連のイベントということもあり、参加者としてはシステムインテグレーターの方やシステムエンジニアの方が多く見受けられ、まんべんなく情報収集を行っている方とお話する機会がたくさんありました。

トレンドマイクロのブースではXDRやASRMといったソリューションについて、実際の画面を展示し、来場された方に個別に説明を実施しました。

編集部も当日何名かの来場者様とお話させていただきましたが、XDRやASRM（アタックサーフェスリスクマネジメント）の具体的な仕組み（ネットワークやクラウド環境の監視はシステム上どう行うのか。エージェントをインストールしているのか。など）に興味を持たれる方が複数名いらっしゃいました。

もし読者の中で同様にXDRやASRMといった技術の具体的な仕組みに興味をお持ちの方がいらっしゃいましたら、トレンドマイクロが今年7月に開催する自社カンファレンス「2024 Risk to Resilience World Tour Japan」においても展示・紹介ブースを設けますので是非ご参加ください。

また当社ブースにおいてはミニプレゼンも実施し、時間帯によっては多くのお客様に耳を傾けていただき、立ち見のお客様で前方通路がふさがるほどの盛り上がりを見せていました。

ミニプレゼンでは、展示でも強調しているXDRやASRMといったソリューションに加えて、ゼロトラストやMDR、AIやサプライチェーンリスクなど多岐にわたるテーマで複数回プレゼンを実施しました。

AIがもたらす「毒」と「薬」を解説

今回、Interop全体を通してAIにまつわる技術や各社におけるAI技術の活用手法に関する展示が多かった印象を受けました。OpenAIがChatGPTを2022年末にリリースして以来、火が付いたAI技術への期待感は今でも伸長しており、どのような活用が可能か各社検討を重ねている様子がうかがえました。

トレンドマイクロも、そうしたAI技術を駆使する会社の一つであり、同時にAI技術の進展に伴って発生するであろう、サイバー上の脅威について、いかにお客様のビジネス環境を守れるかという視点で研究や製品開発を続けている会社です。これらの経緯もあり、トレンドマイクロの基調講演の中ではAIがもたらす脅威＝「毒」とAIがセキュリティにもたらす恩恵＝「薬」に二面に分けて解説を行いました。以降講演内容を一部抜粋して振り返ります。

講演には1300人以上の登録があり、会場席数400に対して大きく上回るお申し込みをいただきました

AIによってもたらされる「毒」の1つとして、アンダーグラウンド市場で観測されているサイバー犯罪者の動きなどを解説しました。
具体的には、アンダーグラウンド市場において「Dark AI」というAIを悪用する為の商品やPoCなどが掲載される専門セクションが設けられていることや「WormGPT」というサイバー犯罪向けの生成AIツールの紹介などを行いました。

サイバー攻撃者が生成AIでディープフェイクを作るだけでは、組織の脅威になり得ないのでは？という疑問に答える為に下記のツールを紹介しました。

このスライドに記載されているKopeechkaというソーシャルメディアアカウントを自動で作成するツールを駆使することで、SNSのアカウントを大量に作成できることを確認しています。
このツールを悪用したシナリオとして例えば、選挙の際などに特定の陣営に関するマイナスイメージをもたらすフェイク動画が作成され、急速に本ツールを用いて拡散されるようなケースが想定できます。多数のアカウントに引用されることにより、真実味が増してしまい、実際の支持者の数が減少したり、実態に反するイメージがまん延したりしてしまうかもしれません。こうした印象操作＝インフルエンスオペレーションが現実に発生、または影響を及ぼしてしまう可能性があり、これも生成AIによってもたらされる「毒」の一種になりかねない、ということです。

他にも、上記のようなサイバー攻撃用に構築された生成AIツールだけでなく、現在すでに確立されている正規の生成AIについても悪用される可能性があります。

スライドに記載されている通り、マイクロソフトが開発したAI音声生成ソフトウェア「VALL-E　X」では、わずか3秒のサンプル音声があれば自由にサンプルとなった人物の声で文章音読が可能となります。講演の中では実際に使用した動画を見せ、その性能を紹介するとともに、こうした技術の台頭によって専門技術の無い一般人でもディープフェイク製作に参入できてしまう状況にあることを説明しました。

「毒」パートの最後に、ディープフェイク作成だけでなく、マルウェア作成に生成AIが使用される可能性についても触れました。トレンドマイクロの研究では現在の生成AIの機能だけではそうしたマルウェア作成やフィッシングページの作成は限定的な状況にあると見ています。

ただし、最新情報として生成AIを悪用してランサムウェアを作成した男が逮捕された事案や、GPT-4を使用して脆弱性攻撃を行った場合の成功率が87%であった情報を踏まえると、そう遠くない未来にこれらの脅威が降りかかってくる恐れがあるという点について注意が必要です。

一方で薬に該当する部分ですが、こちらは主に3つに分類されます。脅威の発見・脅威の予測・運用アシストの3つです。

膨大なデータから一瞬で統計的傾向を計算することや、従来は時間がかかっていたイラストの作成など、AIや生成AIは「そもそも人間にはできないこと」や、「人間にできても時間や労力がかかること」を代理で実行するために使用されてきました。
これはサイバーセキュリティの世界においても同様です。膨大なログの中から怪しい挙動を見つけ出すことや過去の統計から将来的に起こり得る脅威を予測するなどといった活用がこれにあたります。
また対話型の生成AIを駆使してセキュリティ対応の具体的な手法解説や怪しいログの危険性に関する説明がリアルタイムに受けられることなどにより、セキュリティ対応が効率化されることが考えられます。

最後に当社の製品におけるAI活用についても説明しました。具体的にはビジネスメール対策などにおけるなりすましを見抜くために、メールセキュリティソリューションにおいてAIを活用してきたことなどがあげられます。Trend Micro Cloud App Security、Trend Vision One - Email and Collaboration Securityの「Writing Style DNA」機能では、空白行、略語、太文字の使用頻度、文章量、よく使う言い回しなどを元に、AIがなりすましメールを見抜くことができます。

他にも対話型生成AIを用いた「Trend Vision One – Companion」の機能によって、セキュリティ対応のサポートが受けられることを説明しました。

「Trend Vision One – Companion」の回答画面（推奨の対応方法を回答している）

Trend Vision One – Companionはアラートやスクリプト、コマンドの内容を、分析担当者に分かりやすい言葉で伝えることや、検索用語に慣れていない担当者に対し、的確な検索クエリを提示するなどのサポートを実行します。さらに、インシデントの発生後にセキュリティ対応のプレイブックを自動実行する機能なども含まれています。

最後に

編集部では、当社ブースにお越しの方とも複数名会話させていただきました。皆様の業務の中での課題として共通していたのがやはり人材不足や予算不足といった点でした。
また今回、会場内の様々なブースでも生成AIを活用した業務効率化が多数取り上げられておりました。日本の人口予測を鑑みるとAIへの期待が人材やリソースの不足解消に向かうのは自然なことと言えます。

上述の通り、サイバー攻撃の巧妙さがAIの導入によって目まぐるしく向上する可能性がある一方で、防御側であるセキュリティソリューションにおいても素早い変化が生じることが予想されます。
今回のようなイベントに参加して、最新情報を取得し組織の防御体制の向上に活かしていく試みが今後も必要とされるでしょう。