AI進化の先にあるのは善か悪か？～2024年の“デジタルジレンマ”を読み解く
AIでアバターを生成し、すで亡くなった人と会話できるディープフェイク・ビジネスが拡大。AIが進化する未来社会、どのような生活が私たちを待ち受けているのでしょうか。当社が2030年の未来社会とサイバー犯罪について予測したレポートの発行から3年。2024年の状況を踏まえ、その現在地を考察します。
亡くなってしまった愛する人や、大切な人ともう一度会話をしたい―。遺された人々の癒しのために、亡くなった人のアバターをAIで生成するサービスが中国で拡大しているといいます。
ご想像の通り、このアバターにはディープフェイクが用いられています。ディープフェイクと聞くと、私たちはついサイバー犯罪への悪用やいたずら目的といった「悪」の面を想像してしまいがちです。しかし、残された家族が癒しを得るために、ディープフェイクを活用する―。このような形のAI活用は、同意の問題や著作権の侵害など、倫理的な課題はまだ山積みではありますが、受け入れたいという意見があるのも理解ができます。
参考記事：生成AIでランサムウェアを作成した容疑者の摘発事例を考察
参照先の記事によれば、このサービスはより多くのデータ（その人物にまつわる写真、動画、音声記録、テキストなど）を取り込めるほど、より本人に近い模倣ができるということです。さらに、これに拡散モデル・大規模言語モデルの活用をすることで、動いて会話するクローン人間のような「デジタルコピー」を作ることが可能となるというのです。
私たちは、AIの進化によってもたらされる善悪の狭間で、何を知り、考えておくべきでしょうか？そのヒントが、未来のシナリオを描いた1つのドラマです。
今から3年前となる2021年、トレンドマイクロは2030年の未来社会を描くドラマをリリースしました。
元となったレポートは、これまで確認されたサイバー攻撃やサイバー犯罪事例の分析をはじめ、情報セキュリティやデータ保護、法執行、国際関係の各分野における100人以上の専門家の意見のヒアリング結果、新興テクノロジーに対する広範なホライゾンスキャニング※を参考に、2030年頃に世界の一部地域で起こり得ることとして考案したものです。
※horizon scanning：今後大きなインパクトをもたらす可能性のある変化の兆候をいち早く捉え、将来的な展望を得ることを目的とした調査・分析活動。社会や経済、環境、政治分野などへの影響が大きいと考えられる科学技術分野の新興テクノロジが調査対象となることが多い。未来学の1つとされる。
レポート全編（日本語版）はこちらからダウンロードできます
ドラマはそのレポートを原作として作成されました。そこでは、上述した人間の「デジタルコピー」が完璧に仕上がっており、生活の一部として機能している世界が描かれています。
ドラマにおいては、あらゆるものが接続（コネクテッド）され、すべての個人に関わるデータ、睡眠パターンや栄養状況などが体内に埋め込まれたデバイスから医師などに共有され、食べ物が4Dプリンタで生み出される。そして、デジタル空間を介した人との会話は、まるで目の前に本物の人がいるのではないかと感じるリアルさをもって行われ、フィジカルとバーチャルが融合した生活が展開されています。
つまり、そこには、サイバー空間とフィジカル空間がより緊密に連携する世界－サイバー・フィジカル・システムの世界が広がっています。
フィジカルとバーチャルの境界線があいまいになったそのドラマの世界においては、もはや何が「リアル」と判別できるのか非常に難しい世界です。
デジタルに目の前に映し出される人間は本当にフィジカルには存在するのか？どうやって確かめるのか？
一見すると、このドラマはSFのような世界に見えるかもしれません。しかし、前述したディープフェイク・ビジネスの現実化、加速するAIの進化とIoTの普及、そして高度な分散処理を実現するエッジコンピューティングの普及による膨大なデータの増加を考えれば、このドラマで描かれている世界は現実味を帯びてきているとも言えるのではないでしょうか。
話は戻って現実の2024年、このようにOpenAIなどがもたらした“生成AIショック”により、かつてないほどの注目がAIに集まり利活用が様々なところで進んでいます。すでに私たちはAI活用を前提としてビジネスの変革を考える時代に突入してきており、この流れはもはや止むことはなく、ますます加速していくことでしょう。
一方で、前述したような、サイバー犯罪にもAIの悪用が広がっています。また、先に紹介したドラマの中では、個人のバイタルデータなど、機密性の高いプライバシーデータまでを単一デジタルIDに紐づいて管理されるべきかどうか、などの議論もなされています。詳細個人データの統合管理が実現すれば、人々の「よい行い」の施策の展開や行政の効率化は加速する一方で、そのデータの一部がサイバー犯罪者の手に渡った場合の影響は、計り知ることができません。
AIの発展がもたらす未来、そしてセキュリティ課題に、私たちはどのように向き合っていくべきでしょうか。そこには、AIの活用がやはり欠かせません。AI技術の活用を前提として、私たちは複雑化するセキュリティ課題に向き合い、解決策を考えていくことが求められています。
トレンドマイクロでは、「“AI × セキュリティ”が進む先」をテーマに7月23日東京、8月1日大阪でサイバーセキュリティカンファレンス「2024 Risk to Resilience World Tour」を開催します。セキュリティのエキスパートを始め、リスクコントロールの最前線にいらっしゃるお客様をお招きし、AIとセキュリティが描く未来とリスクについて議論する予定です。ぜひ会場で、熱のこもった議論・プレゼンを体感いただければ幸いです。
＜関連記事＞
・Project 2030：「未来を予測する」とは何を意味するのか
・生成AIでランサムウェアを作成した容疑者の摘発事例を考察
・生成AIのビジネス活用と考慮すべきリスク
・生成AIとセキュリティ
Security GO新着記事
暗号資産マイニングマルウェアとは？～事業停止にもつながるサイバー脅威～
（2024年10月31日）
Telegram（テレグラム）とは？サイバー犯罪に悪用される理由
（2024年10月31日）
地政学リスク、CISOがやるべきことは？
（2024年10月30日）
