ディープフェイクの脅威の増大：「信頼」を再考する必要がある理由とは？

この記事は、ソフォスの最前線でセキュリティ運用に携わるスペシャリストが、継続的に発信しているシリーズの一部です。ソフォスが業界をリードするMDR (Managed Detection and Response) サービスを強化し、進化する AI 時代の脅威からお客様を守るために活用している専門知識を紹介します。

組織は何十年もの間、「相手の声を聞き、ビデオ通話で相手の顔を見れば、その人物が本人であるとある程度信頼できる」という単純な前提に基づいて業務を行ってきました。しかし、AI 時代においては、この前提がもはや通用しない可能性があります。

こうしたインシデントが特に懸念されるのは、組織が日々頼りにしている「信頼」を悪用しているからです。

かつては、ソーシャルメディアなどで使われる面白い技術とみなされていたディープフェイクが、今や、あらゆる規模の組織が深刻に受け止めなければならない脅威へと進化しています。ディープフェイクは、従業員を欺き、本人確認プロセスを回避し、日々の業務を支える人間同士の信頼につけ込もうとするサイバー犯罪者にとって、すでに実用的なツールとなっています。

かつてディープフェイクは、膨大な計算能力と高度な技術知識が必要でしたが、今では無料で利用できるツールと一般ユーザー向けのハードウェアを使って、わずか数分で生成できるようになっています。セキュリティリーダーが直面する課題は、偽動画を検知することだけにとどまりません。AI 生成コンテンツが容易に利用できるようになるにつれて、組織は、人間の判断に依存するセキュリティプログラムから脱却し、複数の独立したシグナルによって信頼性を検証する仕組みへと移行する必要があります。

AI を悪用した攻撃の検知、検証、対応には、アイデンティティ、エンドポイント、通信、セキュリティ運用にまたがる可視性がますます求められています。こうした脅威に対して、個別のツールや分断されたプロセスで対応する組織は、変化のスピードについていくことが難しくなる恐れがあります。

ディープフェイクの蔓延

ディープフェイクの拡散を示す数字は驚くべきものであり、年々増加し続けています。Sumsub の「アイデンティティ詐欺レポート 2025 ～ 2026 年」によると、世界全体でディープフェイクを利用した攻撃は 2,100% 増加しており、ディープフェイクの台頭がもはや単なるテクノロジーの問題ではなく、ビジネスリスクとなっていることを浮き彫りにしています。

AI 生成コンテンツが、詐欺やなりすまし、ソーシャルエンジニアリング攻撃を助長するために利用されていることを目にする組織も増えています。2024 年には、香港の多国籍企業の財務部門の従業員が、約 2,500 万米ドルを送金してだまし取られる事件が発生しました。この従業員はビデオ会議に参加し、そこにいた他の参加者全員が AI によって生成された偽の人物で、その中にはその企業の CFO を装った人物も含まれていました。

ディープフェイク攻撃の被害を受けた組織は、直接的な金銭的損失だけでなく、深刻な評判の毀損にも直面します。顧客、パートナー、投資家は、その企業が自社の資産や通信を保護する能力を疑問視する可能性があります。また、データ保護法や新たに策定されつつある AI ガバナンスの枠組みによって、合成メディアによる脅威に対して合理的な安全対策を講じなかった組織が責任を問われる可能性あり、法規制上の影響もますます大きくなっています。

ディープフェイク攻撃が一度成功するだけでも、こうしたリスクが積み重なり、その後何年にもわたって組織に悪影響を及ぼす恐れがあります。

ディープフェイクが組織を標的に利用される方法

ディープフェイクに関する議論の多くは、検知に焦点を当てています。従業員は偽の音声を見破れるか？加工された動画を見分けられか？合成コンテンツであることを示す微妙な痕跡を特定できるか？といった議論が繰り広げられています。しかし、ディープフェイクでは、こうした判断材料を大規模に操作することがますます容易になっており、検知に関するこれまでの前提が崩れています。

音声ディープフェイク、つまり「音声クローン」は、CEO や上級幹部になりすまして財務部門や人事部門に電話をかけ、従業員に資金の送金や機密性の高い認証情報の共有を指示するために利用されています。この手口は、「ビッシング」または「音声フィッシング」とも呼ばれます。

動画ディープフェイクは、本人確認プロセスを回避したり、保護されているシステムへ不正アクセスしたり、ライブのビデオ会議中に従業員を操ったりするために利用されています。

ディープフェイクは、金銭的な詐欺にとどまらず、経営幹部や従業員にとって不利益なコンテンツを捏造し、脅迫や評判の毀損、インサイダーの脅威を誘発する機会を生み出すためにも利用されています。攻撃手段としてのディープフェイクテクノロジーは汎用性が高く、特に危険です。その手口はさまざまな形で適応させることができ、人間同士のコミュニケーションと信頼に依存する、ほぼあらゆる業務プロセスを標的にすることができるからです。

本当の問題はディープフェイクではなく、本人確認の方法

組織が直面する最も重大で、しかも十分に認識されていないリスクの1つは、訓練を受けた従業員であれば、リアルタイムでディープフェイクを確実に見分けられるという前提です。

個人が不審なコンテンツを見分ける能力を高めたとしても、AI 生成メディアの品質は向上し続けています。組織は、従業員が高度化を続ける AI システムを常に上回って判断できるという前提に基づいて、長期的なセキュリティ戦略を構築することはできません。

この課題が特に顕著なのが、カスタマーサポートやヘルプデスクの環境です。最前線の担当者は、カスタマーエクスペリエンス、業務効率、セキュリティ要件のバランスを取りながら、迅速な判断を下すことを求められる場合が少なくありません。そうした従業員に AI 生成による偽装への重要な防御を担わせることは、そもそもディープフェイク検知システムとして機能することが想定されていない人に、非現実的な負担を課すことになります。

とはいえ、ここから得られる教訓は、従業員が警戒する必要はないということではありません。しかし、ディープフェイクに対する重要な防御策として人間の直感に依存する組織は、実質的には玄関の鍵を開けたまま、誰もドアノブを回さないことを願っているようなものです。

ディープフェイクに対するレジリエンスを構築する方法

これまで、組織はシステム、デバイス、アプリケーション、データの保護を中心にセキュリティプログラムを構築してきました。ディープフェイクは、これまでとは異なる課題、つまり信頼を守ることの重要性を浮き彫りにしています。

AI の能力が進化し続ける中、組織はアイデンティティを示す情報が操作される可能性を前提とする必要があります。そのため、「観察して信頼する」から「検証して信頼する」ことに対策を転換することが求められます。

ディープフェイクに関連するリスクを低減するために、組織が講じられる具体的な対策には、次のようなものがあります。

• 多要素認証と帯域外検証プロトコルを導入する。重要な要求に対してアクションを実行する前に、別途あらかじめ確立した通信チャネルを通じて追加確認を行うなどの手順を導入します。これにより、音声や動画のディープフェイク攻撃の有効性を大幅に低減できます。正当に見える要求であっても、実行する前に、あらかじめ定められた手順に従って検証する必要があります。
• AI を活用したディープフェイク検知ツールに投資する。人間の目では見分けにくい、音声や動画コンテンツに含まれる微妙な特徴を分析するツールを導入します。これらのツールは、不自然なまばたきのパターン、照明の不整合、音声周波数の異常などを検知できます。
• 経営幹部からのコミュニケーションを検証するための明確な社内ポリシーを策定する。特に、金銭の取引や機密データに関わるコミュニケーションについて、検証手順を明確に定めます。
• 多層防御のプローチを採用する。テクノロジー、ポリシー、従業員向けのセキュリティ意識向上トレーニングを組み合わせ、いずれか 1 つの要素に過度に依存しないようにします。
• 検証することを思いとどまらず、推奨する文化を醸成する。従業員が、誰からの要求に見えるかにかかわらず、通常とは異なる要求について立ち止まり、疑問を持ち、正当性を確認できるようにします。

こうしたプロセスを導入すると、一部の業務フローに新たな手間が生じる可能性があります。しかし、詐欺や侵害の被害を実際に受けた後の復旧に比べれば、その影響ははるかに小さいものです。

AI 時代の脅威には、連携した防御が必要

ディープフェイクは単独の問題として語られることが多いものの、AI を悪用した脅威が広がる中で、脅威の一要素として捉えなければなりません。

合成音声を使った攻撃は、最終的には、侵害されたアイデンティティ、エンドポイント上の活動、クラウドサービス、メールシステム、コラボレーションプラットフォーム、機密性の高い業務アプリケーションなどに及ぶ可能性があります。セキュリティチームは、インシデントの全容を把握し、効果的に対応するために、これらの環境を横断した可視性を確保する必要があります。

ここで、セキュリティアーキテクチャがますます重要になります。

組織には、個別のポイント製品として独立して機能するのではなく、相互に連携して機能するセキュリティ制御が必要です。アイデンティティ、エンドポイント、通信、セキュリティ運用にまたがるシグナルを関連付けることで、防御側は不審な活動を早期に特定し、インシデントが発生した際にも、より効果的に対応できるようになります。

こうした連携した防御の必要性が、セキュリティ戦略が AI ネイティブなアプローチへと進化している理由の 1 つです。AI ネイティブのサイバーセキュリティ防御システムである Sophos Fusion は、現代の攻撃が個々のセキュリティシグナルだけでは把握できないという前提に基づいて構築されています。そのため組織には、環境全体から得られる洞察を相互に結び付ける能力が必要です。これにより、セキュリティチームは、連携した防御戦略の一環として、AI を悪用した攻撃を、より迅速に、より多くの状況情報を踏まえて検知、調査、対応できるようになります。

信頼の未来

ディープフェイクの時代が到来し、組織がどのように信頼を確立するのかについて、根本的な見直しが求められています。今後数年間にわたって、組織が直面する課題は、動画、音声、画像が本物かどうかを単純に見極めることではありません。本物であることをもはや前提とできない世界で、いかに安全に業務を行うかを考えなければなりません。

このような環境で信頼を確立するため、組織はセキュリティ戦略を早急に適応させる必要があります。そうした組織は、信頼に関する従来の前提から脱却し、AI 時代の現実を踏まえて、レジリエンスの高い検証プロセス、多層的な防御、そして連携したセキュリティ運用を構築できます。

もはや問題は、ディープフェイクが組織に影響を及ぼすかどうかではありません。信頼そのものがサイバーセキュリティ上の課題となった未来に向けて、組織が備えられているかどうかが問題です。