ディープフェイクとプロンプト攻撃、拡大する生成AIリスク

ガートナーは2025年9月22日、「生成AIを巡る攻撃動向」に関する調査結果を発表しました。

Gartner Survey Reveals GenAI Attacks Are on the Rise

本調査は北米、欧州、中東、アジア太平洋地域のサイバーセキュリティ責任者302人を対象に、2025年3月から5月にかけて実施されたものです。その結果、62％の組織がディープフェイクを用いた攻撃を経験し、32％がAIアプリケーションに対する攻撃を受けたと回答しました。生成AIの導入が加速する中で、サイバー攻撃の手口も急速に高度化しつつあることを浮き彫りにしています。

特にチャットボットやAIアシスタントを標的とした「プロンプト攻撃」や、映像・音声を悪用した「なりすまし攻撃」が顕著であり、企業の認証システムや従業員とのコミュニケーションを狙う傾向が強まっています。ガートナーは「全体を刷新するのではなく、既存のセキュリティ体制を基盤にリスクごとに重点的な対策を講じることが求められている」と指摘しています。

今回は、この調査が示した主な脅威の種類、企業にとっての意味合い、そして今後必要とされるセキュリティ戦略について取り上げます。

生成AIアプリケーションへの攻撃が浮上

調査では、回答者の29％が「生成AIアプリケーションのインフラ」に対する攻撃を受けたと答えました。加えて、32％が「アプリケーションプロンプトを悪用する攻撃」を経験しています。これは大規模言語モデル（LLM）やマルチモーダルモデルに対し、攻撃者が意図的に操作するプロンプトを入力し、偏った回答や悪意ある出力を引き出す手法です。

この種の攻撃は、一見通常のユーザー利用と区別がつきにくく、従来の侵入検知システムでは防ぎにくい特徴があります。特に企業が導入するチャットボットやカスタマーサポート用AIが狙われるケースが多く、顧客対応の品質やブランド信頼性を損なう危険性があります。生成AIの導入拡大と並行して、こうした攻撃は今後さらに増加すると見込まれています。

ディープフェイクによる認証突破のリスク

回答企業の62％が「ディープフェイクを利用した攻撃」を経験しており、その中でも映像や音声を利用した認証突破が深刻です。調査では、27％が顔認証や本人確認プロセスに対するディープフェイク映像攻撃を受け、30％が音声認証を狙う攻撃を受けたと答えました。

生体認証は利便性と安全性を兼ね備える技術として普及が進んでいますが、AIによる精巧な偽造は既存のアルゴリズムを欺く可能性が高まっています。企業はセキュリティを強化するため、複数要素認証（MFA）の導入やディープフェイク検知技術の組み込みを進める必要があります。認証システムの強靭化は、デジタルサービスの信頼性を守るために不可欠となっています。

ソーシャルエンジニアリングの新たな段階

従業員を直接狙うソーシャルエンジニアリング攻撃も進化を遂げています。調査では、31％の企業が「ビデオ通話中にディープフェイクを用いた攻撃」を、38％が「音声通話を介した攻撃」を受けたと回答しました。特に後者では6％の組織が重大な被害を報告しています。

攻撃者は経営幹部や取引先を装い、緊急の送金や機密情報の提供を求めるケースが増えています。従業員にとっては映像や音声が「本物」に見えるため、従来の不審メール検知の延長では対処できません。企業は従業員教育に加え、通話時の認証プロセス強化や内部統制の徹底といった多層的な対策が必要です。

新しい脅威に対する戦略的アプローチ

ガートナーは調査結果を踏まえ、企業に「過度な刷新ではなくバランスの取れた対応」を推奨しています。67％のサイバーセキュリティ責任者が「新たなリスクは既存の枠組みでは対応困難」と回答しましたが、ガートナーは既存のコアコントロールを維持しつつ、新しいリスクカテゴリーごとに的確な強化を加えるべきだとしています。

例えば、プロンプト攻撃への対策としては入力監視やモデル挙動の検知システム、ディープフェイク攻撃への対応としてはAIベースの真偽判定技術やゼロトラストの徹底が考えられます。こうした「補強型アプローチ」によって、企業はコスト効率とセキュリティ強度の両立を図ることが可能になります。

今後の展望

生成AIを活用したサイバー攻撃は、今後さらに巧妙化し、従来の境界防御やルールベースの対策では限界を迎える可能性があります。特にディープフェイクを悪用した「なりすまし」は、金融取引、医療、行政サービスなど社会インフラに直結する分野で深刻な影響を及ぼすでしょう。

一方で、生成AIは防御側にとっても強力な武器となり得ます。AIを活用した脅威インテリジェンスの強化、自動化による異常検知、リスクシナリオの予測分析など、攻撃と防御の両面で技術競争が加速しています。AIの利用を「攻撃に追われる防御」から「攻撃を先回りする予防」へと転換していくことが重要となるでしょう。

出典：ガートナー 2025.9.22