ソーシャルエンジニアリングは、技術的な脆弱性ではなく、人間の心理や組織の手続きの隙を突いて情報や金銭を奪う手法です。かつては肩越しに入力を盗み見る「ショルダーハッキング」のような原始的な方法が中心でしたが、いまはフィッシングメール・偽電話・偽チャットが主流になり、さらに生成AIの登場でメール文面・音声・動画をリアルタイムに合成できるようになりました。人間が「違和感」を頼りに見抜く余地は、ほとんど残っていません。かつて高コストだった「人間らしい文章生成」や「リアルタイム音声合成」が一瞬・低コストで手に入るようになった結果、生成AIを使ったソーシャルエンジニアリング攻撃の被害は増え続けています。本記事では、最新の統計と事例をもとに、防御側がいま取るべき対応を整理します。
生成AIによるソーシャルエンジニアリング攻撃の最新事情
ソーシャルエンジニアリングとは、技術的な脆弱性ではなく、人間の心理や組織の手続きの隙を突いて不正な情報取得や金銭詐取を行う手法を指します。従来は、肩越しに入力を盗み見る「ショルダーハッキング」や来訪者を装って侵入する尾行型など、いわば原始的な方法が主流でした。それが現在では、フィッシングメール・偽電話・偽チャットへと置き換わっています。
そして生成AIの登場が、この流れを決定的に変えました。メール文面・音声・動画をリアルタイムで合成できるようになり、人間が「違和感」を手がかりに見抜く余地はほとんどなくなっています。コストの面でも、かつて高くついた「人間らしい文章生成」や「リアルタイム音声合成」が、一瞬かつ低コストで使える時代になりました。その結果、生成AIによるソーシャルエンジニアリング攻撃の被害は拡大の一途をたどっています。
最新統計とインシデント
まず、この状況を裏付ける最新の統計とインシデントを3つ紹介します。
Arup社 Deepfake事件（2025年2月）
香港拠点の財務担当者が、《CFO・財務本部長・監査役》を名乗る5名とZoom会議を行い、24時間で15件の国際送金（1件あたり平均170万USD）を承認しました。CFOは欧州出張中で、時差を理由に追加確認を拒まなかったこと、そして会議の映像・音声・背景ノイズまでリアルタイム生成されたディープフェイクだったことが被害につながりました。送金先は香港・シンガポール・UAEの9口座で、捜査当局が凍結できたのは8口座（約1.3M USD）にとどまっています。
BECによる被害額は37.3億USDに
FBI IC3は2024年、BECに関する苦情22,189件・損失総額37.3億USDを記録したと発表しました。IC3内のRecovery Asset Team（RAT）は3,008件の凍結要請を処理し、66%（538M USD）の資金を回収しています。
生成AIフィッシングの増加
IBM Security Threat Intelligence Index 2025は、AI生成フィッシング検体を約200万件と推計しています。前年（108万件）比で84%増という伸びです。特に「金融」「ヘルスケア」の2業種で62%を占め、誤字脱字率は従来の6.9%から0.8%に低下しています。
生成AIが生んだ6つの新たな脅威
これらの事例が示すように、生成AIの進化によって従来のソーシャルエンジニアリング詐欺は高度化し、手法も多様化しています。ここでは、生成AIによって生まれた新しい詐欺手法を6つ解説します。
脅威①：AI生成フィッシング
典型的な流れはこうです。攻撃者はまずLinkedIn APIとダークウェブの「購買リスト」から役職・案件・購買コードを収集します。次にLLMにプロンプトを与えて敬体のメールを生成させ、社内テンプレートと99%合致する署名ブロックを自動挿入します。最後にSaaS請求ドメインを偽装して送付します。実際に北米のSierp法務部では、9万USDを誤送金する事例が発生しました（2025年5月）。機械学習ベースの誤字検知もSPF／DKIM検査もすべて通過してしまうため、従来のルール型フィルタでは検知が難しいのが特徴です。
脅威②：ディープフェイク音声・動画
YouTubeやウェビナーからわずか3分程度の音声を抽出すれば、そこから音色モデルを構築できます。その声をZoomの「バーチャルカメラ」機能と組み合わせ、本人そっくりの顔・背景・照明まで合成すれば、会議の中でリアルな送金指示を出すことも可能です。Arup事件では、この手法で15本・平均170万USDの国際送金が実行されました。声や映像だけでなく、エアコンの風音やキーボード音まで再合成されるため、人間の五感では違和感を覚えにくくなっています。
脅威③：ヘルプデスク偽装 & MFA奪取
生成AIが作成した電話スクリプトで「スマホを紛失したので緊急でMFAをリセットしてほしい」とサポート担当者を急かす手口です。2025年4月には、米SaaSベンダーで140アカウントが乗っ取られました。Okta→Salesforce→経費精算と権限の連鎖が加速し、多層的な被害に発展します。
脅威④：AIスクレイピング・スピアフィッシング
攻撃者はLinkedIn、GitHub、IR資料を自動スクレイピングし、昇進直後の管理職や新規プロジェクトの責任者を抽出します。車やゴルフといった趣味の話題をメール本文に自然に織り交ぜて心理的な距離を縮めるのも常套手段です。2025年6月には、日系メーカーの新任PMが開発仕様書を外部ストレージに誤共有する事案が起きました。公開情報だけで精密なプロファイルが作られるためSOC側にアラートが上がらず、検知が難しかったことも被害の一因です。
脅威⑤：多言語スミッシング
LLMは英語と日本語を自然にコードスイッチできるため、国際SMSを経由しても翻訳エラーとして検出されません。2025年7月には、在日外資3社でBYOD端末180台がマルウェアに感染しました。国番号フィルタを迂回し、文面に海外出張の日程やフライト番号を含めることで信頼感を高めています。
脅威⑥：AIドロッパー文書
LLMがPDF／Officeファイル内のJavaScriptをAESで暗号化し、添付ファイルとして拡散する手口です。開封するとDLL（Dynamic Link Library：Windowsで機能を追加する動的リンクライブラリ）をダウンロードし、C2サーバー（Command & Control：攻撃者が遠隔操作やデータ回収に使う管理サーバー）へ接続します。EDRが反応する頃には機密情報はすでに抜かれています。2025年5月に欧州の製薬企業で研究データが流出した事件では、サンドボックス解析に20分以上かかり、リアルタイムの検知が間に合いませんでした。
事実から読み取れる3つの本質
これらの事実をもとに、生成AIが進化したこの時代のセキュリティについて、私たちは何を学ぶべきでしょうか。Yaguraは、次の3つのギャップが今後のソーシャルエンジニアリング対応における重要な論点になると考えています。
①速度ギャップ
人間と生成AIの間には、速度のギャップが生まれています。生成AIは秒単位で、まるで本人が書いたかのような詐欺メールを生み出しますが、人間がそれを詐欺と判定するには数十秒から数分を要します。時間をかけても判定できないケースも珍しくありません。
このような時代には、防御側も生成AIを活用しなければ、高度化・高速化する攻撃に耐えられません。幸い、生成AIの発達によって、すべてのメールを確認し不審なものを検知することが防御側でも低コストで実行できるようになりました。速度ギャップを埋めるうえで、防御側の生成AI活用は避けて通れません。
②コストギャップ
攻撃側のコストが大幅に下がったいま、月数十ドルの投資で数百万〜数千万ドルのリターンを得ることが可能になっています。このコストギャップこそが攻撃者の利益の源泉であり、生成AI防御に取り組んでいない企業への攻撃は今後さらに加速すると予想されます。
特に日本は、これまで日本語の難しさが障壁となって攻撃されにくく、その分だけ防御側のリテラシーも十分に育っていません。生成AI攻撃への防御ができていない企業が甚大な被害を受けるリスクは、非常に大きいと考えられます。
③認知ギャップ
生成AI攻撃のリアリティに対する、認知のギャップも広がっています。生成AIによるメール文面やディープフェイクの映像・音声は、もはや本人の家族でも見分けられないレベルに達しています。日本では言語の壁を理由に高度なディープフェイクは作られにくいとされてきましたが、直近の生成AIの発達はその壁を越えました。
それでもなお「この映像が本人でないはずがない」という思い込み、つまり生成AIの品質に対する認知ギャップが残っており、これが被害を拡大させる一因になっています。
防衛ロードマップ
では、この3つのギャップを埋め、ソーシャルエンジニアリング攻撃の被害を食い止めるには、どのような対策を取ればよいのでしょうか。
STEP1：ヒトによる防衛
まずは、人を訓練することで攻撃を食い止める対策です。実際のシミュレーションを通じて従業員の耐性を高めれば被害を一定程度抑えられますが、人間である以上リスクをゼロにはできません。そのため、STEP2で解説するテクノロジーによる防衛との組み合わせが前提になります。人による防衛には、具体的に次のような取り組みがあります。
AIシミュレーション訓練
AIで生成した実際の攻撃をシミュレーションします。攻撃メールに対する個人ごとのクリック率を測定し、その数値を下げることを目標に、部門別シナリオ（経理・人事・開発など）をローテーションします。訓練完了率をダッシュボードで全社に公開し、可視化によって行動変容を促します。
ディープフェイク対応ブリーフィング
ミーティング形式で、実際に生成した偽CFO映像2本を上映し、受講後のクイズで理解度を可視化します。
BECロールプレイ
リアルタイム声紋変換ツールを使い、偽のCEOが突然電話をかけてきて送金を要求するシナリオを実施します。
STEP2：テクノロジーによる防衛
人を訓練するだけでは、ソーシャルエンジニアリング攻撃を完全には防げません。そこで、システム側に次のような対策を組み込み、根本的な解決を図ります。
人の注意力に頼らずにリスクを抑え込めるよう、検知・無害化・封じ込め・証跡保全までを一気通貫で実施できる仕組みをシステムに持たせる点が特徴です。
送信前AIチェック
メールを送る前にAIが本文と添付を読み、普段と大きく異なる内容であれば自動で止めて担当者に知らせます。誤送信や内部不正を「送る前」に防ぎます。
ファイル安全化
受け取ったPDFやOffice文書をいったん分解し、マクロや悪質なコードを取り除いて安全な形に作り直します。処理は一瞬で終わるため、使い勝手は変わりません。
顔と声の本人確認
オンライン会議や重要なログインの前に、1〜2秒だけ顔と声を確認して本人かどうかを判定します。AIが偽動画や偽音声（ディープフェイク）を見抜きます。会議は自動で録画され、改ざんできない形で保護されます。
行動モニターと自動隔離
ユーザーや端末の動きを常時記録し、怪しい行動が一定以上になった時点で、その端末をネットワークから即座に切り離します。同時に、担当チームへ数十秒で通知します。
脆弱性のデイリーチェック
インターネットに公開している自社サーバーやポートを毎晩自動で調べ、不要なサービスや脆弱性のあるページを見つけたら閉じることで、攻撃の入口を減らします。
ログ/メモリの自動保存
重大なインシデントを検知した瞬間に、関連ログやメモリ情報をコピーし、改ざん防止の印を付けて安全な場所へ保管します。原因調査や法的対応に役立ちます。
まとめ
生成AIの進化は、従来「人海戦術」に頼っていたソーシャルエンジニアリング攻撃を、高速・低コスト・高精度で実行できるビジネスへと変えました。本稿で示した6つの脅威にはいずれも技術的な防御手段が存在します。それでも被害が広がるのは、「ヒトの思い込み」「組織の手続きの遅さ」「投資判断の先送り」という非技術的な要因があるからです。
攻撃コストをリターンが大きく上回る現在、ソーシャルエンジニアリングへの防御はもはや必須です。大きな被害を出す前に、生成AIによる攻撃への対策を今日から進めていきましょう。
参考文献（抜粋）
World Economic Forum “Deepfake Heist Hits Engineering Giant” (2025‑02‑18)
FBI IC3 Report 2024, p.10
IBM Security “Threat Intelligence Index 2025”
Pindrop “Pulse: Real‑Time Deepfake Detection” (2025‑06‑12)
その他、Tripwire・InceptionCyber・Unit 42・F‑Secure 各種レポート
