AIを悪用したサイバー攻撃の脅威と最新の防御策
「ChatGPTを使えば、専門知識がなくてもマルウェアが作れてしまう」──そんな懸念が現実になりつつあります。
2024年5月、日本でも生成AIを使ってランサムウェアを作成した男が逮捕されました。IT業界での勤務経験がないこの容疑者は、非公式版のChatGPTを悪用してマルウェアを開発。かつては専門的な知識が必要だったサイバー攻撃が、AIの登場によって誰でも実行できる時代に突入したことを象徴する事件でした。
実際、生成AIの普及に伴い、フィッシング攻撃は1,265%増加し、2024年の国内セキュリティインシデント公表件数は587件と前年比で大幅に増加しています。しかも、その攻撃は日を追うごとに巧妙化し、AIが作成したフィッシングメールのクリック率は50%を超えるという調査結果も出ています。
一方で、AIは防御側にとっても強力な武器となり得ます。AIによる脅威の自動検知、リアルタイム監視、インシデント対応の高速化など、攻撃の高度化に対抗する手段としてAIの活用が加速しているのです。
この記事では、最新のデータと具体的な事例をもとに、AIを悪用したサイバー攻撃の実態と、それに対抗するための実践的な防御策を解説します。
AIとサイバー攻撃をめぐる現状──数字で見る脅威の拡大
深刻化する被害の実態
2024年、日本国内のサイバーセキュリティを取り巻く環境は一段と厳しさを増しました。トレンドマイクロの調査によると、2024年1月1日から12月15日までに公表された国内セキュリティインシデントは587件。これは前年の383件から約1.5倍の増加です。
平均すると1日あたり1.7件の被害が公表されている計算になり、毎日どこかで1〜2組織がサイバー攻撃被害を発表している状況です。
さらに注目すべきは、特定のマルウェアが集中的に被害を生んだわけではないという点。EMOTETのような特定の脅威ではなく、多種多様なサイバー攻撃が法人組織を標的にしていることが明らかになっています。
ランサムウェア被害の高止まり
ランサムウェア攻撃も深刻な状況が続いています。警察庁の発表によれば、2024年のランサムウェア被害件数は222件と、2023年に続き高水準で推移しました。
特徴的なのは、中小企業での被害が37%増加したという点です。RaaS（ランサムウェア・アズ・ア・サービス）と呼ばれるクラウドサービスの普及により、技術的な知識が少なくてもランサムウェア攻撃を実行できるようになったことが背景にあります。対策が手薄な中小企業が格好の標的となっているのです。
生成AIがもたらした攻撃の質的変化
生成AIの登場は、サイバー攻撃の量だけでなく質にも大きな変化をもたらしました。
2025年版サイバーセキュリティ統計では、生成AIの成長によりフィッシング攻撃が1,265%増加したと報告されています。従来は日本語の不自然さから見破れたフィッシングメールも、AIが生成すれば完璧な文章になり、専門家でも見分けがつかないレベルに達しています。
PwCの調査によれば、2024年に公表された脆弱性の件数は前年より31%増加し、実際の悪用件数は20%増加しました。攻撃者が利用できる攻撃対象領域が全体的に拡大していることを示しています。
AIを悪用したサイバー攻撃の主要な手法
AIの進化は、攻撃者に新たな「武器」を与えました。では、具体的にどのような手法が使われているのでしょうか。
ディープフェイクによるなりすまし詐欺
最も衝撃的な手法の一つが、AIで生成された偽の映像や音声を使った詐欺です。
2024年初頭、香港のある多国籍企業で、ディープフェイク映像を使った詐欺により約38億円が騙し取られるという前代未聞の事件が発生しました。攻撃者は企業の最高財務責任者（CFO）などの経営幹部になりすまし、ビデオ会議に参加。経理担当者は本物の幹部たちと会話していると信じ込み、送金指示に応じてしまったのです。
アメリカでも、2024年1月の大統領選期間中、バイデン大統領の声を模倣したディープフェイク音声により、ニューハンプシャー州で5,000名以上の住民に投票妨害の電話がかけられる事件が発生しました。政治の場にまでディープフェイクが悪用されたことで、社会的な影響の大きさが浮き彫りになりました。
自然な日本語によるフィッシングメール
従来のフィッシングメールは、不自然な日本語や誤字脱字が多く、それが見破る手がかりになっていました。しかし生成AIの登場で、この「言語の壁」が完全に取り払われてしまったのです。
Vadeの調査によると、ChatGPTがリリースされた2022年11月、フィッシングメールは4,700万件でしたが、12月には1億6,900万件を超え、前月比260%増を記録しました。
さらに、2024年11月に公開された学術論文では、AIが作成したフィッシングメールのクリック率が50%を超え、人間の専門家が作成したメールと同等以上の成果を出したことが報告されています。もはや文面だけで真偽を判断することは極めて困難になっています。
マルウェアの自動生成
専門知識がなくてもマルウェアを作成できる──これが生成AIがもたらした最も深刻な脅威の一つです。
国内でも2024年5月27日、生成AIを使用してランサムウェアを作成した男が警視庁に逮捕されました。容疑者は「ランサムウェアによって楽に金を稼ぎたかった」と供述しており、IT業界での経験もない人物でした。非公式版のChatGPTを悪用し、ファイルを暗号化して仮想通貨での送金を要求するプログラムのソースコードを作成していたとされています。
この事例が象徴するように、サイバー攻撃の参入障壁は劇的に下がりました。技術的な知識がなくても、AIに適切な指示を与えれば、悪意のあるプログラムを生成できてしまう時代になったのです。
AI駆動型の自動攻撃
より高度な脅威として注目されているのが、AIが自律的に攻撃を実行するケースです。
米国での報道によると、ハッカーがAIを用いて、マルウェアの自動生成から標的への脅迫文作成までを一貫して実行した事例が確認されています。攻撃の流れは以下の通りです。
まず、数千のシステムに対してスキャンを実行し、ログイン認証情報や管理権限を奪取します。次に、AIに指示して標的に応じたマルウェアを生成・設置し、取得したデータを業種ごとに自動分類します。防衛関連企業なら機密軍事ファイル、医療機関なら患者記録といった具合です。そして、AIが重要度に基づいて身代金を計算し、最終的には相手に最も効果的な表現で脅迫メールを送信します。
このような完全自動化された攻撃は、従来の手動攻撃とは次元が異なる脅威です。
DDoS攻撃の高度化
AIは、DDoS（分散型サービス拒否）攻撃の効率化にも利用されています。
AIがターゲットシステムの脆弱性を分析し、最も効果的な攻撃パターンをリアルタイムで調整することで、防御側の対策を回避しながら攻撃を継続できます。また、ボットネットの制御にAIを活用することで、より広範囲かつ持続的な攻撃が可能になっています。
2024年上半期の状況を見ても、政府機関や民間企業に対するDDoS攻撃が継続的に発生しており、サービス停止による業務への影響が深刻化しています。
実際に起きた被害事例──企業が直面するリアルな脅威
数字や手法の説明だけでは、その恐ろしさは十分に伝わりません。実際にどのような被害が発生しているのか、具体的な事例を見ていきましょう。
香港の多国籍企業──38億円のディープフェイク詐欺
2024年2月に公表されたこの事件は、ディープフェイクの脅威を世界に知らしめました。
攻撃者は事前に企業の公開情報から経営幹部の映像や音声を収集し、高精度なディープフェイクを作成。複数の人物になりすましてビデオ会議に参加し、経理担当者に送金を指示しました。被害者は、本物の経営幹部と会話していると完全に信じ込み、約2,500万米ドル（約38億円）を送金してしまったのです。
この事例が示すのは、目視や音声だけでは本人確認が困難な時代に突入したという事実です。ビデオ会議という一見安全な手段でも、ディープフェイク技術があれば容易になりすまされてしまいます。
国内大手企業への相次ぐランサムウェア攻撃
2024年6月、国内大手出版社のKADOKAWAグループがランサムウェア攻撃を受け、大規模なシステム障害が発生しました。この攻撃により、出版物の発売遅延やイベント中止など、事業に深刻な影響が出ました。
さらに同年10月には、大手製造業の企業も被害に遭遇。これらの事例は、企業規模の大小に関係なく、攻撃対象になり得ることを示しています。
特に注目すべきは、攻撃の手法が「ノーウェアランサム」と呼ばれる新しいタイプに進化している点です。従来はデータを暗号化して身代金を要求していましたが、新しい手法では暗号化せずに直接データを窃取し、公開すると脅迫します。暗号化のプロセスが不要なため、攻撃速度が速く、被害が表面化しにくいという特徴があります。
偽装従業員による企業侵入
2024年7月、米国のIT企業で、AIを悪用した画像を使ってソフトウェアエンジニアのリモート採用面接を突破した攻撃者が、企業から貸与されたPCにマルウェアをダウンロードしようとした事例が報告されました。
人材不足が深刻化する中、リモートでの採用が増加していますが、この事例は採用プロセス自体が攻撃の入り口になり得ることを示しています。AIによって面接時の映像を偽装されれば、見抜くのは極めて困難です。
中国系組織による自律的サイバー攻撃
2025年9月、サイバーセキュリティ業界に衝撃が走りました。中国系と目される脅威アクター「GTG-1」が、世界の30組織を標的に、ほぼ自律的なサイバースパイ活動を実施していたことが広く確認されたのです。
この攻撃では、AIが自律的に偵察、侵入、データ窃取を実行していたとみられています。従来の攻撃のように人間が常に関与する必要がなく、AIが状況を判断しながら攻撃を進めていく──まさに「AIがついに人類に牙をむいた」瞬間でした。
AIで守る──防御側のAI活用が切り開く可能性
ここまで攻撃側のAI活用について見てきましたが、AIは防御側にとっても強力な武器になります。攻撃の高度化に対抗するため、AIを活用したセキュリティ対策が急速に発展しています。
リアルタイム脅威検知と自動対応
AIの最大の強みは、膨大なデータをリアルタイムで分析し、異常を瞬時に検知できる点です。
従来のセキュリティシステムでは、既知の脅威パターンに基づいて攻撃を検知していました。しかしAIを活用すれば、過去のデータから正常な通信パターンを学習し、そこから逸脱した動きを「異常」として検知できます。これにより、未知の攻撃（ゼロデイ攻撃）にも対応できるようになります。
ガートナーの予測では、2028年までに脅威検知とインシデント対応におけるマルチエージェントAIがAI実装の70%にまで増加するとされています（2023年時点は5%）。
マルチエージェントAIとは、複数のAIエージェントが連携して動作する仕組みです。たとえば、ネットワーク監視に特化したAI、マルウェア検知に特化したAI、ログ分析に特化したAIなどが協働し、より包括的なセキュリティ対策を実現します。
脆弱性の自動発見とパッチ適用
AIは、システムやソフトウェアの脆弱性を自動的に発見する能力にも長けています。
非営利の業界団体「Frontier Model Forum」の報告では、AIが有効活用できる新たな領域として、脆弱性の発見や修正プログラム（パッチ）の適用が挙げられています。AIは複雑で未知な要素の多い状況で大きな力を発揮し、人間では見落としがちな脆弱性を発見できます。
さらに、発見された脆弱性に対して、適切なパッチを推奨したり、場合によっては自動的に適用したりすることも可能になりつつあります。
セキュリティ業務の効率化と人材不足の解消
セキュリティ人材の不足は、多くの企業が直面する深刻な課題です。AIはこの問題を緩和する有効な手段となります。
生成AIを活用することで、アラートやスクリプト、コマンドの内容を、セキュリティ担当者に分かりやすい言葉で説明できます。また、検索用語に慣れていない担当者に対し、的確な検索クエリを提示することも可能です。
インシデント報告に関連する作業をAIで自動化することで、ルーティン化された業務の負担を大幅に軽減できます。チケット対応、レポート作成、翻訳、マニュアルからの情報抽出などが高速化され、セキュリティチームはより戦略的な業務に集中できるようになります。
ガートナーの調査によれば、生成AIの導入により、2028年までに初級職種の50%において専門知識の必要性を排除できる見込みです。
インシデント対応の自動化
サイバー攻撃を検知した後の対応も、AIによって大幅に高速化できます。
インシデントの発生直後にセキュリティ対応のプレイブック（対応手順書）を自動実行することで、実質的な「戦力増強」につながります。人間が対応を開始するまでの時間を大幅に短縮し、被害の拡大を防げるのです。
また、AIはさまざまなリスクに対する対応優先度を自動的に振り分けたり、推奨される対処法を提示したりすることもできます。
企業が今すぐ実践すべき対策──実効性のある防御戦略
AIを活用したサイバー攻撃の脅威は現実のものとなっています。では、企業はどのような対策を講じるべきなのでしょうか。
多要素認証（MFA）の徹底導入
パスワードだけに依存するセキュリティは、もはや時代遅れです。
AIによる辞書攻撃やクレデンシャルスタッフィング（漏洩したパスワードリストを使った攻撃）は、従来型とは比べ物にならないほど高速・高精度になっています。AIがユーザーの誕生日や社名、部署名などの組み合わせを学習し、自動生成して攻撃を仕掛けてくるのです。
この脅威に対抗するには、多要素認証（MFA）の導入が不可欠です。パスワードに加えて、SMSでの認証コード、生体認証、ハードウェアトークンなど、複数の認証要素を組み合わせることで、不正アクセスのリスクを大幅に低減できます。
ゼロトラストモデルの実装
「社内ネットワークは安全」という前提は捨てるべき時代になりました。
ゼロトラストとは、「何も信頼しない」という考え方に基づくセキュリティモデルです。社内・社外を問わず、すべてのアクセスを検証し、必要最小限の権限のみを付与します。
AIを活用した攻撃では、一度侵入されると正規のツールや認証情報を悪用して内部を移動する「Living Off The Land」という手法が使われます。ゼロトラストモデルを実装することで、たとえ侵入されても被害の拡大を防げます。
従業員教育とAIリテラシーの向上
どれほど高度なセキュリティツールを導入しても、最終的に攻撃の成否を分けるのは「人」の判断です。
AIが生成する巧妙なフィッシングメールやディープフェイクによるなりすましを見破るためには、従業員一人ひとりのセキュリティ意識とAIリテラシーの向上が不可欠です。
具体的には以下のような取り組みが効果的です。
AIを利用した最新の攻撃手口に関する定期的な情報共有
不審なメールや指示に対する基本的な確認プロセスの徹底（たとえば、ディープフェイクが疑われる場合は別経路で本人確認を行う）
AI生成物の情報を鵜呑みにしない批判的思考の訓練
実践的なフィッシングメール訓練の実施
KPMGの調査によれば、生成AIを使ったランサムウェア攻撃やAIが翻訳した自然な日本語が悪用される「ビジネスメール詐欺」の被害が増えており、従業員教育の重要性がこれまで以上に高まっています。
AI活用型セキュリティツールの導入
攻撃者がAIを利用するならば、防御側もAIを活用したセキュリティツールを導入し、対抗することが有効です。
具体的には以下のようなツールがあります。
次世代型アンチウイルス（NGAV） 従来のシグネチャベースの検知ではなく、AIによる振る舞い検知を行います。未知のマルウェアでも、その挙動から脅威を判断し、ブロックできます。
EDR（Endpoint Detection and Response） エンドポイント（PCやサーバー）での不審な活動をリアルタイムで監視・検知し、自動的に対応します。AIを活用することで、正常な動作と異常な動作を高精度で判別できます。
SIEM（Security Information and Event Management） 複数のセキュリティツールやシステムから収集したログを一元管理し、AIが相関分析を行うことで、単独では見逃される脅威も検知できます。
ログとトラフィックの継続的監視
サイバー攻撃の兆候を早期に発見するには、システムログやネットワークトラフィックの継続的な監視が重要です。
特にAIを活用した攻撃では、通常とは異なるパターンの通信や大量のデータ送信が発生します。AIを活用した監視ツールであれば、こうした異常を自動的に検知し、アラートを発することができます。
定期的な脆弱性診断とペネトレーションテスト
自社のシステムにどのような脆弱性があるのかを把握しておくことは、攻撃を未然に防ぐ上で極めて重要です。
定期的に脆弱性診断を実施し、発見された脆弱性には速やかにパッチを適用しましょう。また、より実践的なペネトレーションテスト（侵入テスト）を行うことで、実際の攻撃者の視点から自社の防御体制を評価できます。
AIを活用した脆弱性診断ツールであれば、より広範囲かつ効率的にセキュリティホールを発見できます。
バックアップとBCP（事業継続計画）の整備
どれほど対策を講じても、100%の防御は不可能です。万が一攻撃を受けた場合に備え、データのバックアップとBCPの整備が不可欠です。
重要なデータは定期的にバックアップを取得し、オフラインまたは別のネットワークに保管しておきましょう。ランサムウェアに感染しても、バックアップがあれば身代金を支払わずにデータを復旧できます。
また、サイバー攻撃によってシステムが停止した場合の対応手順を明確にし、定期的に訓練を実施しておくことも重要です。
マルチエージェントAI時代の到来──2025年以降の展望
サイバーセキュリティの世界は、新たな局面を迎えようとしています。
マルチエージェント型AIによる攻撃と防御
2025年以降、最も注目されているのが「マルチエージェント型AI」による攻撃です。これは複数のAIが連携してサイバー攻撃を行う手法で、従来の攻撃とは比較にならないスピード感と効率性があると予測されています。
たとえば、偵察を担当するAI、侵入を担当するAI、データ窃取を担当するAI、痕跡消去を担当するAIなどが、それぞれの専門領域で最適化された動作を行いながら連携します。人間の攻撃者が関与する必要がほとんどなくなり、24時間365日、休むことなく攻撃が継続される可能性があります。
一方、防御側でもマルチエージェント型AIの活用が検討されています。企業内の各コンピューターにAIエージェントを配置し、それらが相互に連携してリアルタイムで脅威を検知・対処する仕組みです。
NTTデータでは、こうしたマルチエージェントAI技術の発展により、攻撃側と防御側の技術競争が激化する可能性が高いと指摘しています。
量子コンピューターの脅威への備え
もう一つの大きな変化は、量子コンピューターの実用化です。
量子コンピューターは、現在の暗号技術を破る能力を持つとされています。米国国立標準技術研究所（NIST）は2024年8月、量子コンピューターを悪用した攻撃に耐えうる複数の暗号アルゴリズムを公開しました。
今後、企業は量子耐性のある暗号技術への移行を検討する必要が出てくるでしょう。
規制強化とセキュリティ・バイ・デザイン
世界各国でAIに関する規制が強化されつつあります。
EUでは2024年3月に「EU AI法」が承認され、2025年2月から一部適用が開始されました。同法は、健康や安全、基本的権利などに対して有害な影響を及ぼすAIの利用を規制し、人間中心で信頼できるAIの導入を促進するものです。
日本でも、能動的サイバー防御の導入に関する法案が2025年5月に成立し、基幹インフラ事業者を中心にサイバーセキュリティ対策の強化が求められています。
こうした規制の流れの中で、重要になるのが「セキュリティ・バイ・デザイン」の考え方です。これは、システムやサービスの設計段階からセキュリティを組み込むアプローチです。後付けの対策ではなく、最初からセキュリティを考慮することで、より堅牢なシステムを構築できます。
まとめ──AI時代のサイバーセキュリティ戦略
AIを悪用したサイバー攻撃は、もはや「将来の脅威」ではなく、「今そこにある危機」です。
専門知識がなくても誰でもマルウェアを作成でき、自然な日本語のフィッシングメールが大量に送られ、ディープフェイクで経営幹部になりすました詐欺が実行される──これが現実となりました。
2024年の国内セキュリティインシデント公表件数は587件、ランサムウェア被害は222件、フィッシング攻撃は1,265%増加。中小企業での被害が37%増加し、攻撃の裾野が広がっています。AIによって攻撃のハードルが劇的に下がり、かつてない規模とスピードで脅威が拡大しているのです。
一方で、AIは防御側にとっても強力な武器です。リアルタイム脅威検知、自動インシデント対応、脆弱性の自動発見、セキュリティ業務の効率化──AIを活用することで、高度化する攻撃に対抗できます。ガートナーの予測では、2028年までにマルチエージェントAIがAI実装の70%に達するとされており、AIによるセキュリティ対策は今後ますます重要になるでしょう。
企業が取るべき戦略は明確です。
まず、多要素認証の徹底、ゼロトラストモデルの実装、AI活用型セキュリティツールの導入など、技術的な対策を強化すること。次に、従業員教育とAIリテラシーの向上に投資し、人的な防御力を高めること。そして、定期的な脆弱性診断とバックアップ体制の整備により、万が一の事態に備えること。
サイバーセキュリティは、もはやIT部門だけの問題ではありません。経営層が率先して取り組むべき経営課題です。AIがもたらす脅威を正しく理解し、適切な投資を行い、組織全体でセキュリティ意識を高める──これが、AI時代を生き抜くための不可欠な要件なのです。
攻撃者もAI、防御側もAI。この「AI対AI」の時代において、勝敗を分けるのは技術だけではありません。それをどう使いこなすか、どう組織に浸透させるか、そして何より、「セキュリティを経営の最優先事項として捉える姿勢」こそが、企業の未来を左右するのです。
