生成AIによる情報漏洩のリアルな実態と対策｜企業が今すぐ取り組むべき5つのポイント
業務効率化の切り札として注目を集める生成AI。しかし、その便利さの裏で深刻化しているのが情報漏洩のリスクです。
総務省の調査によれば、約7割の企業が生成AI活用による社内情報の漏洩やセキュリティリスクの拡大を懸念しています。この数字が示すのは、多くの企業が生成AIの導入に二の足を踏んでいる現実です。
本記事では、実際に発生した情報漏洩事例を詳しく分析しながら、なぜ漏洩が起こるのか、どうすれば防げるのかを実践的な視点から解説します。生成AIを安全に活用したいと考える企業の経営者やIT担当者の方は、ぜひ最後までお読みください。
生成AIで実際に起きた情報漏洩事例5選
生成AIによる情報漏洩は、もはや「起こるかもしれない」リスクではなく、「すでに起きている」現実の脅威です。ここでは、国内外で実際に発生した代表的な事例を5つ紹介します。
サムスン電子｜社内機密のソースコードが流出
2023年、韓国の大手電子機器メーカー・サムスン電子で、エンジニアが社内ソースコードをChatGPTにアップロードし、外部サーバーに保存されたデータが他のユーザーに開示されるという事態が発生しました。
問題となったのは、従業員がChatGPTを利用してバグの洗い出しを依頼する際、開発中のプログラムのソースコードをそのまま入力したことでした。このソースコードには製品の構造や設計方針など、本来社外に一切出してはならない高度な機密情報が含まれていました。
さらに深刻だったのは、「学習への利用を拒否する設定」を行っていなかったことです。つまり、社内で厳重に管理していたソースコードが、生成AIの学習データとして外部システムに取り込まれる恐れがあったのです。
この事件を受けて、サムスン電子は社内のコンピューターやタブレット、携帯電話、社内ネットワークでの生成AIシステムの使用を禁止する新ポリシーを策定しました。個人所有の端末でChatGPTなどを利用する場合には、サムスンの知的財産や会社関連の情報、個人データを入力しないよう要求する厳格な方針です。
ChatGPTユーザーの個人情報が10万件以上流出
2023年3月、ChatGPTでシステムのバグが発生し、一部ユーザーの個人情報（氏名、メールアドレス、クレジットカード情報など）が、約10時間にわたって第三者に閲覧可能な状態になりました。
原因はオープンソースライブラリのバグでした。ユーザーからの報告を受けたOpenAI社は、サービスを一時停止し、迅速に修正対応を行っています。この件では、有料プラン契約者の氏名やメールアドレス、支払先住所に加え、クレジットカード番号の一部と有効期限といった個人情報も一部閲覧可能な状態になっていたことが後日判明しました。
さらに同時期、ChatGPTの不具合により、ある利用者が過去に入力した質問回答の履歴が、無関係の利用者の画面上に表示されてしまうという事態も起きました。履歴には、利用者が機密情報を含むプロンプトを入力していた場合、その内容も含まれていた可能性があります。
ChatGPTはデフォルトの設定では会話履歴を保存する仕様であるため、アカウントが乗っ取られたり、このようなバグが発生したりすることで、情報漏洩へつながるリスクを孕んでいます。
ダークウェブで10万件超のアカウント情報が売買
2023年6月、シンガポールのセキュリティ企業Group-IBが、10万件以上のChatGPTアカウントがダークウェブで売買されているという調査結果を公表しました。
このアカウント情報の多くは、「インフォスティーラー（Info Stealer）」と呼ばれるマルウェアによって盗まれたもので、ユーザーのブラウザに保存されたログイン情報が標的にされました。特に日本国内でも約660件の流出が確認されており、企業や個人にとって無視できないリスクとなっています。
2025年2月には、ダークウェブ上のフォーラムにおいて、大手生成AIツールのアカウント認証情報2,000万件が売買されているとの投稿が確認されました。この投稿は一部で「大規模な情報漏洩」として報じられましたが、後のセキュリティ企業の調査により、サービスのシステム自体が侵害された事実は確認されていません。
調査によれば、流出した情報の多くは、RedlineやLummaといった情報窃取型マルウェアによって、個人の端末から不正に取得されたものであるとされています。たとえ企業のシステムに直接的な攻撃がなくても、社員や関係者の端末がマルウェアに感染することで、結果的に機密情報が漏洩するリスクがあることを示す典型例です。
盗まれたアカウントを通じて、ユーザーがChatGPT上でやりとりした業務に関する情報や個人情報などの機密事項が第三者によって閲覧・悪用される恐れがあります。生成AI そのものの安全性だけではなく、アカウント管理やマルウェア対策といったユーザー側でのセキュリティ対策が不十分だと、二次的な被害が広がるリスクがあることが理解できます。
リートン｜プロンプトと登録情報が第三者に閲覧可能に
2024年3月、対話型生成AIサービス「リートン」において、ユーザーが入力したプロンプト（指示文）や登録情報が第三者に閲覧・編集可能な状態だったことが明らかになりました。
原因はデータベースシステムの設定不備でした。ユーザーからの指摘を受けて判明したもので、調査の結果、ニックネーム、メールアドレス、LINE IDなどが外部から特定の操作によりアクセス可能だったことが確認されました。
リートンを運営するリートンテクノロジーズジャパンは、脆弱性をすでに解消し、情報の悪用も確認されていないと発表しています。現在はシステム全体のセキュリティ改修や、外部専門家によるチェックなど再発防止策が進められています。
この事例が示すのは、生成AIサービス提供側のセキュリティ対策が不十分な場合、ユーザーがどれだけ注意しても情報漏洩のリスクから逃れられないという厳しい現実です。
Gemini｜脆弱性による不正操作のリスク
2024年3月、アメリカのAIセキュリティ研究チームHiddenLayerが、Geminiの脆弱性を発見しました。この脆弱性を悪用すると、攻撃者がGeminiを不正に操作し、内部情報を引き出す可能性があります。
問題となったのは、Geminiの動作を制御するシステムプロンプトです。通常、Geminiはシステムプロンプトに関する質問には応答しないよう設計されています。しかし、質問の仕方を工夫することで、秘匿情報を含むプロンプトの内容が明かされてしまいました。
この事例は、AIシステムそのものに潜む脆弱性が、情報漏洩の新たな経路となり得ることを明確に示しています。
生成AIで情報漏洩が起きる5つの原因
では、なぜこうした情報漏洩が頻発しているのでしょうか。ここでは、生成AIにおける情報漏洩の主な原因を5つの観点から詳しく解説します。
入力データが学習に利用される仕組み
生成AIによる情報漏洩の最も根本的な原因は、ユーザーが入力したデータがAIの学習に利用される仕組みにあります。
各ユーザーが生成AIに入力したデータは、生成AIが学習し進化するために、基本的にはクラウド上で保管されます。そのため、会社内部の機密情報や顧客の個人情報などを入力してしまうと、生成AIサービス提供者や他のユーザーに機密情報が流出してしまうリスクが存在します。
一般的に、生成AIサービス（特に無償版やデフォルト設定の場合）は、ユーザーとの対話内容を自社のモデルの学習に利用することがあります。そのため、AIへの指示文であるプロンプトに企業の機密情報が含まれていると、その情報が学習データとして取り込まれ、将来的にほかのユーザーへの応答に影響を与えたり、間接的に情報が流出するリスクがあるのです。
ここで注目すべきは、一度AIに学習された情報は選択的に消去することが困難だという点です。万が一、企業の機密情報が学習されてしまった場合、現実的な対処法としてはAIモデル全体を再学習させるしかなく、多大な時間とコストがかかってしまいます。
プログラムの設計ミスやバグの発生
前述のChatGPTの事例のように、システムのバグや設計上の欠陥が情報漏洩を引き起こすケースも少なくありません。
オープンソースライブラリのバグ、データベースの設定ミス、アクセス制御の不備など、技術的な問題が原因で意図せず情報が外部に公開されてしまうことがあります。ユーザー側がどれだけ注意深く利用していても、サービス提供側のシステムに問題があれば防ぎようがないという点が厄介です。
開発段階でのセキュリティテストが不十分だったり、急速なサービス拡大に伴ってセキュリティ対策が後手に回ったりすることで、こうした脆弱性が生まれてしまいます。
プロンプトインジェクション攻撃
プロンプトインジェクションとは、悪意あるユーザーが、ChatGPTなどの対話型AIに特殊な指示や質問を入力することで、本来公開すべきでない機密情報やデータを引き出すサイバー攻撃の一種です。
2023年2月には、米国の大学生がマイクロソフト社のBingに搭載される生成AI検索エンジンに対し、プロンプトインジェクションを行い、非公開の指示やBingチャットの開発用コードネームを引き出すことに成功した事例が報告されています。
この攻撃手法は、AIシステムの「指示に従う」という特性を悪用したものです。巧妙に作られた質問や命令によって、本来アクセスできないはずの情報を引き出すことが可能になってしまいます。
ユーザーのセキュリティ意識と知識の不足
サムスン電子の事例が典型的ですが、従業員が生成AIのリスクを十分に理解せず、安易に機密情報を入力してしまうケースが後を絶ちません。
業務効率化を急ぐあまり、「ちょっとコードの最適化を手伝ってもらおう」「この資料を要約してもらおう」といった軽い気持ちで、社外秘の情報を生成AIに入力してしまう。本人に悪意はなくとも、結果として重大な情報漏洩につながってしまうのです。
特に問題なのは、多くのユーザーが「無料の生成AIツールがどのようにデータを扱っているか」を理解していないことです。入力したデータがどこに保存され、どう利用されるかを知らずに使っている人が大半なのが現実でしょう。
不正アクセスやマルウェア感染
前述のダークウェブでのアカウント情報売買事例が示すように、マルウェア感染による認証情報の窃取も深刻な脅威です。
情報窃取型マルウェア（インフォスティーラー）は、ブラウザに保存されたパスワードやクッキー情報を盗み出し、それをダークウェブで売買します。アカウントを乗っ取られれば、そのアカウントに保存されているチャット履歴や入力した機密情報すべてが第三者の手に渡ってしまいます。
企業のシステム自体が無事であっても、社員のPCがマルウェアに感染すれば、結果として機密情報が流出するリスクがある。これは生成AI特有の問題ではありませんが、生成AIの業務利用が広がるにつれ、より深刻な脅威となっています。
生成AI活用の最新動向とリスク認識
生成AIをめぐる状況は刻々と変化しています。企業の導入状況と、それに伴うリスク認識の実態を見ていきましょう。
急速に広がる生成AI活用
2024年に実施された日本経済新聞の調査によると、仕事で生成AIを利用している人の割合は44%に達し、前年の18%から大幅に増加しました。また、生成AIの使用経験がある人は全体の64%と、前回調査の30%から2倍以上に膨らんでいます。
この急激な伸びが示すのは、生成AIがもはや一部の先進企業だけのものではなく、広く一般的なビジネスツールとして浸透しつつあるという現実です。
業種別に見ると、情報通信業で35.1%、金融業・保険業で29.0%と導入が進んでいる一方、卸売業・小売業は13.4%、運輸業・郵便業は9.4%と、業界によって大きな格差が生まれています。日常業務において大量のデータを扱う業界ほど、生成AIとの親和性が高く、導入が進んでいる傾向が見られます。
セキュリティリスクへの強い懸念
一方で、約7割の企業が社内情報の漏洩などのセキュリティリスクが拡大すると考えています。業務効率化への期待と、セキュリティリスクへの懸念が共存している状態です。
IPA（情報処理推進機構）が実施した調査では、AIのセキュリティに関する脅威について、虚偽拡散、システム障害、情報漏えいなど具体的な脅威の種類について聞いたところ、「重大な脅威である」「やや脅威である」と回答した人が全体平均で60.4％でした。
また、AI導入・利用可否におけるセキュリティ対策の重要度については、生成AI利用者の75.0%が「非常に重要だと思う」「やや重要だと思う」と回答しています。
これらの数字が示すのは、多くの企業がリスクを認識しながらも、競争力維持のために生成AIの活用を避けられないというジレンマに直面しているという現実です。
活用しないこともリスクになる時代
興味深いのは、6割以上の企業で「生成AIを活用しないリスク」が認識されていることです。生成AIを利用しない（あるいは十分に活用できない）ことが、競争力や生産性の低下といったリスクにつながるという認識が広がっています。
つまり、「使うとリスク」「使わないこともリスク」という難しい状況に置かれているのが、今の企業の現実なのです。この状況だからこそ、適切なリスク管理をしながら生成AIを活用する方法を確立することが、企業の競争力を左右する重要な要素となっています。
生成AIの情報漏洩を防ぐ5つの対策
では、こうしたリスクにどう対処すればよいのでしょうか。ここでは、企業が実践すべき5つの具体的な対策を紹介します。
1. 個人情報・機密情報の入力禁止を徹底する
最も基本的かつ重要な対策は、生成AIに個人情報や機密情報を入力しないことです。
具体的には以下のような情報の入力を禁止すべきです。
顧客の個人情報（氏名、住所、電話番号、メールアドレスなど）
社内の機密情報（開発中の製品情報、ソースコード、経営戦略など）
取引先との契約内容や交渉内容
未公開の財務情報や人事情報
パスワードやアクセストークンなどの認証情報
当たり前のように聞こえるかもしれませんが、実際には「ちょっとだけなら」「匿名化すれば大丈夫だろう」という軽い気持ちで入力してしまうケースが後を絶ちません。
ここで重要なのは、「何が機密情報に該当するか」を明確に定義し、全従業員に周知徹底することです。エンジニアにとっては日常的なソースコードでも、そこには企業の知的財産が詰まっています。営業担当者が何気なく入力する取引先との会話内容も、重要な営業機密である可能性があります。
2. 学習に利用されない設定を活用する
多くの生成AIサービスでは、入力データを学習に利用しない設定が用意されています。この設定を必ず有効にすることが重要です。
ChatGPTであれば、チャット履歴をオフに設定することで、会話内容が学習データとして使われることを防げます。また、ChatGPT EnterpriseやAzure OpenAI Serviceなど、法人向けのサービスでは、デフォルトで学習に利用されない仕様になっています。
ただし、設定だけに頼るのは危険です。設定ミスや仕様変更のリスクもあるため、「そもそも機密情報を入力しない」という基本原則と組み合わせることが不可欠です。
3. 社内ルールとガイドラインを策定する
生成AIの安全な利用には、明確なルールとガイドラインが必要です。
効果的なガイドラインには以下の要素を含めるべきでしょう。
利用可能なツールの明確化：企業が承認した生成AIツールのリストを作成し、それ以外のツールの使用を禁止する。無断で外部の無料ツールを使う「シャドーAI」を防ぐためです。
入力禁止情報の具体例：前述の個人情報・機密情報について、具体的な例を挙げて説明する。「社内資料」といった抽象的な表現ではなく、「開発中のプロダクトの仕様書」「顧客リスト」など、できる限り具体的に示すことが重要です。
業務別の利用シーン：どのような業務でどう使ってよいか、悪い使い方の例も含めて示す。「議事録の要約は可」「ソースコードのデバッグは不可」など、実務に即した形で示すことで理解が深まります。
違反時の対応：ルール違反が発覚した場合の対応フローを明確にする。ただし、過度に厳しい罰則は報告を躊躇させる恐れがあるため、教育的な観点も忘れてはいけません。
定期的な見直し：生成AI技術は急速に進化しています。ガイドラインも定期的に見直し、最新の状況に合わせて更新していくことが必要です。
4. 従業員教育とリテラシー向上
どれだけ厳格なルールを作っても、従業員がリスクを理解していなければ意味がありません。定期的な教育とトレーニングが不可欠です。
効果的な教育プログラムには、以下の要素を盛り込むべきでしょう。
実際の事例を使った説明：本記事で紹介したような実際の情報漏洩事例を示すことで、リスクを「自分事」として捉えてもらう。「サムスンのような大企業でも起きた」という事実は、多くの従業員にとって説得力があります。
ハンズオン形式のトレーニング：座学だけでなく、実際に生成AIを使いながら「これはOK」「これはNG」を体験的に学ぶ機会を設ける。
部門別のカスタマイズ：営業、開発、総務など、部門によってリスクの性質が異なります。それぞれの業務に即した教育内容を用意することで、実効性が高まります。
継続的なリマインド：一度教育したら終わりではなく、定期的にリマインドする仕組みを作る。社内メールやイントラネットでの啓発活動も効果的です。
5. セキュリティが担保された法人向けサービスを選定する
無料の生成AIツールではなく、セキュリティが強化された法人向けサービスを選ぶことも重要な対策です。
法人向けサービスの主な特徴は以下の通りです。
データの学習利用なし：入力データがモデルの学習に使われないことが契約で保証されている。
データの暗号化：通信時だけでなく、保存時もデータが暗号化される。
アクセス制御：ユーザーごとの権限管理や、IPアドレス制限などの機能がある。
監査ログ：誰がいつ何を入力したかのログが記録され、万が一の際の追跡が可能。
SLA（サービス品質保証）：稼働率やサポート対応時間などが契約で保証されている。
コンプライアンス対応：GDPRやISO 27001などの国際基準に準拠している。
代表的な法人向けサービスとしては、ChatGPT Enterprise、Azure OpenAI Service、Google Cloud Vertex AIなどがあります。これらは無料版と比べてコストはかかりますが、企業の情報資産を守るための投資として捉えるべきでしょう。
ただし、法人向けサービスを使っているからといって、すべてのリスクがなくなるわけではありません。前述の「機密情報を入力しない」などの基本原則と組み合わせることが重要です。
情報漏洩以外にも注意すべきリスク
生成AI活用においては、情報漏洩以外にも注意すべきリスクがあります。総合的なリスク管理の観点から、これらも押さえておくべきでしょう。
ハルシネーション（AIの誤情報生成）
生成AIは時に事実と異なる情報や、文脈にそぐわない不自然な文章を生成することがあります。これをハルシネーション（幻覚）と呼びます。
実在しない法令や統計データを作り出し、それを基に経営判断を下せば、企業は大きな損失を被る可能性があります。特に法務や財務など、正確性が求められる分野での利用には細心の注意が必要です。
対策としては、生成AIの出力を必ず人間がチェックし、重要な情報については複数の情報源で裏を取ることが基本となります。
著作権侵害のリスク
生成AIが出力したコンテンツが、既存の著作物と類似している場合、著作権侵害のリスクがあります。特にクリエイティブな分野での利用では注意が必要です。
商用利用する前に、出力されたコンテンツが既存の著作物を模倣していないか、専門家によるチェックを入れることが望ましいでしょう。
バイアスと差別的な出力
学習データに含まれるバイアスが、AIの出力に反映されることがあります。性別、人種、年齢などに関する差別的な表現が含まれる可能性があり、それを公開すれば企業の評判を大きく損なう恐れがあります。
特に採用や評価など、人事関連での利用には十分な配慮が必要です。
世界各国の生成AI規制動向
生成AIをめぐる規制は、世界各国で急速に整備されつつあります。グローバルに事業を展開する企業は、これらの動向を把握しておく必要があります。
アメリカ｜州と連邦のバランスを模索
アメリカでは2025年7月、連邦議会上院が州独自のAI規制を禁止する条項の削除を賛成99対反対1で可決しました。当初の法案には、2035年まで州によるAI関連法の制定を禁じる内容が含まれていましたが、カリフォルニア州を中心とした強い反発により撤回されました。
アメリカでは、イノベーションを阻害しない範囲での規制を模索する動きが続いています。
EU｜世界最先端の包括的規制
欧州議会は2023年6月、世界で最も包括的なAI規制法「EU AI Act」の草案を可決しました。2024年5月に成立し、2030年12月までに規制の内容に応じて段階的に施行されていきます。
この法律は、AIシステムをリスクレベルに応じて分類して、高リスクなものには厳格な要件を課すという仕組みです。顔認証技術を用いた大規模な監視活動は原則禁止とされ、市民の基本的権利を保護する姿勢を明確にしています。
EU域内で事業を展開する企業は、この規制への対応が必須となります。
中国｜独自の技術開発と厳格な管理
中国では、アメリカ企業が開発したAIに中国の機密情報が蓄積されることへの懸念から、国内企業に対してChatGPTの使用を停止するよう指示しています。同時に中国は、独自の生成AI開発に巨額の投資を行い、技術的な自立を目指しています。
日本｜AI事業者ガイドラインの策定
日本では、2024年4月に総務省・経済産業省が「AI事業者ガイドライン」を発表しました。ガイドラインでは、AIシステムの開発・提供・利用において、セキュリティの確保が極めて重要であると強調しています。
法的拘束力はありませんが、企業が自主的に遵守すべき指針として位置づけられています。
まとめ｜リスク管理しながら生成AIの恩恵を享受する
生成AIは、業務効率化や生産性向上に大きく貢献する一方で、情報漏洩をはじめとする深刻なリスクも抱えています。しかし、適切な対策を講じることで、これらのリスクを最小限に抑えながら、生成AIの恩恵を享受することは十分に可能です。
本記事で紹介した5つの対策を改めて確認しましょう。
個人情報・機密情報の入力禁止を徹底する：最も基本的で重要な対策
学習に利用されない設定を活用する：技術的な防御策
社内ルールとガイドラインを策定する：組織的な管理体制
従業員教育とリテラシー向上：人的セキュリティの強化
セキュリティが担保された法人向けサービスを選定する：信頼できるツールの選択
これらは単独で機能するものではなく、組み合わせることで初めて効果を発揮します。技術的な対策だけでなく、組織的な体制整備と従業員の意識向上を三位一体で進めることが重要です。
生成AIの活用は、もはや「するかしないか」ではなく「どう安全に活用するか」の段階に入っています。競争力を維持しながらリスクを管理する。この難しいバランスを取ることが、これからの企業経営に求められています。
まずは自社の現状を把握することから始めましょう。従業員が無断で外部の生成AIツールを使っていないか（シャドーAI）、既に導入している場合はセキュリティ設定が適切か、ガイドラインは整備されているか。小さな一歩から、着実にリスク管理体制を構築していくことが、長期的な成功への道となるはずです。
