ChatGPTの情報漏えいはなぜ起きる？　危険性が分かる事例や安全対策を解説

ChatGPTをビジネスに導入する際は、情報漏えいのリスクを最小限に抑えるため、適切なセキュリティ対策と社内教育を徹底する必要があります。

セキュリティの不備や管理体制の欠如が原因で機密情報が外部に流出した場合、企業の信用を大きく損なう事態にもつながりかねません。

本記事では、ChatGPTの危険性や情報漏えいが起きた事例、効果的なセキュリティ対策について解説します。

ChatGPTの危険性とは？　情報漏えいのリスクについて

結論から述べると、ChatGPTには情報漏えいのリスクがあります。

ChatGPTは、ユーザーが入力した情報を学習データとして蓄積し、そのデータを基に回答を生成する仕組みです。
そのため、機密情報や個人情報を入力すると、それらの情報が漏えいする可能性があります。

またChatGPTのアカウント情報が流出すれば、第三者によってチャット履歴を閲覧されるリスクも考えられます。

なお、ChatGPTに入力されたデータは米国のサーバーに保存され、削除や回収は困難です。
ChatGPTを開発・運営するOpenAIはセキュリティ対策を実施していますが、利用者側も情報漏えいのリスクを理解し、適切な対策を講じることが重要です。

ChatGPTで情報漏えいが起きた事例3選

ChatGPTをビジネスに導入する際は、予期しない方法で情報が流出し悪用されるリスクを考慮しなければなりません。
ここでは、実際に情報漏えいが起きたケースについて、過去の事例を交えながら紹介します。

1. アカウント情報が流出する

ChatGPTの使用による情報漏えいの一例として、ユーザー個人のアカウント情報が外部に流出するケースが考えられます。

通常、ChatGPTを利用するためには、メールアドレスとパスワードを設定してアカウントを作成する必要があります。
しかし、アカウント管理が適切でない場合は個人のIDやパスワードが漏えいし、その結果、第三者によって不正にChatGPTのアカウントを使用される可能性があるのです。

実際に、シンガポールのセキュリティ企業による2023年の発表では、約10万件ものChatGPTアカウントが闇市場にて取り引きされていることが報告されました。
これらのアカウントは、インフォスティーラーというマルウェアに感染した端末から情報が盗まれた結果、流出したことが明らかになっています。

2. プロンプトの内容が流出する

ChatGPTでは、ユーザーが入力したプロンプトが学習データとして利用されています。
そのため、プロンプトに機密情報や個人情報が含まれていた場合、他のユーザーへの回答にその情報が転用される恐れがあるのです。

実際に、とある企業では従業員が業務中にChatGPTを使用した際、誤って入力した機密情報が外部に漏えいするという事態が発生しています。
この事態を受け、当該企業はChatGPTの社内使用を禁止することを決定しました。

このように重要なデータが予期せぬ形で流出するリスクを防ぐため、機密性の高い内容はプロンプトに入力しないことが推奨されています。

3. 個人のチャット履歴が別のユーザーに表示される

ChatGPTでは過去に、一部ユーザーのアカウントに他のユーザーのチャット履歴のタイトルが表示される不具合が発生しています。
このとき表示されたのはチャット履歴のタイトルのみで、チャット内容の詳細は流出していません。

ただし、他人の情報の一部が一時的に閲覧できる状態となったことは事実であり、プライバシー保護の観点から強く問題視されました。

ChatGPTの情報漏えいを防ぐセキュリティ対策7選

ChatGPTをビジネスに導入する際、重要な情報データを守るためには適切なセキュリティ対策とリスク対策が欠かせません。
ここでは、ChatGPTの情報漏えい防止に効果的なセキュリティ対策7つを紹介します。

1. 機密情報・個人情報の入力を避ける

ChatGPTの情報漏えいリスクを低減する対策の一つとして、機密情報や個人情報をプロンプトに入力しないという方法があります。
ChatGPTにプロンプトを学習する能力がある以上、ビジネス上の重要事項や個人を特定できるデータを入力すると、意図しない形で外部に流出する可能性があります。

万が一、ChatGPTに入力した個人情報が海外に流出した場合、これは個人情報保護法における「外国にある第三者への提供」に該当する可能性があります（※）。
このような事態を避けるためにも、ChatGPTの用途は定型業務や一般的な質問への対応など、安全に活用できる範疇にとどめることをおすすめします。

※参考：個人情保護委員会.「個人情報の保護に関する法律についてのガイドライン（外国にある第三者への提供編）」.
https://www.ppc.go.jp/personalinfo/legal/guidelines_offshore/ ,（参照2025-02-17）.

2. ChatGPTのオプトアウト機能を有効にする

ChatGPTでは、ユーザーのプロンプト入力をAIの学習データとして使用させないように設定するオプトアウト機能が提供されています。
ChatGPTでオプトアウト機能を有効にする方法は、以下の2通りです。

• 設定画面からチャット履歴をオフにする
• OpenAIのオプトアウト申請フォームから申請する

オプトアウト機能を有効にすると、ユーザーの会話は履歴に保存されず、AIの学習にも使用されなくなります。
ただし、設定後も一定期間、会話履歴は保存されるため、情報漏えいのリスクが完全にゼロになるわけではないことを念頭に置いておきましょう。

設定の変更だけで即時にデータが消えるわけではないため、全ての履歴を完全に消去したい場合は手動で削除する必要があります。
プライバシーをより重視する場合は、定期的にチャット履歴を確認し、削除する習慣を付けると安心です。

3. アカウントの多要素認証（MFA）を有効にする

ChatGPTアカウントへの不正アクセスのリスクを低減し流出を防ぐためには、多要素認証の導入が効果的です。

多要素認証ではIDやパスワードに加え、スマートフォンの認証アプリやSMSで送信されるコード、生体認証（指紋や顔認証）といった複数の認証要素を組み合わせて本人確認を行います。

万が一、パスワードが漏えいしても第三者が簡単にログインすることを防げる多要素認証は、金融機関やクラウドサービスなどでも広く推奨されているセキュリティ対策の一つです。
特に重要なアカウントの場合は、強固なパスワードと多要素認証を組み合わせることでより安心して利用できます。

4. セキュリティシステムを導入する

ChatGPTによる情報漏えいリスクの低減には、適切なセキュリティシステムの導入も有効です。
セキュリティシステムの代表例として、企業内の機密情報が外部に漏れるのを防ぐデータ損失防止（DLP）ソリューションが挙げられます。

データ損失防止（DLP）ソリューションは、あらかじめ設定したポリシーに基づいて機密情報の送信や共有をリアルタイムで監視し、情報の不正な送信やコピーを制限するセキュリティシステムです。
データ損失防止（DLP）ソリューションとChatGPTを連携させることで、機密情報の誤送信や誤入力が引き起こす情報漏えいを未然に防げます。

5. ChatGPT APIを利用する

情報漏えいのリスクを回避するためには、ChatGPTをAPI連携で活用するのも効果的です。

APIとは、「Application Programming Interface（アプリケーション・プログラミング・インターフェース）」の略称で、ソフトウェアやアプリケーション同士が情報や機能を共有するための仕組みを指します。
ChatGPT APIでは、プロンプトに入力した情報がAIに学習されないようにデフォルト設定されているため、企業の機密情報を扱う場合や個人のプライバシーを重視する場面に適しています。

6. 企業向けプラン「ChatGPT Enterprise」を利用する

OpenAIの法人向けプラン「ChatGPT Enterprise」の導入は、多くの従業員がChatGPTを活用する大規模な組織にとって、安全かつスムーズなAI運用を実現できる選択肢の一つといえます。

「ChatGPT Enterprise」は大企業や教育機関などの組織利用を前提に設計されたプランで、管理者側がユーザーの利用状況を一元管理したり、アクセス権限を設定したりできる高度なセキュリティ対策が特長です。

さらに、通常のChatGPTと比べより高いパフォーマンスを発揮する点や、カスタマイズ性が高い点も注目されています。
企業独自のデータを組み込むことで、より自社のニーズに適したAI活用が実現できるでしょう。

7. Microsoftが提供する「Azure OpenAI Service」を利用する

業務へのAI導入に伴い、セキュリティ面での強化を求める多くの企業が、Microsoftが提供する「Azure OpenAI Service」を採用しています。
「Azure OpenAI Service」を利用する大きなメリットは、Microsoftの高水準なセキュリティインフラの中で、ChatGPTを含む高度なAI技術を使用できる点です。

Azureのデータセンターでは、セキュリティの専門家による監視が24時間体制で行われており、業界で信頼される最先端のセキュリティ対策が整備されています。
またシステムの脆弱性に対しても継続的なリスク管理が行われ、定期的な監査やテストにより対策が強化されている点も評価されています。

高いセキュリティ基準のもと、AIシステムの脆弱性そのものが徹底的に管理されているAzure OpenAI Serviceを活用すれば、懸念される情報漏えいリスクを最小限に抑えた上で、安心してAIを業務に組み込むことができるでしょう。

ChatGPTを企業で安全に利用するための対策3選

ChatGPTを社内業務に活用する際には、便利な面だけでなく、使用上のリスクも十分に考慮する必要があります。
ここでは、ChatGPTを社内業務に安全に役立てるために有効な対策や注意点について解説します。

1. ChatGPTを使用する際の社内ルールを整備する

ChatGPTを業務で使用する際は、情報漏えいを防ぐための社内ルールを明確にすることが重要です。
具体的には、以下のようなルールを設定すると良いでしょう。

• 機密情報は入力しない
• ChatGPTの回答をそのまま利用しない
• 使用履歴の記録を義務付け、定期的に監査を行う

特に重要なのは、顧客情報や社内資料といったきわめて機密性の高い情報の取り扱いに関するルールです。
ChatGPTはデータを一時的に保存する可能性があるため、このような重要な情報をプロンプト入力しないことを厳格にルール化しましょう。

また、ChatGPTから得られた回答の利用方法についても注意が必要です。

AIの回答は常に正しいとは限らず、使い方によっては誤解を招いたり、企業の信用を損なったりする恐れがあります。
情報公開前には必ず人間の目で最終確認を行い、誤った情報や不適切な内容が含まれていないかチェックする体制を整えましょう。

万が一の不正利用やミスに即時に対処するためには、業務利用の記録を義務付け、定期的に監査を行うといった対策が有効です。

2. ChatGPTの仕組みやリスクを学ぶ社内教育を徹底する

企業がChatGPTを導入する際には、従業員にAIの仕組みやリスクについて正しく伝える社内教育が欠かせません。
ChatGPTがどのように動作するのか、どのようなデータに基づいて情報を生成するのかといった基本的な仕組みはもちろん、情報漏えいの危険性や不完全な回答を提供するリスクがあることまで網羅的に学ぶ研修を行いましょう。

3.従業員が活用しやすい環境を整える

ChatGPT導入の成功には、従業員が活用しやすい環境を整える事前準備が欠かせません。
ChatGPTの利用が業務に適した形でない場合、かえって生産性の低下や従業員のストレスにつながり、社内に混乱が生じる恐れがあります。

ChatGPTによる業務効率化を組織全体で実施するためには、まずは各部署の業務内容や扱う情報の範囲を把握し、必要な機能や性能を慎重に見極めることが大切です。
また、ChatGPTだけに頼るのではなく、必要に応じて他のツールとの連携や適切なシステムの導入も視野に入れましょう。

ChatGPTの情報漏えいリスクを理解し安全に活用しよう

ChatGPTは業務効率化に役立つ有用なツールですが、AIの学習プロセスがユーザーデータの収集によるものである以上、情報漏えいのリスクはゼロではありません。
企業がChatGPTを導入する際には、信頼を損なわないよう、利便性とリスクのバランスを慎重に見極める姿勢が大切です。

また、機密情報を入力しない、定期的なセキュリティ研修を実施するといった社内ルールやガイドラインを明確にした上で、安全かつ適切な情報管理を徹底しましょう。

TDSE株式会社では、ノーコードで直感的に生成AIサービスを開発できるプラットフォーム「Dify」のライセンス販売に加え、Difyを活用したRAG（Retrieval-Augmented Generation）や生成AIサービスの導入・テクニカルサポートを含めた総合的なサービスを提供しています。

Difyは、OpenAIやAnthropic、Azure OpenAI、Llama2などのさまざまなLLMを柔軟に使い分けることができるため、自社のニーズに最適化されたサービスを開発しやすいのが特長です。

ChatGPTを含めた生成AIサービスの導入による業務の効率化を目指したい方は、Difyをぜひご活用ください。

Difyはこちら
LLM活用支援サービスはこちら