AI会話は監視されている？投稿前に知るべきリスクと使い方

この記事のまとめ

AIとの会話は、事業者側で自動検知や人によるレビュー、そして必要に応じた法執行機関への通報という形で見られる可能性があります。ゴールドマン・サックスの元アナリストがChatGPTでの発言をきっかけにFBIへ通報された事件は、その現実を象徴しています。過剰に恐れる必要はありませんが、投稿前に「誰に読まれても困らないか」を確認する姿勢が欠かせません。

AI会話は暗号化されていても、事業者側で内容を確認できる仕組みがあります。
危険な内容と判断されれば、事業者の判断で警察や捜査機関へ情報が渡ることがあります。
個人版と企業版では、学習利用や人的レビューの扱いが大きく異なります。
入力前のセルフチェックと設定変更で、リスクは大きく減らせます。

AI会話監視の実態と前提知識

監視という言葉の4つの層

AIの「監視」とひと口に言っても、実際には性質の違う4つの層が重なっています。これを混同したまま「監視されている」と怖がるのも、「たいして見られていない」と楽観するのも、どちらも実態からずれています。

1つ目は自動フィルタによる検知、2つ目は人によるレビュー、3つ目は法執行機関への開示、4つ目はモデル学習への利用です。Azureの資料では、有害な内容や規約違反の兆候を見つけるために、プロンプトと応答を自動と人の両方で分析する仕組みが説明されています（参照*1）。

AIシステムにおける監視は、日時や利用者、入力、出力、システムの挙動を記録し、相関を取り、異常の兆候を見つける行為として定義されます（参照*2）。

さらに、既定設定ではChatGPTなどのAIツールが会話データを性能改善に使う場合があり、この学習利用も広い意味の監視に含まれます（参照*3）。

この4層は目的がそれぞれ違います。安全確保、品質改善、法令対応という違いを押さえておくと、自分の会話がどの経路で誰に見られ得るのかを整理しやすくなります。私が企業へのAI導入支援をする中でも、この区別を知らないまま「どうせ見られてる」と感覚論で判断している担当者が多いと感じます。正確に理解してから対策を設計すべきです。

入力データの保存と保持期間

入力した内容がどれくらい残るのかは、契約や設定によって変わります。

もっともプライバシーに配慮した設定であるTemporary Chat、履歴オフ、学習オプトアウトを組み合わせた場合でも、OpenAIは不正利用監視のために会話を最長30日保持したうえで削除するとされます（参照*4）。

学術的な分析では、主要なチャットボット開発企業はいずれも、信頼性や安全性の調査、品質評価のために一部のチャットデータを無期限に保持する余地を残していると指摘されています（参照*5）。

つまり「履歴オフ=完全に消える」ではありません。短期間の安全監視と、長期の調査目的の保持は別の話です。私自身、ChatGPTを毎日のように使いますが、「一時チャットだから消える」という前提で機密情報を入力するのは危険だと考えています。投稿前の判断がぶれないよう、この区別を習慣として持っておくことが重要です。

個人版と企業版の扱いの違い

同じChatGPTでも、個人版と企業版では会話の扱いがまったく違います。

企業向けのマネージド型の大規模言語モデル（LLM）であるChatGPT Teams/Enterprise、Microsoft Copilot、Gemini for Workspaceなどは、契約でデータ保護を定め、プロンプトを学習に使わず、管理者による統制、ログ、地域内でのデータ保管が用意されています（参照*6）。

Azure経由で利用する場合、プロンプトや応答、埋め込みデータ、学習データは他の顧客に共有されず、OpenAIを含むモデル提供元にも渡らず、モデル改善にも使われないと明記されています（参照*1）。

画面が同じでも契約が違えば守られ方も違います。仕事で使うなら、まず自分がどの契約で使っているかを確認してください。生成AIの導入支援をしていると、「会社がCopilotを入れているのに個人のChatGPTで社内資料を処理している」というケースに頻繁に遭遇します。契約の違いを知らないまま使うのは、鍵のかかっていない部屋で秘密の話をするようなものです。

OpenAIがFBIに通報した事件の教訓

事件の経緯と通報の流れ

AI会話が捜査の起点になった、象徴的な事件があります。

米メディアの報道によれば、ゴールドマン・サックスに勤めていた25歳の元金融アナリストがChatGPTと極めて問題のあるやり取りをしており、その内容をサム・アルトマン率いるOpenAIが検知し、FBIへ通報したとされています（参照*7）。

同報道によると、当該アナリストは5月に逮捕されたのち、10万ドルの保釈金を支払い2日間の勾留で釈放され、その後判事との合意により最大25年の実刑を回避したと伝えられています（参照*7）。

ここで押さえたいのは、AIが自動で警察に電話をかけたわけではないという点です。事業者側の検知と判断があり、その結果として通報という行為が起きています。私はこの事件を、「AIは人間の担当者の目に届き得る前提のやり取りだ」という現実の象徴として捉えています。チャットが非公開であっても、人間に見られない保証はどこにもないのです。

AI事業者に求められる責任

犯罪計画や精神的危機の相談がチャットボットに寄せられる例が増える中で、事業者の責任も重くなっています。

報道では、危険な人物が犯罪の計画や心理的な準備のためにAIチャットボットを使う傾向が広がっており、それが結果として捜査機関にとって回収しやすい詳細な記録を残していると指摘されました（参照*7）。

米アーカンソー州のAI安全報告書は、犯罪の疑いがある場合に法執行機関へ照会する方針を明記しています（参照*8）。

規制面では、イタリア当局が学習データの処理をめぐるGDPR違反でOpenAIに1,500万ユーロの制裁金を科し、規制当局が文書化された統制と技術的な安全策、そして遵守の証拠を求めていることが指摘されています（参照*9）。

事業者は、通報するかどうかを社内で判断する立場にあります。国ごとに法制度は違いますが、危険性が高い会話ほど人の目に届きやすい仕組みになっている、と理解しておくのが安全です。AIとの会話を「誰にも見られない日記」のように使うのは、仕組みの理解として誤りです。

会話が読まれる主な経路とリスク

自動監視と人的レビュー

会話は、自動と人の組み合わせでレビューされることがあります。

Azureの説明では、リスクの兆候が検知されると、顧客のプロンプトと応答の一部がレビュー対象として抽出され、まずLLMなどのAIモデルによる自動レビューが行われ、必要に応じて人間のレビュアーによる追加確認が加わるとされます（参照*1）。

学術的な分析では、GoogleとOpenAIのポリシーはモデル学習のために人がチャットをレビューし得ることを認めており、両社は他人に見られたくない個人情報を入力すべきでないと利用者に呼びかけていると整理されています（参照*5）。

監視は入力や入力ストリーム、出力や出力ストリーム、システムとモデルの挙動、モデル同士やシステム同士のやり取りにまたがる多層の信号を対象にすると定義されています（参照*2）。

自動処理だけで完結すると思っていると、実態を見誤ります。入力が条件次第で人の目に触れる可能性があることを前提に置いてください。私が使っているChatGPTやClaudeも、異常なプロンプトと判断されればレビュー対象になり得ます。これはサービスの欠陥ではなく、安全を担保するための設計です。

法執行機関への開示と学習利用

利用者から見えにくいのが、司法手続きに沿った開示と、既定の学習利用です。

OpenAIは有効な法的手続きに従うとされ、保存されたプロンプト、会話履歴、ファイル、アカウントデータは、召喚状や裁判所命令、法執行機関の要請に応じて提出され得ると説明されています（参照*4）。

学術的な調査では、Anthropicがオプトインからオプトアウトへ方針を変更した結果、分析対象の6社すべてが既定でユーザーのチャットを学習に使う状態になっていると報告されています（参照*5）。

イリノイ大学の解説では、多くのAI企業が会話を長期間、場合によっては無期限に保持するため、データは長く残る前提で扱うのが望ましく、数秒で削除した内容もすでに送信・記録されていると指摘されています（参照*10）。

削除ボタンは万能ではありません。投稿前に判断することが現実的な防衛策です。送信した瞬間にデータはサーバーへ渡っており、その後の削除操作はあくまで自分の画面上の話に過ぎないと考えるべきです。

シャドーAIと社内情報漏えい

会社が把握していないAI利用、いわゆるシャドーAIも大きな経路です。

WalkMeの従業員調査では、78%の従業員が勤務先から提供されていないAIツールを使い、51%が「いつどのようにAIを使うかについて相反する指示を受けている」と回答したと発表されました（参照*11）。

イリノイ大学の解説によれば、2023年にはサムスンの従業員が社内ソースコードをChatGPTにアップロードし、その機密データが自社の管理外に出てしまった事例が紹介されています（参照*10）。

別の調査では、企業で使われているAIツールの65%がIT部門の監督を受けずに稼働しており、平均データ侵害コストを67万ドル押し上げ、遵守状況の検証をほぼ不可能にしていると報告されました（参照*9）。

便利だから使う気持ちはよく分かります。私自身、ChatGPTを業務で使い倒していますが、使うツールが会社の承認を得たものかどうかは常に意識しています。会社の情報を個人アカウントで扱えば、事故が起きたときの責任と損害はどちらも重くなります。サムスンの事例は、悪意がなくても情報は漏れるという事実を示しています。

監視下でも活きるAI活用のメリット

生産性と時間創出の効果

AI会話は、生産性向上や時間短縮につながる可能性があります。

WalkMeの調査では、80%の従業員がAIは生産性を高めると答えたと発表されました（参照*11）。

SAPが紹介したWalkMe調査では、80%が生産性向上を実感する一方で、約60%が「AIツールの使い方を理解するのに、そのタスクを自分でこなすより時間がかかることがしばしばある」と認めており、生産性の逆説が指摘されています（参照*12）。

英国Microsoftのレポートでは、生成AIアシスタントを業務で使う人が、さまざまな事務作業を通じて平均で週7.75時間を節約していると報告されました（参照*13）。

時間短縮の効果は実在します。私自身、ChatGPTやClaudeを使って議事録の要約やコンテンツの下書きにかかる時間は明らかに減りました。ただし、使いこなしの学習コストも同時に発生します。「どう使えば何が速くなるか」を業務単位で設計しないと、触ってみたが定着しない、という状態で終わります。導入の判断は、効果と学習コストの両面をセットで見てください。

安全に使える業務・学習領域

監視される前提でも、比較的安心して活用できる領域はあります。

イリノイ大学の解説では、AIは思慮深く使えば学習と業務を支え、複雑な概念を分解し、別角度の説明を示し、研究を要約し、アイデア出しを助け、文章を磨くことができると整理されています（参照*10）。

アイオナ大学のガイドは、ChatGPTなどのツールに私的情報や機密情報を絶対に入れないことを利用者に求めています（参照*3）。

英国Microsoftのレポートによれば、AI利用はIT・通信、営業、メディア・マーケティング、建築・エンジニアリング、金融・保険といった業種の従業員で特に多いとされます（参照*13）。

一般公開されている知識の要約や、実在の人物や案件を含まないアイデア出しは相性が良い領域です。私は文章の下書き、構成案の比較、ロジックチェックなどにAIを積極的に使っています。逆に、顧客名や社外秘の数字が入る瞬間から扱いは別物になります。その線引きを明確に持っているかどうかが、AI活用の安全度を決めます。

投稿前に守るべき安全な使い方

入力前のセルフチェック基準

投稿前に一呼吸置くだけで、事故は大きく減らせます。

イリノイ大学の解説では、公開掲示板テストとして「これを公開掲示板に貼れるか。貼れないならAIに入れない」、他人テストとして「これを見知らぬ他人に話せるか」という判断基準が提示されています（参照*10）。

アイオナ大学のガイドは、自分と大学のデータの完全性を守るために、大学のデータプライバシーポリシーとAI利用ポリシーを確認するよう促しています（参照*3）。

米アーカンソー州の報告書は、機密情報や機微情報、個人を特定できる情報について、州技術局の事前承認なしにAIシステムに入力することを禁じています（参照*8）。

自分の業種や立場に合わせて、社内規程と組み合わせて基準をつくってください。私が実務で使っている判断基準はシンプルです。「これを社外の誰かに読まれても問題ないか」という問いに即答できないものは入力しない。「迷ったら入れない」が最も安いコストです。

データ管理設定と一時チャット

設定を見直せば、既定のままより保護は強くなります。

マイアミ大学のガイドでは、ChatGPTでの学習オプトアウトの手順として、プロフィールから設定に進み、データコントロールを開き、「Improve the model for everyone」をオフに切り替える方法が紹介されています（参照*14）。

Temporary Chatはチャット履歴に保存されず学習にも使われませんが、消費者向けプランでは不正利用監視のために最長30日保持され得ると説明されています（参照*4）。

同マイアミ大学のガイドはGeminiについても、Gemini Apps Activityをオフにすれば今後のチャットはAIモデルの改善に使われないとGoogleが説明する一方、サービス提供と安全確保のために最長72時間チャットを保持すると整理しています（参照*14）。

設定名やUIは変わることがあります。私も数ヶ月おきに自分のアカウント設定を見直していますが、気づかないうちにデフォルト値が変更されているケースもあります。定期的に自分のアカウントを確認する習慣をつくってください。

プランと環境の選び方

扱う情報の機密度に応じて、環境を切り替えるのが実務的です。

OpenAIのデータを保持しない契約（Zero Data Retention：ZDR）は、画面上のチェックボックスではなく契約に基づく取り決めであり、APIおよびChatGPT Enterpriseの適格な顧客に提供され、OpenAIのアカウントチームを通じて申請する必要があると説明されています（参照*4）。

Azureの資料によれば、FoundryはAzureサービスとしてMicrosoftのAzure環境上でモデルをホストし、Azureで販売されるモデルはOpenAI（ChatGPTやOpenAI APIなど）を含む提供元のサービスとやり取りしないと明記されています（参照*1）。

より高い機密性が必要な場合には、仮想プライベートクラウド（VPC）内のLlama、プライベートエンドポイントのAzure OpenAI、完全自己ホスト型モデルなど、データやログ、保持期間、モデルコンテキストを組織側で完全に統制できるプライベートおよびオンプレミス型のLLMが選択肢とされます（参照*6）。

一般的なアイデア出しは無料版、社内文書は企業版、規制業務や個人情報はZDRやオンプレという段階分けが実務的な目安になります。私が企業に導入支援をする際も、この3段階から始めることを勧めています。情報の機密度と契約の保護水準を対応させることが、AI活用の基本設計です。

おわりに

AI会話の監視には、二つの顔があります。犯罪や重大な危害を止める防波堤という側面と、日常のやり取りが第三者の目に届き得るという側面です。ゴールドマン・サックスの事件は前者の重要性を示すと同時に、入力内容が事業者側で扱われ得る現実も示しました。私自身、毎日AIを使う立場として、この現実を「使わない理由」ではなく「使い方を設計する理由」として受け止めています。

AIをやめるのではなく、投稿前に一度考える習慣をつくることがポイントです。契約と設定を自分で選び、機密は入れず、便利さと引き換えに何を差し出しているかを意識してください。監視の存在を正確に理解したうえで使えば、AI会話の価値は十分に受け取れます。恐れすぎず、楽観しすぎず、が基本姿勢です。

監修者

安達裕哉（あだちゆうや）

デロイトトーマツコンサルティングにて品質マネジメント、人事などの分野でコンサルティングに従事しその後、監査法人トーマツの中小企業向けコンサルティング部門の立ち上げに参画。大阪支社長、東京支社長を歴任したのち2013年5月にwebマーケティング、コンテンツ制作を行う「ティネクト株式会社」を設立。ビジネスメディア「Books&Apps」を運営。
2023年7月に生成AIコンサルティング、およびAIメディア運営を行う「ワークワンダース株式会社」を設立。ICJ2号ファンドによる調達を実施(1.3億円)。
著書「頭のいい人が話す前に考えていること」が、95万部（2026年6月時点）を売り上げる。
（“2023年・2024年上半期に日本で一番売れたビジネス書”（トーハン調べ／日販調べ））