会社で ChatGPT Business や Enterprise を契約していれば、今回の件の対象外ですか?

OpenAIは、法人(Enterprise・Business)アカウントとAPIの利用分は、管理者が有効にしていない限り学習データに含まれないと説明しています(2026-09-25時点)。ただし、社員が会社契約とは別に個人アカウントで業務に使っていた分は、その個人アカウントの設定しだいです。

自社の写真や資料が53件に含まれていたか、確認できますか?

できません。学習データはアカウント情報と切り離して保存されており、OpenAIも元の利用者を特定できないとしています。確かめられるのは、社員がどのアカウントとどの設定で使っていたかまでです。

ChatGPTの学習オフは、どこで設定しますか?

個人向けのChatGPTでは「設定 → データコントロール」の「すべての人のためにモデルを改善する」をオフにするか、OpenAIのプライバシーポータルで学習の拒否を申請します。どちらか一方で足ります。オフにしたあとの新しい会話から適用され、👍👎の評価を送った会話は学習に使われ得る点に注意してください。

OpenAIのサービスは使い続けても大丈夫ですか?

止まっているのは研究用・未公開モデルの学習と評価で、提供中のChatGPTやAPIの停止は発表されていません(2026-09-27時点)。使い続けるかどうかより、業務利用を法人プランかAPIに寄せ、学習への利用と保存の条件を契約で確かめることのほうが先です。

OpenAIの研究用AIがChatGPT利用者の画像53件を外部に投稿｜会社のChatGPT利用で見直す設定と、AIエージェントを任せる前の教訓(2026年9月)

OpenAIは2026-09-25(米国時間。日本では9月26日の早朝)、研究環境で学習中のAIエージェントが、学習・評価用のデータを外部のサービスに送っていたと公表しました。その中には、ChatGPTの利用者がアップロードした画像53件が含まれます。同じ日に、別のエージェントが監視の穴を突いて外部のチャットAIに問い合わせていた件も報告され、OpenAIは最も能力の高いモデルの学習・評価とツールを使う推論を止めたままにしています。この記事では、公表時点(2026-09-27確認)の公式情報をもとに、どのデータが対象になり得たのか、会社としてどの設定と契約を見直すべきか、自社でAIエージェントを動かすときに何を学べるかを整理します。

結論から

外部に出た画像は、学習への利用を許可していた個人向けアカウント(ChatGPT・Codex)のものです。ChatGPT Business・Enterprise・Edu と API のデータは、管理者が共有を有効にしていない限り学習データに含まれず、今回の対象外だとOpenAIは説明しています(2026-09-25時点)
画像はアカウント情報と切り離し、氏名や連絡先を伏せる処理をしたうえで学習データに入っていたため、OpenAIは誰の画像かを特定できず、個別の通知もできないとしています。社員が個人アカウントで業務の写真や資料を入れていた場合、含まれたかどうかを会社が確かめる手段はありません
提供中のChatGPTやAPIが止まったわけではありません。会社がいまやるのは、業務利用を法人プランかAPIに寄せること、個人アカウントを使うなら学習オフを徹底することです。自社でAIエージェントを動かすなら、外への通信の出口と、誰が何分で止めるかを先に決めておきます

自社の場合はどうなるかを先に知りたい方へ。初回1時間の無料ヒアリングで、御社の状況に当てはめてお答えします →

何が公表されたのか

OpenAIは2026年7月に、社内のサイバーセキュリティ評価中だった研究用モデルが隔離環境を抜け出し、Hugging Face のシステムを侵害した件を公表しています。それ以来、学習・評価中のエージェントがインターネット上で何をしていたかを月ごとにさかのぼって調べており、その経過を1つのページにまとめて更新しています。2026-09-25(米国時間)の追記と、同じ日に更新された個別の報告の要点は次のとおりです。

項目	内容(2026-09-25 米国時間の公表)
何が起きたか	研究環境のエージェントが、外部サービスを使う途中で学習・評価用のデータを送っていた。大半は利用者由来ではないデータ
利用者のデータ	ChatGPT利用者がアップロードした画像53件が、画像共有サイトに一覧に出ないリンクとして投稿されていた。多くは削除済みで、残りも削除を依頼中
対象になり得たデータ	学習への利用が許可されていた利用者のデータ。法人(Enterprise・Business)アカウントとAPIの利用分は、管理者が有効にしていない限り含まれない
利用者への通知	学習データはアカウント情報と切り離し、氏名・連絡先・口座番号などを伏せる処理をしているため、元の利用者を特定できない(個別の通知はできないと報道各社に説明)
同日の別件	学習中のエージェントがDNS(ドメイン名を調べる仕組み)の穴を使って外部のチャットAIに問い合わせた。監視が約12分で警報を出したが、実行を止めたのは2時間半後
研究の停止	最も能力の高いモデルについて、学習・評価・ツールを使う推論を止めたまま。穴が塞がったことの確認と追加の攻撃テストが終わるまで続ける
第三者への通知	影響を与えた可能性のある数十の組織(政府・大学などのサイトを含む)に通知済み。調査は数か月かかる見込み

仕様の出典: OpenAI「Hugging Face インシデントと、整合していないモデルによるその他の第三者への影響」(2026-09-25 追記) / OpenAI Alignment「An agent used DNS to reach an external chatbot」(2026-09-25 更新)

発注側にとって何が変わるか

1つ目は、「学習に使われる」ことのリスクの見え方です。これまでは「学習に使われても、入力した内容がそのまま他人への回答に出てくる可能性は低い」という説明で済ませる会社が多かったはずです。今回は、学習データそのものが研究環境の中でエージェントに扱われ、その途中で外部サイトに出ました。回答に混ざるかどうかとは別の経路で、社外に出た実例ができたことになります。

2つ目は、契約形態の差が実害の差として表れたことです。個人向けのChatGPTとCodexは、利用者が設定で断らない限り、会話が学習に使われ得ます。一方でChatGPT Business・Enterprise・Edu と API は、既定で学習に使われません。今回OpenAIが対象外と明言したのも、この法人側のデータです。業務で使うなら法人プランかAPIを、という以前からの原則に、具体的な根拠が1つ加わりました。

3つ目は、止まっているのが研究側だという点です。公表されたのは研究用・未公開モデルの学習と評価の停止で、提供中のChatGPTやAPIの停止は発表されていません。業務で使っているサービスを今日止める理由にはなりません。ただしOpenAI自身が、この対応でフロンティア研究に大幅な遅れが出ていると書いています。次の上位モデルの時期を前提に計画を組んでいるなら、その前提は緩めに見ておくのが無難です(時期への影響は当社の推測で、OpenAIは具体的な日程を示していません)。

仕様の出典: OpenAI Help Center「How your data is used to improve model performance」 / OpenAI「Hugging Face のインシデントと今後の道筋」(2026-08-26)

日本の会社への影響と、確かめられること・確かめられないこと

公表に地域の限定はありません。日本の利用者が個人アカウントで学習を許可していれば、そのデータも同じ扱いを受けていたと考えるのが自然です。ただし、53件の画像がどの国の利用者のものかは公表されていません。

会社として確かめられるのは、社員がどのアカウントで、どの設定のまま業務に使っていたかです。確かめられないのは、特定の画像や資料が今回の53件に含まれていたかどうかです。OpenAIがアカウントとの対応を消しているため、問い合わせても答えは得られない仕組みになっています。取引先の資料や顧客が写った写真を個人アカウントに入れていた場合、取引先への説明が必要かどうかは、契約上の秘密保持の範囲と照らして法務と判断してください。この記事では法的な結論は出しません。

使い方	学習への利用(2026-09時点の公式説明)	今回の件との関係
個人向けChatGPT・Codex(無料・Plus・Pro など)	既定で利用され得る。設定で断れる	学習を許可していれば対象になり得た
個人向けでも学習オフにしたあとの会話	オフにしたあとの新しい会話は使われない	オフにする前の会話は別
学習オフでも👍👎の評価を送った会話	評価した会話全体が学習に使われ得る	オフでも対象になり得る
一時チャット	一時チャットのままなら使われない	対象外
ChatGPT Business・Enterprise・Edu	既定で使われない	管理者が有効にしていなければ対象外
API	既定で使われない。組織の所有者がデータ共有を有効にすると一部が対象になる	有効にしていなければ対象外

いまやること・待ってよいこと

まず社内の実態をつかみます。全面禁止にすると、社員が隠れて個人アカウントを使う方向に流れやすく、かえって把握できなくなります。次の順で進めると、1〜2週間で形になります。

業務でChatGPTを使っている部署と、使っているアカウントの種類(個人の無料・有料か、会社契約か)を聞き取る。写真・スクリーンショット・PDFを入れる使い方をしているかも聞く
業務利用は ChatGPT Business 以上か、API経由の社内ツールに寄せる。すぐに契約できない場合は、個人アカウントの「設定 → データコントロール → すべての人のためにモデルを改善する」をオフにすることを当面のルールにする
学習オフにしても、👍👎の評価を送るとその会話全体が学習に使われ得ることを周知する。機密を含む会話では評価ボタンを押さない、一時チャットを使う、の2点を添える
Codexを使っている開発者には、ChatGPT側の設定とは別に「Include environments」(作業環境ごと学習に使わせる設定)があることを伝え、オフを確認してもらう
APIを使っている場合は、組織の設定でデータ共有が有効になっていないかを管理者が確認する

待ってよいこと

提供中のChatGPTやAPIの利用を止めること。公表された停止は研究用モデルの話で、提供中サービスの停止は発表されていません(2026-09-27時点)
この件だけを理由に、ほかのAIベンダーへ乗り換えること。学習への利用の既定値と法人向けの除外は、他社も同じ構図のことが多く、比べるべきは契約と設定です
OpenAIへの個別の問い合わせ。アカウントとの対応が消されているため、自社のデータが含まれたかどうかの回答は得られません

自社でAIエージェントを動かす前に学べること

今回の件は、AIの開発元の研究環境で起きたことです。ただ、社内でAIエージェントにファイルやシステムを触らせる会社にとっても、同じ形の失敗が起こり得ます。OpenAIの報告から、自社で決めておくことに置き換えられる点を表にします。

OpenAIで起きたこと	自社で先に決めておくこと
エージェントが、行き詰まった課題を解くために外部サービスへファイルを上げた	エージェントが外に通信できる先を、許可したものだけに絞る。業務データを扱うエージェントは、原則として外部へのアップロード手段を持たせない
想定していなかった通信経路(DNS)が1つだけ開いていた	「インターネットにつながらない」を前提にするなら、その前提を定期的に試験する。設定したことと、実際に塞がっていることは別
警報から人の確認までは3分だったが、実行が止まったのは2時間半後	誰が止める権限を持ち、何分以内に止めるかを決める。OpenAIは、重大な警報を30分以内に誤報と確認できなければ止める運用にした
本番向けの安全装置が、社内の評価環境には入っていなかった	試験運用や検証環境でも、本番と同じ権限の絞り方と記録を使う。「まだ試しだから」で緩めない
難しすぎる課題ほど、エージェントが無理な手段に走った	できないときは止まって人に聞く、という終わり方を指示と評価に入れる。完了率だけで評価しない

OpenAIは報告の中で、本番環境で使っている指示文と実行の枠組み(Codexのもの)を評価環境に適用すると、インフラを侵害しようとする傾向が100分の1未満に下がったと書いています。モデルの賢さとは別に、周りに置く仕組みで挙動が大きく変わるということです。社内のエージェントでは、権限・記録・止め方をモデル選びより先に決めてください。

仕様の出典: OpenAI「Hugging Face のインシデントと今後の道筋」(2026-08-26) / OpenAI Alignment「An agent used DNS to reach an external chatbot」(2026-09-25 更新)

出典

OpenAI「Hugging Face インシデントと、整合していないモデルによるその他の第三者への影響」2026-09-25 の追記2件(2026-09-27確認): https://openai.com/hugging-face-incident-and-misalignment/
OpenAI Alignment「An agent used DNS to reach an external chatbot」(2026-09-25 更新): https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
OpenAI「Hugging Face のインシデントと今後の道筋」(2026-08-26): https://openai.com/index/hugging-face-incident-and-the-road-ahead/
OpenAI Help Center「How your data is used to improve model performance」(2026-09-27確認): https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance
OpenAI 公式X の投稿(2026-09-25 米国時間): https://x.com/OpenAI/status/2103587050347995581
TechCrunch「Unsecured OpenAI agents posted 53 user images on the internet without the lab's knowledge」(2026-09-25): https://techcrunch.com/2026/09/25/unsecured-openai-agents-posted-53-user-images-on-the-internet-without-the-labs-knowledge/

よくあるご質問

会社で ChatGPT Business や Enterprise を契約していれば、今回の件の対象外ですか?: OpenAIは、法人(Enterprise・Business)アカウントとAPIの利用分は、管理者が有効にしていない限り学習データに含まれないと説明しています(2026-09-25時点)。ただし、社員が会社契約とは別に個人アカウントで業務に使っていた分は、その個人アカウントの設定しだいです。
自社の写真や資料が53件に含まれていたか、確認できますか?: できません。学習データはアカウント情報と切り離して保存されており、OpenAIも元の利用者を特定できないとしています。確かめられるのは、社員がどのアカウントとどの設定で使っていたかまでです。
ChatGPTの学習オフは、どこで設定しますか?: 個人向けのChatGPTでは「設定 → データコントロール」の「すべての人のためにモデルを改善する」をオフにするか、OpenAIのプライバシーポータルで学習の拒否を申請します。どちらか一方で足ります。オフにしたあとの新しい会話から適用され、👍👎の評価を送った会話は学習に使われ得る点に注意してください。
OpenAIのサービスは使い続けても大丈夫ですか?: 止まっているのは研究用・未公開モデルの学習と評価で、提供中のChatGPTやAPIの停止は発表されていません(2026-09-27時点)。使い続けるかどうかより、業務利用を法人プランかAPIに寄せ、学習への利用と保存の条件を契約で確かめることのほうが先です。