OpenAIが、モデルの安全性・アライメント・プロンプトインジェクション耐性を高める自動攻撃検証システム「GPT-Red」を発表した。モデル同士を対戦させる自己対戦で弱点を自動発見・改善する仕組みで、GPT-Red自体は外部に公開されない。
OpenAIは2026年7月15日、自動攻撃検証システムGPT-Redを公開した。攻撃役と防御役のモデルを対戦させる自己対戦（セルフプレイ）を使い、安全性・アライメント・プロンプトインジェクション耐性を自動で高める仕組みである。従来のレッドチーミングは人手に頼り規模と速度に限界があったが、GPT-Redはこの弱点探しを自動化する。GPT-Red自体は外部に公開されない。
報道では、GPT-Redがプロンプトインジェクションのテストで人間の攻撃検証者を84%対13%で上回り、GPT-5.6の耐性強化に使われたと伝えられている。AIエージェントが外部データやツールを扱う場面が広がるなか、プロンプトインジェクション対策は導入判断の中心的な論点になっている。
利用側にとっては、モデル側の防御が底上げされる一方、GPT-Redが非公開のため、どの水準の耐性が組み込まれたかを公式発表から見極める視点が重要になる。自社固有の攻撃入力に対する検証は依然として自前で行う必要がある。
この変化で何が要点か。図解と出典つきで一目で。
構造化された事実を最初に。誰が何をいつどこでなぜどのように。
生成AIでは、外部から不正な指示を紛れ込ませてモデルの本来の動作を乗っ取る「プロンプトインジェクション」が主要な安全上の課題となっている。従来、こうした弱点探しは人手による攻撃検証（レッドチーミング）に頼っており、規模と速度に限界があった。OpenAIはこれまでもGPT-5やo1のシステムカード、ChatGPTのブラウザ機能（Atlas）の堅牢化など、安全性検証の取り組みを重ねてきた。GPT-Redはその流れを自動化し、モデル自身が攻撃と防御を繰り返して強くなる仕組みを目指すものである。
AIエージェントが外部データやツールを扱う場面が広がるなか、プロンプトインジェクション対策は導入判断の中心的な論点になっている。人手に頼らず自動で弱点を発見・修正できる仕組みは、モデルの安全性を継続的に底上げする手段として注目される。GPT-Red自体は公開されないため、どの水準の耐性がモデルに組み込まれるかを見極める視点が重要になる。
OpenAIは2026年7月15日、自動攻撃検証システム「GPT-Red」を公開した。攻撃役と防御役のモデルを対戦させる自己対戦（セルフプレイ＝モデル同士を戦わせて弱点をあぶり出す手法）を使い、安全性・意図に沿った動作（アライメント）・不正な指示の埋め込み（プロンプトインジェクション）への耐性を自動で高める。
Explore GPT-Red, OpenAI's automated red teaming system that uses self-play to improve AI safety, alignment, and prompt injection robustness.
ここでいう「レッドチーミング」とは、わざと攻撃を仕掛けてモデルの弱点を探す検証作業を指す。従来は人手に頼っており、規模と速度に限界があった。GPT-Redはこの弱点探しをモデル同士の対戦で自動化し、発見した弱点を防御側の改善に回す。なお、GPT-Red自体は外部に公開されない。
プロンプトインジェクションとは、外部から不正な指示を紛れ込ませてモデルの本来の動作を乗っ取る攻撃を指す。AIエージェントがメールやWebページ、社内データなど外部の情報を読み込んで動く場面が広がるほど、この攻撃の入口も増える。OpenAIはこれまでGPT-5やo1のシステムカード、ChatGPTのブラウザ機能（Atlas）の堅牢化などで安全性検証を積み重ねてきた。
GPT-Redはその流れを自動化に踏み込ませたものだ。報道では、GPT-Redがプロンプトインジェクションのテストで人間の攻撃検証者を84%対13%で上回ったとされ、GPT-5.6の耐性強化に使われたと伝えられている。
OpenAI Details GPT-Red: An Internal Automated Red-Teaming Model That Beat Human Red-Teamers 84% To 13% On Prompt Injection
利用側にとっての含意は明確だ。モデル側の防御が底上げされる分、エージェント導入時の安全上のハードルは下がる。ただしGPT-Redは非公開のため、どの水準の耐性が組み込まれたかは公式発表から読み取るしかない。
得をするのは、外部データやツールと連携するエージェントを本番で使いたい企業だ。プロンプトインジェクション耐性が自動で継続的に底上げされれば、導入時に自前で用意すべき防御の一部をモデル側に委ねられる。
OpenAIも体制面で前進した。人手のレッドチーミングに依存せず、自己対戦で安全性を継続改善する内製の仕組みを持ったからだ。
一方、負担が残るのはモデルの耐性を独自に評価したい利用側である。GPT-Red自体が公開されないため、どの攻撃パターンにどこまで耐えるかを自前で完全に再現できない。国内のAI導入責任者は、公式が示す耐性水準を見積もりに組み込めるが、自社固有の攻撃入力に対する検証は依然として自前で行う必要がある。
立場別、明日から動ける一手。
GPT-5.6のシステムカードや公式発表で、プロンプトインジェクション耐性がどの水準まで組み込まれたと記されているかを確認する。
外部データ連携エージェント導入時に、モデル側の耐性とアプリ側で自前実装すべき対策の境界を定義する。
自社の想定する攻撃入力を現行モデルに投入し、公式が示す耐性水準と実挙動の差を試す。
GPT-Redの公開直後で、Xでの反応はまだ限定的でニュートラルな受け止めが中心。
AIエージェント開発の文脈で、ディープリサーチエージェントの構築容易化に触れる投稿や、ChatGPTのモバイル「Work」機能をコードインタープリタ相当と捉える開発者視点の投稿など、エージェントの安全性・実装まわりへの関心が周辺で観測される。GPT-Red自体の性能や非公開方針への具体的な賛否はまだ広がっていない。
※トレンド検出時刻付近の人気投稿を表示
I've started thinking of ChatGPT Mobile's "Work" as ChatGPT Code Interpreter with most of the safeties turned off