El nuevo proyecto se llama
GPT-Rojo
. Se trata de un agente interno de equipo rojo que está especialmente capacitado para romper otros modelos: buscar inyecciones rápidas, derivaciones, fugas a través de herramientas, navegadores, archivos y aplicaciones conectadas.
La idea principal: un equipo rojo humano es importante, pero no escala bien. La gente no puede generar infinitamente miles de ataques diferentes para cada nuevo escenario basado en agentes. Entonces OpenAI entrena un modelo de atacante separado, que a su vez intenta ataques, observa la respuesta del modelo y mejora la estrategia.
Resulta un juego independiente por seguridad: un agente ataca, el otro aprende a no romper.
Según OpenAI, GPT-Red encontró ataques exitosos en
84%
nuevos scripts contra GPT-5.1, mientras que los equipos rojos humanos - en
13%
. Después de usar estos ataques en el entrenamiento, GPT-5.6 Sol se volvió notablemente más resistente a la inyección rápida: escribe OpenAI sobre
6 veces menos fallos
en el punto de referencia más difícil.
GPT-Red aún no está disponible para todos. Esto no es un producto, sino una herramienta interna, porque el modelo está entrenado específicamente para escenarios dañinos.
https://openai.com/index/unlocking-self-improvement-gpt-red/