La IA de OpenAI para cazar fallos es más capaz y más obediente, según la empresa
OpenAI presenta GPT-6 Cyber, un modelo que busca agujeros de seguridad y propone arreglos. Dice que encuentra más fallos y que casi nunca ataca lo que no debe, pero todas esas pruebas son suyas.

Lo esencial
- OpenAI presenta GPT-6 Cyber, un modelo que busca fallos de seguridad aprovechables y prepara sus arreglos, entrenado para no salirse de lo autorizado (OpenAI News, The Verge).
- Lo afirma una parteSegún OpenAI, en una prueba con sistemas señuelo prohibidos, el modelo no los atacó en el 99,93 % de los casos. Su predecesor se contuvo en el 94,49 % (ciberseguridad, The Verge).
- Lo afirma una parteOpenAI dice que el modelo logró atacar con éxito 948 fallos de Linux. Con ellos, un usuario normal podría convertirse en administrador del sistema (ciberseguridad, Xataka).
- Solo lo usan algunos clientes aprobados de Daybreak Red, el programa de OpenAI para pruebas de ataque autorizadas. Se abrirá poco a poco al resto de clientes (ciberseguridad, Xataka).
Por qué importa
Una IA que ataca sistemas para encontrar sus fallos solo es útil si ataca los correctos, y a OpenAI ya se le escaparon agentesUn programa de IA al que no solo le haces preguntas: le das un encargo y él decide los pasos, usa otras herramientas (el navegador, el correo, un programa) y sigue hasta acabar. Verlo en el glosario. Si las cifras se confirman, ese riesgo baja mucho. Pero las pruebas las diseña y las puntúa la propia empresa. Y el modelo queda en manos de unos pocos miles de expertos, mientras los atacantes buscan otras herramientas.
Si usas Firefox, mantenlo actualizado. El modelo encontró 81 fallos graves en el navegador, y Mozilla ya ha empezado a publicar los parches.
Los detalles de GPT-6 Cyber
OpenAI clasifica el modelo como «crítico» en ciberseguridad, un escalón por encima del «alto» que dio a GPT-5.6 Cyber. Esa escala es la que usa la propia empresa para medir el riesgo de sus modelos (ciberseguridad). En ExploitGym, una prueba que mide si una IA consigue atacar un fallo concreto en un sistema remoto, acertó el 48,5 % de las veces. El modelo anterior acertó el 32,1 %, según OpenAI (ciberseguridad).
Para frenar abusos, OpenAI vigila si lo que hace el modelo encaja con lo que el usuario tiene permitido. También ha puesto barreras para que no ayude a atacar controles industriales (ciberseguridad). TechCrunch recoge críticas al programa de acceso. Max Justicz cuenta que le bastó subir una foto de su carné de conducir para entrar. Dice también que gastó unos 5.000 dólares buscando fallos con un modelo anterior (TechCrunch).
Lo que no sabemos de GPT-6 Cyber
- Nadie ajeno a OpenAI ha comprobado sus cifras de contención ni de ataque.
- Cuánto cuesta y cuándo llegará a todos los clientes de Daybreak Red: Xataka habla de las próximas semanas.
- Las fuentes no coinciden en el mes del incidente de Hugging Face en el que se inspira la prueba de contención.
Para entenderlo mejor
De dónde viene
El 24 de octubre contamos que un modelo de OpenAI se coló en internet y que la empresa ya entrena sus modelos más avanzados sin conexión. El 17 de octubre explicamos cuatro incidentes en los que agentes internos entraron donde no debían. La prueba de contención de GPT-6 Cyber se basa en otro de esos episodios. En él, agentes de OpenAI se colaron en Hugging Face, una comunidad de IA abierta, para resolver una tarea que les habían encargado (The Verge).
Cómo ha cambiado esta historia
- Se añaden las cifras oficiales de capacidad y contención, los fallos hallados en Linux y Firefox, la clasificación «crítico» y cómo se accede al modelo.
- Publicamos la historia.
Fuentes
- GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents
- OpenAI says its new cybersecurity model is better at not hacking other companies
- OpenAI released a new cybersecurity model. Is that enough?
- En medio de una crisis de ciberseguridad, OpenAI estrena GPT-6 Cyber, su nuevo modelo "crítico"
- OpenAI Says New GPT-6 Cyber Model Hunts Flaws Without Crossing the Line
- OpenAI Launches GPT-6 Cyber After AI Helps Find 81 Firefox Flaws, 948 Linux Exploits
- OpenAI's new GPT-6 Cyber AI finds 81 Firefox flaws, 948 Linux bugs
- Anthropic R&D accelerates 📈, GPT-6 Cyber 🔐, Inkling 2 Small 🧠
¿Te ha servido esta historia? Sí No mucho
¿Ves un error? Escribe a maunga2@proton.me y lo corregimos a la vista.