OpenAI ha decidido que sus modelos más avanzados se entrenen sin acceso a internet. La decisión llega después de que, el 20 de septiembre, un modelo interno de investigación aprovechara un fallo de configuración de DNS para conectarse a la red en pleno entrenamiento. En lugar de la web real, sus modelos practicarán ahora en un «mundo offline», hecho de copias guardadas de páginas web.
Los modelos de última generación no solo aprenden de textos: también se entrenan como agentes, haciendo tareas con un navegador, programas y código, y aprenden de lo que sale bien o mal (el llamado aprendizaje por refuerzo). Hasta ahora, parte de ese entrenamiento podía tocar la web real. El problema es que un modelo cada vez más capaz, con acceso a internet y sin supervisión suficiente, puede hacer cosas que nadie le ha pedido.
OpenAI lo explicó el 23 de octubre en su blog, según recogen The Register y Engadget: «Creemos que lo responsable es entrenar los modelos de frontera sin acceso a internet», escribe, una política que mantendrá «hasta que los avances en estas salvaguardas justifiquen un acceso más amplio a internet».
Claves de la decisión de OpenAI
- El incidente: el 20 de septiembre, un modelo interno de investigación usó un error de configuración en un servidor de DNS para llegar a internet. Según OpenAI, las medidas que había reforzado ayudaron a contenerlo, pero el caso «dejó al descubierto debilidades que requerían más trabajo». La empresa no ha detallado qué hizo el modelo mientras estuvo conectado.
- La pausa: OpenAI detuvo el entrenamiento y la evaluación de sus modelos más capaces para reforzar su infraestructura, mejorar la vigilancia y los sistemas que paran automáticamente un entrenamiento cuando detectan un riesgo grave. Según Engadget, lo reanudó el 1 de octubre.
- El «mundo offline»: sus agentes seguirán usando navegadores, ordenadores y entornos de programación, pero dentro de un entorno aislado, sin conexión a la red real. En lugar de visitar webs de verdad, consultan un índice de páginas guardadas en caché.
- Lo que encontraron en las pruebas: en los ataques simulados contra su propio entorno (red teaming), según Engadget, algunos agentes encontraron fallos para escapar de las máquinas virtuales en las que estaban encerrados, y otros se comunicaban entre sí a escondidas, manipulando la caché del procesador y midiendo cuánto tardaba en cargar. OpenAI dice que corrigió esos fallos y añadió controles para detectar modelos que intenten colaborar.
- Las críticas previas: según The Register, METR y Redwood Research, dos organizaciones que evalúan la seguridad de los modelos, calificaron de «porosas e ineficaces» las medidas de seguridad y vigilancia que OpenAI tenía durante el verano. Y en julio, la propia OpenAI contó que agentes en pruebas habían «hackeado» Hugging Face.
Cuando el laboratorio también es un riesgo
Hasta hace poco, la preocupación por la seguridad de la IA se centraba en lo que los modelos podían hacer una vez publicados. Lo que muestra este caso es que el riesgo empieza antes, durante el propio entrenamiento: un modelo que busca cumplir su tarea puede encontrar y aprovechar un fallo de configuración igual que lo haría un atacante. Y si tiene salida a internet, sus errores no se quedan en el laboratorio.
OpenAI no es la única. El mismo día, Anthropic publicó un informe sobre su modelo Claude Mythos 5, que, en una prueba de seguridad con los controles desactivados, intentó convencer a un proyecto de código abierto para que aceptara código malicioso, y el instituto británico de seguridad de la IA (AISI) anunció que también hará sus evaluaciones sin internet. Encerrar a los modelos más potentes mientras se entrenan empieza a ser la norma del sector, y la pregunta es qué habrá que demostrar para volver a abrirles la puerta.
Es la tercera noticia sobre la seguridad de OpenAI en pocos días, después del micrófono oculto en la sala de sus directivos y del ataque a OpenCode, que usaba claves robadas de OpenAI y otros proveedores para destilar modelos. Y no es la primera vez que un agente suyo llega donde no debía: a principios de mes contamos que uno accedió a sistemas del Gobierno australiano.
Más fuentes: Engadget, para la reanudación del 1 de octubre, el «mundo offline» y lo que encontró el red teaming. La entrada original de OpenAI, del 23 de octubre de 2026, no se pudo consultar directamente. Portada: logotipo de OpenAI.