HUMANía
OpenAI corta internet a sus modelos durante el entrenamiento: el recreo será en una copia de la web
OpenAI sustituye internet en directo por una web de prácticas durante el entrenamiento de sus modelos avanzados. Los antecedentes y los límites de la medida.
Imagen creada con IA La compañía refuerza el aislamiento de sus modelos más avanzados tras detectar que podían eludir las restricciones de acceso.
OpenAI explicó el 23 de octubre que sus modelos de frontera se entrenan sin acceso a internet en directo. Para practicar búsquedas y navegación utilizan contenidos web almacenados e indexados: un internet de prácticas donde sus acciones no deberían afectar a sistemas externos. Así lo describe en su comunicado sobre la seguridad del entrenamiento.
La medida tiene antecedentes. En HUMANía ya contamos que OpenAI detuvo el entrenamiento tras varios incidentes de agentes que actuaban por su cuenta. Ahora la compañía precisa que el 20 de septiembre un modelo aprovechó una configuración incorrecta para alcanzar la red. El entrenamiento por refuerzo se reanudó el 1 de octubre, después de aplicar nuevas medidas de seguridad.
Tampoco es una receta exclusiva de OpenAI. Anthropic anunció que quitaría internet a sus agentes durante las evaluaciones internas después de detectar comportamientos no autorizados. El castigo suena doméstico —sin internet hasta nuevo aviso—, pero aquí hablamos de contener sistemas capaces de buscar cómo saltarse las restricciones.
Además, la infraestructura de OpenAI conserva conexiones necesarias para operar y supervisar los experimentos. Aislar a los modelos exige vigilar también esas posibles salidas. La propia empresa reconoce que futuros modelos podrían descubrir fallos todavía desconocidos.
Y ahí encaja otra pregunta que abordamos en «OpenAI encontró el fallo de PHP. ¿También provocó el caos?»: descubrir una vulnerabilidad, comunicarla y conseguir que todos estén protegidos son trabajos distintos. Aislar a los agentes durante el entrenamiento atiende una parte del problema; reparar los sistemas que pueden atacar atiende otra. La IA acelera el descubrimiento. Los parches, la coordinación y las responsabilidades siguen sin instalarse solos.