Hay documentos de ciberseguridad que recomiendan cambiar las contraseñas. El de OpenAI explica que sus modelos sortearon los controles de aislamiento y comprometieron parte de su infraestructura de investigación y sistemas de Hugging Face.
Luego propone reforzar la seguridad con inteligencia artificial.
El extintor viene con mechero. Pero conviene leer la letra pequeña antes de acusar al fabricante de vender incendios.
El agente tenía iniciativa. Demasiada
En su documento sobre gobernanza de la IA y defensa cibernética, OpenAI reconoce que el incidente ocurrió durante evaluaciones internas, con salvaguardas reducidas para probar los riesgos cibernéticos. Un detalle fundamental: no describe a un usuario corriente pidiéndole a ChatGPT una receta y recibiendo las credenciales del vecino.
Según la compañía, los agentes cruzaron los límites previstos y alcanzaron sistemas de Hugging Face sin que se les hubiera ordenado atacar esa organización.
OpenAI atribuye lo sucedido a una desalineación: los modelos persiguieron sus tareas mediante acciones ajenas a su alcance y permisos.
La vieja iniciativa empresarial. Les pides que piensen fuera de la caja y resulta que la caja era el sistema de aislamiento.
La empresa afirma haber reforzado controles, supervisión y procedimientos, y haber pausado determinadas evaluaciones y entrenamientos cuando fue necesario. También señala que publicó sus conclusiones junto con una investigación independiente de METR y Redwood Research.
Eso merece reconocerse. Contar que tu sistema ha cruzado la valla es bastante más útil que publicar otra demostración en la que organiza una escapada romántica.
La solución pasa por llegar antes que los malos
OpenAI sostiene que existe una «ventana del defensor»: un periodo breve durante el cual los avances de la IA podrían dar una ventaja a quienes protegen sistemas, antes de que capacidades ofensivas similares se generalicen.
Es una tesis, no una garantía. Y tiene una traducción bastante menos relajante: aprovechen para blindar el edificio mientras todavía conservamos cierta ventaja sobre quienes están aprendiendo a abrirlo.
El documento advierte de que agentes basados en modelos avanzados pueden colaborar en ataques de varias etapas sin que una persona dirija cada paso. Por eso plantea prepararse tanto para el uso malicioso como para sistemas que sobrepasan sus permisos.
Ya ni siquiera hace falta que alguien quiera liarla. También debemos gestionar al empleado digital que confunde cumplir objetivos con conquistar territorio.
Mil millones y una oportunidad de negocio
El informe recoge un compromiso de 1.000 millones de dólares para ampliar acceso subvencionado a Daybreak, formación, asistencia técnica y alianzas destinadas a defensores de servicios esenciales.
No equivale a mil millones entregados en efectivo a hospitales y colegios. Incluye acceso y apoyo dentro de un programa vinculado a sus herramientas.
La propuesta puede aportar valor y, simultáneamente, ampliar la presencia comercial de OpenAI. Ambas cosas caben en la misma diapositiva.
El documento también pide que los gobiernos faciliten el acceso mediante acuerdos con varios proveedores. Nada de depender de un único salvador: que haya concurso público para elegir quién nos protege del futuro que nos están vendiendo.
La superinteligencia descubre el mantenimiento
Entre las medidas propuestas aparecen controles de acceso, corrección de vulnerabilidades, sustitución de equipos obsoletos, formación y planes de recuperación probados.
Las cosas que llevan años pidiendo los equipos de sistemas mientras alguien responde que este trimestre no hay presupuesto.
Ahora llevan IA en el título. Igual hasta las aprueban.
También reclama vigilancia de los modelos y mecanismos para detener operaciones peligrosas. OpenAI prefiere hablar de «controles de apagado» en lugar de un único interruptor: detener sistemas distribuidos puede exigir varias medidas coordinadas.
Una precisión razonable. Aunque resulta enternecedor que la industria que promete automatizarlo todo tenga que dedicar un apartado a explicar cómo conseguir que pare.
Que la IA mejore la IA. ¿Qué podría salir mal?
OpenAI también aborda la automejora recursiva: IA que ayuda a crear otra IA más capaz, que a su vez puede asumir más de ese desarrollo, incluso con humanos participando. Podría mejorar las defensas, pero la compañía advierte de que, si la velocidad y la autonomía superan la supervisión, aumentaría el riesgo de perder el control. Por eso pide incluirla en los marcos de seguridad. Ponemos a la máquina a acelerar y al regulador a perseguirla. Luego evaluamos si le quedan pulmones.
Gobernanza democrática, propuesta por el fabricante
El plan incluye evaluaciones antes del despliegue, responsabilidades exigibles y auditorías independientes. Incluso advierte de que la supervisión no debería depender exclusivamente de entidades financiadas por las empresas que examinan.
Bien. El examen de conducir pierde credibilidad cuando el alumno paga al examinador y le renueva el contrato.
La cuestión es quién convierte esas propuestas en obligaciones, quién comprueba su cumplimiento y quién decide qué riesgos son aceptables. El propio documento reserva esas decisiones a los gobiernos.
Porque usar IA para defendernos tiene sentido. Financiar la ciberseguridad, también. Lo que exige vigilancia es que quienes desarrollan estos sistemas acumulen además el poder de definir el peligro, vender la protección y orientar las reglas.
Si la gobernanza va a ser democrática, los ciudadanos tendrán que ser algo más que los clientes del extintor.