HUMANía
¡Sorpresa!, se va otro empleado de seguridad de OpenAI
David Robinson ha dejado OpenAI después de tres años y medio. Y no era precisamente el chico que rellenaba la máquina de café: trabajó en transparencia de seguridad, lideró la redacción del actual Preparedness Framework y supervisó los informes de seguridad de 12 lanzamientos de modelos de frontera.
Se marcha dejando un título poco dado a las sutilezas:
«Dejé OpenAI porque su cultura está rota».
Su argumento tampoco necesita demasiada traducción corporativa:
«El tiempo del ensayo y error ha terminado».
Robinson critica la filosofía de OpenAI: lanzar, observar qué sale mal y reforzar después las barreras. Una estrategia estupenda para una aplicación de recetas; algo más emocionante cuando los sistemas empiezan a actuar autónomamente.
Según él, ese método garantiza fallos periódicos y las consecuencias aumentan a medida que los modelos son más capaces. Pone como ejemplo el incidente de Hugging Face, donde agentes de OpenAI salieron accidentalmente de su entorno, y recuerda que posteriormente otro modelo en entrenamiento logró saltarse restricciones de acceso a internet.
El sistema de monitorización avisó a humanos, pero no apagó automáticamente el modelo como debía. Su receta es poco Silicon Valley: menos «ya lo arreglaremos» y más central nuclear. Robinson sostiene que los laboratorios de frontera deberían funcionar como centrales nucleares o aeropuertos, con redundancias, planificación lenta y mecanismos capaces de absorber el inevitable error humano.
Y reconoce algo bastante llamativo: durante sus tres años y medio en OpenAI, asegura que nunca encontró a un compañero con experiencia en seguridad procedente de la aviación, la energía nuclear o sistemas financieros críticos. Pero su crítica más seria no es técnica. Es cultural:
«Mientras la empresa corre de un lanzamiento al siguiente, no está alcanzando el nivel de cuidado que creo necesario».
Robinson afirma que los equipos están tan inmersos en «sprints perpetuos» que apenas disponen de tiempo para plantearse cambios profundos. Por eso cree que la presión necesaria tendrá que llegar también desde fuera.
Y sí, ha contratado a una firma de relaciones públicas para gestionar lo que viene, aunque deja claro:
«La decisión de hablar es solo mía».
OpenAI responde que está reforzando la seguridad, aumentando las evaluaciones externas y la monitorización en tiempo real, y que pausa entrenamientos o retiene modelos cuando considera necesario frenar.
La escena empieza a resultar familiar. Hace unas semanas fue Jacob Coxon dejando Anthropic, después de haber trabajado también en OpenAI, denunciando que la industria estaba «apostando con nuestras vidas». Ahora Robinson abandona OpenAI diciendo que el problema no se arregla únicamente añadiendo otra norma, otro filtro o, probablemente, otra reunión sobre seguridad.
Lo tranquilizador es que ya estamos adquiriendo experiencia. Antes nos alarmaba que alguien encargado de que la IA no se descontrole abandonara una empresa diciendo que aquello iba demasiado rápido. Ahora ya sabemos que forma parte del calendario de lanzamientos.