OpenAI ha anunciado acuerdos con cuatro evaluadores externos —Apollo Research, Goodfire, METR y Transluce— para evaluar sus modelos y mecanismos de seguridad desde dentro. Tendrán acceso a recursos internos para investigar comportamientos peligrosos y comprobar las defensas. Abrir esa puerta es un avance. Conviene mirar quién conserva las llaves.
Evaluadores externos: acceso con límites pactados
El alcance se negocia. No supone acceso universal: habrá modelos seleccionados y, para proteger información sensible, análisis realizados con investigadores de OpenAI como alternativa al acceso directo.
La primera evaluación de alineamiento de METR se limita a una ejecución de entrenamiento. Su propuesta original planteaba una revisión más amplia, que incluyera distintos modelos, incidentes y posibles incentivos para ocultar comportamientos peligrosos.
Publicar también tiene condiciones
OpenAI conserva el derecho a suprimir información confidencial y puede solicitar retrasos para corregir riesgos. Las conversaciones con empleados no podrán publicarse ni atribuirse; existe una vía separada para solicitar declaraciones verificadas por la empresa.
Los desacuerdos no resueltos llegarán al comité de seguridad de la Fundación OpenAI, que recibirá informes íntegros. Es supervisión dentro de su estructura, no arbitraje regulatorio externo.
Apollo y Goodfire cobrarán, sin vincular el pago al resultado. METR y Transluce no cobrarán por evaluar, aunque podrán aceptar recursos de computación. Son condiciones que recoge el propio anuncio.
El precedente invita a leer las notas
En un piloto anterior, METR y Redwood elaboraron un informe interno de 61 páginas. Sus direcciones recibieron una versión de 38, con supresiones de OpenAI. La publicación abierta fue deliberadamente breve: METR explica que aquel ejercicio no buscaba ofrecer transparencia pública sólida.
OpenAI aseguró después que había corregido la mayoría de los fallos, pero METR no comprobó esas correcciones. Por tanto, el informe del piloto cuenta qué problemas encontraron entonces; no permite saber cuáles siguen existiendo hoy.
La mirada HUMANía
Proteger secretos y dar tiempo para corregir vulnerabilidades puede ser razonable. Pero evaluar desde dentro y rendir cuentas ante el público son cosas distintas.
La prueba será qué consiguen investigar, qué limitaciones dejan documentadas y cuánto podemos conocer de sus conclusiones. El anuncio queda muy bien. La transparencia tendrá que ganarse el titular cuando lleguen los resultados.
