Prometer que vas a transformar el mundo exige cierta confianza. Que tus propios empleados lleven años preguntando si has cerrado bien la puerta invita a repasar el tema uno.
El Esquema Nacional de Seguridad lo llama principio de mínimo privilegio: cada usuario o proceso debe tener únicamente los permisos necesarios para cumplir su función. Antes de construir la superinteligencia, conviene repasar esto.
Una investigación de Reuters publicada el 3 de noviembre recoge advertencias internas sobre la seguridad de OpenAI anteriores al lanzamiento de ChatGPT, a finales de 2022. Según cinco personas conocedoras del asunto, las preocupaciones llegaron a altos directivos y al consejo de administración.
Parte de los trabajadores salió de esas conversaciones con la impresión de que competir tenía más prioridad que proteger los sistemas. Es su valoración, recogida por la agencia. Y merece algo más que otra declaración sobre lo importante que es la seguridad.
Demasiado acceso, pocas comprobaciones
Las fuentes de Reuters describen permisos amplios para consultar código de proyectos ajenos al trabajo de cada empleado y herramientas internas que no se revisaban regularmente desde el punto de vista de la seguridad.
OpenAI sostiene que sus trabajos más sensibles tienen controles estrictos y repositorios separados. También afirma que ahora realiza revisiones periódicas de sus herramientas.
La diferencia importa: trabajar con información compartida puede facilitar la investigación. Pero compartir no debería significar que todo el mundo necesita acceso a todo.
La confianza entre compañeros es una virtud. Como sistema de permisos, necesita ayuda.
Los avisos ya tenían antecedentes
El 29 de septiembre, The New York Times, en su versión accesible en Infobae, describió advertencias de empleados sobre la supervisión de las pruebas y quejas de investigadores externos por la respuesta a sus hallazgos. OpenAI defendió su actuación.
En octubre, tres investigadores despedidos de OpenAI denunciaron que habían sido apartados por priorizar la seguridad y señalar problemas internos. OpenAI lo negó y atribuyó los ceses al manejo indebido de información confidencial.
Dos versiones enfrentadas. Las advertencias, en cambio, venían de lejos.
Un micrófono convierte la discusión en algo tangible
El caso del ingeniero de OpenAI acusado de instalar un micrófono oculto y sus contactos con un miembro de la familia real saudí añadió una dimensión muy concreta al debate sobre la protección de información interna.
Conviene conservar la distinción entre acusación y prueba. Los contactos descritos en aquel caso no demuestran por sí solos que hubiera un encargo de espionaje ni una entrega de secretos.
Tampoco un dispositivo oculto permite concluir que todas las defensas informáticas hayan fallado. La seguridad física, los permisos de acceso y la supervisión de modelos son problemas relacionados, pero cada uno necesita sus propias pruebas y respuestas.
Meterlo todo en el mismo saco produce un escándalo más sencillo de contar. Entender qué falló requiere abrir el saco.
La mirada HUMANía
A nosotros, esto de que los trabajadores llevaban tiempo avisando no nos parece precisamente una noticia. Los detalles son nuevos. La música nos la sabemos.
Jan Leike se marchó en 2024 denunciando que la seguridad había quedado relegada frente a los «productos brillantes». Ya lo hablamos en HUMANía.
William Saunders también dimitió. Comparó la empresa con el Titanic y criticó la prioridad de sacar productos más nuevos y brillantes. Hasta el adjetivo coincidía. Lo que no brillaba tanto eran los frenos.
Porque escuchar no consiste en dejar que alguien termine la frase antes de volver a la fecha de lanzamiento.
Si una empresa nos pide confianza para transformar el mundo, debería poder explicar qué hizo cuando sus propios trabajadores le dijeron que algo iba mal.
Y luego está Ilya Sutskever. Se despidió con buenas palabras y cofundó Safe Superintelligence: Superinteligencia Segura, sin presiones comerciales a corto plazo, según su presentación.
Discreto al marcharse. Bastante explícito al ponerle nombre.
Por si no quedaba claro. La superinteligencia será el futuro. El tema uno ya entraba en el examen.