La seguridad de OpenAI vuelve a ofrecer motivos para levantar una ceja. Según Futurism, que recoge una investigación de The Intercept, tres responsables de la compañía mantuvieron una videollamada con dos bromistas rusos que se hicieron pasar por altos cargos ucranianos. Hablaron sobre aplicaciones militares de inteligencia artificial. La conversación duró unos diecisiete minutos. Da para comprobar una identidad. O para asumirla y seguir hablando.
La superinteligencia puede esperar. La autenticación, también
La autenticación consiste en verificar una identidad declarada mediante credenciales o evidencias. Decir quién eres es el principio del proceso; que te crean sin comprobarlo es precisamente lo que debería evitar.
Los interlocutores eran Vovan y Lexus. Al otro lado estaban Sasha Baker, Caroline Zier y Ben Crampton, vinculados a seguridad nacional e iniciativas estratégicas de OpenAI. Según el relato recogido por Futurism, los suplantadores consiguieron que un alto funcionario ucraniano les facilitara el contacto. Una presentación puede abrir una agenda. No debería sustituir la verificación de quien aparece en ella.
Ataque y defensa: esa frontera sí admite conversación
Según recoge Futurism, Crampton explicó que muchos dirigentes de OpenAI no querrían que su tecnología se utilizara en operaciones militares ofensivas. La tarea de su equipo, añadió, era explicarles que, en determinadas situaciones, la frontera entre ataque y defensa puede ser relativa. También mencionó conversaciones con el Departamento de Defensa estadounidense para proporcionar herramientas de IA a Ucrania y un contacto con el Ministerio de Defensa ucraniano.
Curioso cometido para un equipo de seguridad nacional: ayudar a que las reticencias internas encajen con las ambiciones militares. La frontera que sí quedó bastante desdibujada fue la que separaba a un representante ucraniano de un bromista ruso.
La cuestión resulta suficientemente incómoda sin adornarla: antes de discutir las zonas grises del uso militar, convendría despejar quién está al otro lado de la pantalla. La geopolítica es compleja. Comprobar un interlocutor pertenece a un temario bastante más introductorio.
Los avisos eran internos. La vergüenza ya tiene público
En HUMANía ya contamos los años de advertencias internas sobre la seguridad de OpenAI: preocupaciones por permisos, revisiones y prioridades. Este episodio afecta a otro control, la verificación de interlocutores. La conexión editorial está en la distancia entre la confianza que se solicita y las garantías que se exhiben.
OpenAI asegura que investigó la llamada junto con las autoridades pertinentes y adoptó medidas para evitar situaciones similares. La conversación ocurrió semanas antes de la publicación de Futurism, fechada el 13 de noviembre.
Nos piden confianza para gestionar tecnologías capaces de transformar sociedades y participar en operaciones militares. A cambio, podemos exigir algo más que investigaciones después del bochorno.
Antes de decidir qué puede hacer una IA en una guerra, comprueben con quién están hablando de ella.