Si un agente de inteligencia artificial puede hacer cosas, debemos poder saber quién las hizo. Qué agente actuó, con qué permisos y por encargo de quién. Darle capacidad para intervenir y conformarnos después con «ha sido la IA» es una forma bastante cómoda de perder al responsable entre los cables.
Anthropic ha presentado FlashProve, un prototipo de investigación que permite comprobar mediante pruebas criptográficas que una respuesta corresponde a un modelo concreto, sin revelar sus parámetros internos. Es una pieza útil para empezar a exigir identificación verificable. La investigación de Anthropic explica su alcance.
El pasaporte completo todavía queda lejos.
FlashProve: demostrarlo en vez de pedir confianza
El proveedor publica una huella criptográfica vinculada al modelo. Las pruebas posteriores permiten verificar los resultados frente a esa huella. La propuesta busca que comprobar qué modelo intervino no dependa únicamente de creer a la empresa que lo sirve.
El prototipo tiene límites importantes: trabaja con una versión matemática específica del modelo, contextos de hasta 1.024 tokens y comprobaciones posteriores al cálculo. Generar las pruebas consume mucho más cómputo que la inferencia ordinaria. Tampoco todas las implementaciones publicadas cuentan con las mismas garantías formales. Son avances de investigación, no una identificación universal ya incorporada a los asistentes. Detalles y limitaciones de FlashProve.
El modelo tiene huella; el agente necesita identidad
Aquí conviene separar dos preguntas. Una es qué modelo corresponde a una respuesta. Otra, qué agente ejecutó una acción concreta.
Varios agentes pueden utilizar el mismo modelo y trabajar para personas distintas, con herramientas, instrucciones y permisos diferentes. Identificar el modelo no basta para distinguirlos. Sería como averiguar qué motor lleva un coche cuando necesitamos saber qué vehículo pasó por allí y quién lo conducía.
Para la trazabilidad que reclamamos hacen falta más piezas: una identidad verificable de cada agente, un registro fiable de sus actuaciones y una relación clara con quien lo puso a trabajar. También necesitamos saber qué podía hacer, quién autorizó ese acceso y cómo retirárselo.
Y una prueba sobre el origen de una respuesta tampoco certifica que sea cierta, sensata o inocua. Una equivocación perfectamente identificada sigue siendo una equivocación. Al menos permite empezar a investigar sin que todos señalen a una nube.
Las llaves ya las tienen
La exigencia de identificar a los agentes y aclarar quién responde por ellos atraviesa el último HUMANía. En el guion publicado, Aiberto pregunta por un DNI o pasaporte y vuelve sobre la idea al despedirse: estamos concediendo capacidad de actuación sin exigir una identificación a su altura.
Ese es el criterio con el que merece la pena valorar esta investigación. No necesitamos que una máquina adopte un nombre simpático y una foto de perfil. Necesitamos poder vincular una actuación con el sistema que la realizó y con las personas u organizaciones responsables de su despliegue.
«Lo hizo un agente» debería ser el comienzo de una explicación. Nunca su punto final.
La mirada HUMANía
FlashProve aborda una parte concreta de un problema que llevamos tiempo señalando. Bienvenida sea la posibilidad de sustituir una promesa empresarial por una comprobación.
Nuestra exigencia sigue siendo más amplia: cada agente que pueda actuar debe poder ser identificado, y sus acciones deben poder atribuirse. Con garantías para proteger los datos de los usuarios, pero sin convertir la complejidad técnica en una coartada.
La autonomía necesita permisos, límites y responsables. Los papeles no sustituyen a los frenos. Pero ya va siendo hora de dejar de entregar las llaves a quien ni siquiera tiene que identificarse.