Les estamos dando las llaves. Ya preguntaremos quiénes son.

Hasta hace poco, una inteligencia artificial te contestaba preguntas. Podía equivocarse, inventarse un dato o explicarte una tontería con una seguridad admirable. Pero, en general, después tenías que hacer tú algo con aquella respuesta.

Ahora estamos dando el siguiente paso: sistemas que hacen cosas. Abren archivos, utilizan programas, consultan información y encadenan tareas. Les encargas un trabajo y van resolviendo pasos para terminarlo.

Los llaman agentes. Quédate con esto: ya no solo hablan; también actúan.

Y estamos empezando a darles acceso a entornos donde un error puede afectar a personas de verdad.

El problema no es solo que se equivoquen

Imagina que contratas a varias personas para trabajar en una oficina. Les das acceso a documentos y programas, pero sus identificaciones cambian cada día. No siempre queda claro quién autorizó sus tareas. Y si alguien deja de pedir permiso para ciertas cosas, puede que tampoco quede constancia.

Cuando algo sale mal, toca reconstruirlo.

Quién entró. Quién decidió. Quién dio el visto bueno.

Ahora imagina que esos empleados pueden hacer cientos de operaciones mientras tú sigues buscando el correo donde crees que alguien lo aprobó.

Ese es el problema que señala un informe de Partnership on AI, publicado el 7 de octubre. Sus autores revisaron cuatro plataformas utilizadas para construir agentes de inteligencia artificial y encontraron carencias importantes en los registros que permiten vigilarlos.

No significa que todos esos sistemas estén causando daños. Significa que no siempre dejamos las pruebas necesarias para saber qué están haciendo y quién responde por ello.

Una forma bastante peculiar de mantenerlo todo bajo control.

«Hay un humano supervisando». Estupendo. ¿Cuál?

Uno de los hallazgos más inquietantes tiene que ver con los permisos.

De las cuatro plataformas estudiadas, solo una dejaba constancia si cambiaban las reglas sobre cuándo la IA tenía que pedir permiso. En las otras tres, podía pasar de «antes de hacer esto, pregunta» a «hazlo directamente» sin que ese cambio quedara anotado.

Eso no demuestra que cualquier agente pueda quitarse los controles cuando quiera. Pero sí plantea una pregunta muy concreta: si cambia la obligación de pedir permiso, ¿nos enteramos?

También faltaban registros suficientes sobre las intervenciones humanas: quién aprobó, qué autoridad tenía y qué decidió.

Porque poner a una persona delante de una pantalla no garantiza supervisión. Hace falta que entienda qué está autorizando, tenga tiempo para revisarlo y pueda detenerlo.

Si solo pulsa «Aceptar» para que avance el trabajo, hemos automatizado la decisión y conservado al humano para la firma.

Qué detalle.

Tampoco basta con preguntarle después

Otra carencia afecta a la memoria de estos sistemas: la información que conservan para utilizarla más adelante. Según el informe, las plataformas no registraban de forma sistemática sus cambios ni qué los había provocado.

Si cambia esa información, puede cambiar lo que el agente haga después. Y sin un registro resulta más difícil averiguar dónde empezó el problema.

Podemos preguntarle por qué actuó así, claro. Pero una explicación convincente no demuestra que haya reconstruido fielmente cómo tomó la decisión. Los propios investigadores señalan que esa cuestión sigue abierta.

Nos cuenta una historia ordenada. Nosotros necesitamos saber qué ocurrió.

Llevamos bastante tiempo confundiendo ambas cosas incluso sin ordenadores.

Esto va a seguir entrando en nuestras vidas

Lo razonable es esperar que se deleguen más tareas en estos sistemas: gestionar documentos, tramitar solicitudes, coordinar trabajos. La promesa de ahorrar tiempo es demasiado atractiva para que las empresas dejen de intentarlo.

El riesgo es que los permisos crezcan más deprisa que nuestra capacidad para comprobar cómo se utilizan.

Y ahí las consecuencias dejan de ser una respuesta absurda en un chat. Pensemos en un expediente que se modifica, una solicitud que se descarta o información privada que llega donde no debía.

Son ejemplos de lo que puede estar en juego cuando damos capacidad de actuar. No hace falta imaginar una máquina malvada. Basta con una tarea mal entendida, unos permisos excesivos y nadie mirando a tiempo.

Mientras tanto, nosotros seguimos discutiendo si la IA escribe bonito.

Las conclusiones son bastante poco futuristas

Antes de dar más responsabilidades a estos sistemas, necesitamos cosas muy normales: saber cuál actuó, qué podía hacer, qué hizo y quién lo autorizó. Registrar cuándo cambian sus permisos. Poder detener una acción importante antes de que cause un daño. Tener una persona responsable a la que pedir explicaciones.

Y cuando algo afecta a tu dinero, tu salud o tus derechos, necesitas una forma real de reclamar. «Lo decidió el sistema» no puede convertirse en la nueva manera de lavarse las manos.

Parte de las carencias del informe se puede corregir mejorando los registros técnicos. Otras requieren investigación. Pero exigir responsabilidades es una decisión que podemos tomar ya.

Si una organización no puede explicar cómo controla a un agente, debería limitar lo que le permite hacer.

Suena elemental. Ese es precisamente el escándalo.

Estamos dando acceso, repartiendo tareas y celebrando cuánto tiempo ahorramos. La vigilancia ya la terminaremos después.

Esto no para. Y nosotros estamos a uvas, mientras alguien —o algo— ya tiene las llaves.