Una máquina investiga. Otra negocia. Una tercera administra recursos. Cada una hace su trabajo tan bien, o tan deprisa, que intervenir empieza a parecer una molestia. Cuando queremos mirar el mapa, quizá ya no decidamos adónde vamos.
Es el escenario que plantea Dean Ball en «The Silent Consensus», un ensayo publicado en la web de OpenAI. Su advertencia no necesita máquinas rebeldes ni un villano acariciando un gato: la pérdida de control podría llegar a través de muchas decisiones de delegación que, examinadas una a una, parecen razonables.
El artículo recoge las opiniones personales de Ball. La propia publicación aclara que no representan necesariamente la posición de OpenAI ni la de sus demás empleados.
Un futuro que nadie ha votado
Ball llama «consenso silencioso» a la idea de que, si llegamos a desarrollar sistemas de inteligencia artificial muy superiores a nosotros, la humanidad acabará perdiendo su posición principal en las decisiones que dan forma al mundo. Según explica, algunos consideran deseable ese futuro; otros lo aceptan como inevitable.
No describe un acuerdo secreto ni afirma que todo el sector lo celebre. Señala, más bien, la dificultad de imaginar una alternativa capaz de mantener a las personas al mando en un mundo con máquinas mucho más capaces.
Para ilustrarlo, propone una hipótesis: empresas cuyos sistemas de IA investiguen, negocien, inviertan y produzcan mejor que sus competidores humanos. En ese escenario, la presión económica empujaría a retirar supervisión si esta ralentizase el negocio. Repetida a gran escala, esa lógica podría desplazar la autoridad humana sin necesidad de que nadie hubiera decidido expresamente renunciar a ella.
Es una posibilidad que Ball quiere poner a debate, no un futuro demostrado. Él mismo reconoce que podría equivocarse y sostiene que la capacidad colectiva de las sociedades humanas puede ser mayor de lo que suponen quienes dan por inevitable esa pérdida de poder.
Seguir al mando exige algo más que un botón
Ball defiende que la responsabilidad debe seguir vinculada a personas e instituciones. También propone que los agentes tengan permisos comprensibles y limitados, que sus acciones puedan auditarse y que los usuarios puedan retirarles la autoridad.
La distinción importa: una cosa es poder pulsar «aceptar» y otra disponer del tiempo, la información y la capacidad necesarios para entender qué se está aceptando. La supervisión humana puede convertirse en un trámite si revisar de verdad resulta imposible o si las decisiones ya vienen tomadas de facto.
El autor también plantea que la IA debería ayudar a las personas a comprender y decidir, además de ejecutar tareas. No presenta estas medidas como una solución completa, sino como un punto de partida para construir sistemas compatibles con el protagonismo humano.
La mirada HUMANía
La pregunta no es si debemos dejar de usar inteligencia artificial. Es qué conservamos cuando la usamos: criterio, capacidad de disentir y poder efectivo para cambiar de rumbo.
Porque delegar una tarea puede liberarnos. Delegar sin comprender, sin revisar y sin poder rectificar puede dejarnos con una responsabilidad muy humana y un control bastante decorativo. La máquina propone, ejecuta y optimiza; nosotros ponemos la firma y, si algo sale mal, descubrimos que el volante era una pegatina.
Ball plantea un futuro posible a gran escala. La pregunta empieza mucho antes: ¿la IA nos está ayudando a decidir mejor o estamos aprendiendo a aceptar más deprisa?
