León XIV ha pedido que la inteligencia artificial deje de depender de las buenas intenciones de quienes la desarrollan. En su discurso del 30 de octubre ante investigadores y expertos reunidos en el Vaticano, reclamó instituciones capaces de convertir los principios éticos en controles efectivos. La audiencia formaba parte de un encuentro organizado por la Pontificia Academia para la Vida y el Future of Life Institute. Su propuesta incluye supervisión independiente, responsabilidades identificables y reparación de los daños.
La petición tiene cierta gracia viniendo del Papa: para gestionar la inteligencia artificial, confiar no basta.
La ética necesita a alguien que pueda exigirla
El punto más urgente de su intervención fue institucional. Según recoge Associated Press, León XIV considera que ya conocemos muchos de los principios necesarios; lo que falta es disponer de organismos que los hagan efectivos y protejan el interés común.
Eso significa poder examinar las decisiones sobre desarrollo y uso de la IA, cuestionarlas y establecer respuestas cuando causen daños. También supone que la evaluación no dependa exclusivamente de quienes tienen interés en sacar adelante el producto.
Una declaración de principios puede expresar un compromiso. La supervisión independiente permite comprobar si se cumple. Entre ambas cosas cabe una industria entera.
El discurso reclama instituciones internacionales eficaces, aunque no presenta un organismo nuevo, un calendario de implantación ni un mecanismo vinculante. Es una exigencia política y ética que todavía necesita convertirse en decisiones.
Ganar la carrera no explica hacia dónde corremos
León XIV también cuestiona que el desarrollo tecnológico se entienda únicamente como una competición. Su criterio da prioridad a la fiabilidad y al servicio a las personas frente a una potencia cuyas consecuencias resulten difíciles de prever o controlar.
La pregunta que plantea es sencilla:
«¿Para qué debería servir?»
Tiene bastante más recorrido que otra clasificación de modelos. Obliga a hablar de objetivos, destinatarios y costes. Un sistema puede superar una prueba técnica sin mejorar la vida de quienes terminan sometidos a sus decisiones.
El Papa sostiene, además, que podemos orientar, modificar y rechazar aplicaciones. El futuro tecnológico depende de elecciones humanas. Presentarlo como inevitable tiene una ventaja para quienes lo impulsan: convierte cualquier oposición en un supuesto retraso.
La decisión de matar no se automatiza
La intervención incluye una petición concreta a los Estados que se reunirán en Ginebra en noviembre: avanzar hacia la prohibición de las armas letales autónomas. Europa Press destaca ese llamamiento y la exigencia de conservar un control humano efectivo sobre las decisiones que afectan a la vida, la libertad y el uso de la fuerza.
La palabra efectivo importa. Poner a una persona delante de una pantalla no garantiza que tenga información, tiempo o autoridad para detener lo que propone el sistema.
Supervisar exige capacidad real de intervenir. Si el humano solo confirma una recomendación que no puede evaluar, su presencia puede acabar sirviendo de firma al pie de una decisión ajena.
Una máquina no puede convertirse en la excusa
Otro punto especialmente relevante afecta a las propuestas de conceder derechos o personalidad jurídica a los sistemas de IA. Vatican News recoge la advertencia del Papa: ese reconocimiento podría diluir la responsabilidad humana y dificultar las reclamaciones de quienes sufran daños.
La preocupación tiene consecuencias muy prácticas. Cuando algo falla, debe poder identificarse quién decidió desarrollar, desplegar o utilizar el sistema, con qué conocimiento de sus límites y bajo qué obligaciones.
Atribuirle cualidades humanas a un chatbot resulta estupendo para vender compañía. Utilizar esa misma apariencia de autonomía para desdibujar responsabilidades sería bastante menos entrañable.
León XIV añade que los beneficios de la innovación deben repartirse y llegar especialmente a quienes más los necesitan. La utilidad social de una tecnología no se mide únicamente por lo bien que les vaya a sus propietarios.
La mirada HUMANía
Hay algo delicioso en que el Papa tenga que recordar a la industria tecnológica que hace falta algo más que fe.
Los nuevos evangelistas prometen abundancia, conocimiento y un futuro extraordinario. El Vaticano pregunta por los controles, por las víctimas y por quién responde si la promesa termina haciendo daño. El reparto de papeles merece una pausa.
Samdios y compañía pueden seguir anunciando el porvenir. Pero una presentación brillante no concede autoridad para decidir por todos. Y advertir de los peligros de tu propia tecnología tampoco equivale a aceptar que alguien limite tu negocio.
La propuesta del Papa tendrá que medirse por su capacidad de influir en decisiones reales. Un discurso, por sensato que sea, tampoco supervisa un modelo ni repara una vida.
Pero el criterio queda bastante claro: quien despliega poder debe aceptar controles y responder por sus consecuencias.
Para pedir confianza ya tienen departamento de comunicación.