Geoffrey Hinton es una referencia para HUMANía desde el comienzo. No recogemos cada una de sus declaraciones: repetir una advertencia también puede acabar convirtiéndola en ruido. Pero hoy toca detenerse.
La entrevista se publicó el 3 de noviembre y se actualizó el 4 en The Guardian. Su mensaje reúne dos ideas incómodas: quizá habría sido mejor no desarrollar la inteligencia artificial y podríamos estar cerca de una crisis suficientemente grave como para obligarnos a reaccionar.
Qué significa el «Chernóbil» de la IA
Hinton sitúa ese posible gran incidente entre lo que queda de 2026 y 2027. La comparación nuclear sirve para describir una sacudida que haga imposible seguir ignorando los riesgos.
Los ejemplos que plantea son ataques facilitados por IA contra la infraestructura eléctrica o una interrupción del sistema financiero durante una semana. Como recoge Mediafax al explicar el alcance de la advertencia, habla de servicios esenciales y de las consecuencias que tendría perderlos.
Conviene mantener una distinción: ese calendario es una predicción de Hinton. Ya se ha equivocado otras veces en sus predicciones, ojalá que está sea otra más.
¿Habríamos estado mejor sin IA?
El condicional importa. Hinton contempla que el balance de esta tecnología pueda acabar siendo negativo para la humanidad, pero también reconoce la posibilidad de una prosperidad extraordinaria.
Entre ambos escenarios coloca nuestra capacidad para gestionar los riesgos. Advierte de desigualdad, desempleo y fractura social si fracasamos. Al mismo tiempo, sostiene que todavía podemos intervenir para evitar los peores desenlaces.
Convertirlo en alguien que da todo por perdido sería una forma bastante cómoda de dejar de escuchar lo que propone.
Comprobar la seguridad antes de vender el futuro
Su crítica tiene destinatarios: Sam Altman, Mark Zuckerberg y Elon Musk. Hinton considera que anteponen los intereses económicos a la seguridad. Es una acusación suya sobre las prioridades de estos dirigentes, que nosotros estamos de acuerdo, no significa que sea cierto. Ni que no lo sea.
La propuesta concreta consiste en someter los modelos avanzados a pruebas y evaluaciones independientes antes de lanzarlos. UOL/Tilt recoge su comparación con la autorización de medicamentos: las empresas tendrían que presentar evidencias de que los beneficios superan los riesgos ante una autoridad ajena a ellas.
En otras palabras, demostrar primero y desplegar después. Una secuencia poco espectacular para una presentación comercial, pero bastante razonable para quienes van a convivir con las consecuencias.
La mirada HUMANía
Hinton lleva tiempo acompañando nuestra manera de pensar la inteligencia artificial. Escucharlo exige conservar el mismo criterio que pedimos ante cualquier promesa tecnológica: distinguir hechos, pronósticos y opiniones, incluso cuando quien habla es una referencia.
Podemos cuestionar su calendario y tomarnos muy en serio la exigencia de controles. Para pedir evaluaciones independientes no hace falta aceptar una fecha de catástrofe.
También conviene examinar qué significa seguir teniendo el control. Debería implicar capacidad para comprobar, limitar, detener y exigir responsabilidades. Dar por buena una promesa del fabricante deja demasiadas de esas tareas pendientes.
La pregunta que nos deja esta advertencia es bastante concreta: ¿qué pruebas de seguridad vamos a exigir antes de que algo falle a gran escala?
Porque esperar al desastre para descubrir que hacían falta controles tiene una ventaja administrativa: para entonces ya nadie discute que eran necesarios.