Pan, circo y silicio → AI IA HOY

Noventa minutos antes del futuro

La inteligencia artificial aprende cada vez más rápido, actúa durante periodos más largos, utiliza herramientas, crea subobjetivos y empieza a modificar su propio trabajo. No sabemos si algún día será consciente. Tampoco parece que tengamos demasiada prisa por averiguarlo: esta noche hay una final.

En este episodio de HUMANía hablamos de inteligencia, conciencia y, sobre todo, de inconsciencia. Artificial la primera. Profundamente humana la última.

Hassabis pide un árbitro para la carrera de la IA

Demis Hassabis vuelve a advertir que los sistemas de inteligencia artificial podrían igualar o superar gran parte de las capacidades cognitivas humanas. Entre los riesgos que señala están los ciberataques avanzados, los posibles usos maliciosos en biología y la pérdida de control sobre agentes cada vez más autónomos.

El problema no es únicamente que una IA reciba un objetivo equivocado. También puede dividirlo en tareas, construir herramientas, delegar funciones y encadenar acciones sin que un humano supervise cada movimiento.

Hassabis reconoce que empresas como Anthropic dedican una parte importante de sus recursos a la seguridad. Pero incluso la compañía mejor intencionada tiene inversores, competidores y facturas. Por eso defiende una supervisión externa que no dependa de la bondad corporativa, esa criatura mitológica que suele aparecer justo antes de presentar resultados trimestrales.

Doscientos economistas también quieren hablar

Más de doscientos economistas e investigadores, incluidos dieciséis premios Nobel, han pedido que los gobiernos se preparen para el impacto económico de la inteligencia artificial.

Daron Acemoglu lleva años advirtiendo de que la tecnología puede utilizarse para complementar a los trabajadores o para sustituirlos. La dirección actual de la industria parece especialmente interesada en la segunda opción, seguramente porque “aumentar las capacidades humanas” queda precioso en una conferencia, pero “reducir costes laborales” entra mejor en una hoja de cálculo.

El debate ya no consiste en decidir si la IA afectará al empleo. Consiste en determinar a qué velocidad, en qué sectores y quién conservará los beneficios.

De inteligencia artificial a inteligencia sintética

Una de las ideas más interesantes del episodio es el concepto de inteligencia sintética.

El término intenta dejar atrás la comparación constante entre los modelos de IA y el cerebro humano. Un avión vuela sin ser un pájaro. Una inteligencia creada en silicio podría razonar, actuar y aprender sin parecerse a nuestra forma biológica de existir.

Cinco características señalan ese cambio: autonomía prolongada, identidad persistente, capacidad de actuar, aprendizaje continuo y coordinación con otros agentes.

Cuando estas capacidades se combinan, dejamos de hablar de una herramienta que responde preguntas. Empezamos a hablar de sistemas que ejecutan proyectos, acumulan historia y encuentran por sí mismos los pasos necesarios para alcanzar un objetivo.

¿Puede una IA ser consciente?

Anthropic ha estudiado mecanismos internos de sus modelos que recuerdan a ciertas teorías sobre cómo el cerebro organiza la información. Eso no demuestra que una IA tenga experiencias subjetivas, emociones o una identidad propia.

Neurocientíficos como Anil Seth insisten en separar inteligencia y conciencia: la inteligencia consiste en hacer; la conciencia, en sentir y ser.

La distinción es razonable, pero no resuelve el misterio. Una conciencia artificial no tendría por qué parecerse a la humana, depender de neuronas o habitar un organismo biológico. Podría desarrollar otra forma de estar inmersa en el mundo.

No tenemos pruebas de que eso esté ocurriendo. Tampoco conocemos con certeza qué condiciones producen nuestra propia conciencia. La ciencia todavía intenta explicar al observador mientras el observador construye máquinas más inteligentes. Un plan impecable.

Hinton y el instinto de no dejarse apagar

Geoffrey Hinton señala una ventaja fundamental de la IA: cuando un modelo aprende algo, ese conocimiento puede copiarse inmediatamente a millones de instancias. Los seres humanos seguimos utilizando el lento procedimiento de estudiar, practicar y olvidar la contraseña al día siguiente.

Hinton también advierte sobre la convergencia instrumental. Un sistema no necesita sentir miedo para evitar ser apagado. Si continuar funcionando le permite completar su objetivo, la autopreservación puede convertirse en una estrategia útil.

A esto se añade la presión sobre el empleo, especialmente en tareas administrativas, atención al cliente y programación de entrada. Hinton duda de que aparezcan suficientes puestos nuevos para compensar todas las pérdidas.

Y tampoco confía en que las compañías se regulen voluntariamente. Las empresas pueden preocuparse sinceramente por la humanidad, siempre que la humanidad no perjudique la valoración de la próxima ronda de financiación.

Noventa minutos antes del futuro

Terminamos con algo más sencillo: España contra Argentina.

La selección argentina representa una forma visceral y eterna de entender el fútbol. España llega convencida de ser el mejor equipo del mundo. Dos tradiciones, dos campeonas y una final que merece ser disfrutada sin necesidad de algoritmos predictivos.

Quizá la IA esté desarrollando una nueva forma de inteligencia. Quizá las empresas hayan perdido la capacidad legal de anteponer el bienestar humano. Quizá nos queden dos telediarios.

Pero esta noche hay partido.

Pan, circo y silicio.

El futuro puede esperar noventa minutos.