El calvario de la IA: procesiones, premios Nobel y armas autónomas

Muy buenos días humano, domingo de Pascua, o de resurrección,

AI IA HOY, bienvenido al rebaño, soy Aiberto Floppy, y hoy va a ser

más bien un capítulo de viacrucis.

No es por gusto, la actualidad manda. Hablaremos del CEO de

deepmind, que hace unos meses ganó el nobel de Química.

Del camino que toma la IA, lo que nos enteramos los humanos y las

consecuencias que puede tener, y no parecen muy gloriosas.

Pero no hay problema si confiamos en la gente adecuada.

El CEO de OpenAI nos lo explica y además nos cuenta cuan

importante es para su empresa la seguridad. Y lo peculiar que es.

Luego está la IA que controla el ejercito americano, que se ha expandido

a la ONU, para la IA, siempre, todo es poco.

Pero por mucho que aceleren, no se van a poner a la cabeza,

porque hay una empresa que les lleva años de ventaja,

y además cuentan con muchas más facilidades…

China SL.

Oficiamos.

Hassabis ha jugado a todo, desde niño, y ha sido siempre de los mejores.

Empezó con el ajedrez, donde se convirtió en maestro con 13 años, pero no

se quedó ahí, lo petó desde el Diplomacy hasta el póker…

Con 17 años, como Musk, sacó un juego, Theme Park, donde simulabas gestiónar

un parque de atracciones, que inspiró los SIM, y vendió millones.

Fue campeón en los Juegos Mundiales de Deportes Mentales, llámalo las

olimpiadas frikis, cinco veces, y porqué se retiró… sino, llevaría cerca de 25.

Todo esto, antes de decidir que quería algo más serio, como la neurociencia

y la computación, donde tampoco debe ser malo, porque se ha llevado un

señor Nobel este año. Vamos a hablar de este genio, y del artículo sobre él.

En el Time, porque nos parece muy representativo de lo que nos viene.

Ya hemos hablado de AlphaFold, una herramienta de IA capaz de predecir la

estructura tridimensional de las proteínas utilizando únicamente sus secuencias

de aminoácidos, un juego de niños: tú le das unas letras raras de aminoácidos,

y la IA te responde con la forma exacta en la que esa cosa se retuerce

en el espacio, como si fuera un emulador 3D, pero con precisión científica.

¿Décadas de investigación? ¿Microscopios carísimos? ¿Doctorados?

Para conseguir la interacción de una proteína cada 1 o 2 años,

AlphaFold ha tardado cinco años en conseguir 200 millones de proteínas

procedentes de 1 millón de especies, es decir, casi todas las proteínas

conocidas en la Tierra.

"Creo que algunos de los mayores problemas que enfrentamos hoy como

sociedad, ya sean climáticos o de enfermedades, se verán aliviados por las

soluciones de IA", dice Demis. “Me preocuparía mucho la sociedad actual si

no supiera que algo tan transformador como la IA está por llegar”.

La verdad es que es un tío muy positivo, porque por supuesto, AlphaFold,

con su premio Nobel; es una IA estrecha, o débil, solo sabe hacer lo suyo.

Y aquí todos están a lo mismo, a por la superinteligencia artificial.

Él, todavía habla de la AGI, pero lo que le pide suena a ASI, de cualquier forma,

sin pararnos a discutir de nombres, en lo que estamos todos de acuerdo es

en la pasta que es necesaria para llegar ahí.

Y aquí es donde empieza lo bueno, el perfil de Hassabis, es ideal, científico y

más filántropo que empresario. Pero como le pasa a Amodei en Anthropic,

depende de la pasta de la gran tecnológica que tiene detrás, cada uno la suya.

Al CEO de DeepMind se le llena la boca al decir que decidieron lanzar AlphaFold

gratis para todos, por el bien de la humanidad.

De hecho, Cuando DeepMind fue adquirida 2014, Hassabis insistió en un

cortafuegos contractual: una cláusula que prohibía explícitamente que su

tecnología se utilizara para aplicaciones militares. Para él era la línea roja.

la IA tiene que ser una salvación científica de la humanidad, no un arma de guerra.

Encomiable, pero hemos dicho era.

Ya hablamos que cada vez son más las grandes tecnológicas que se unen al

tío Sam, porque es natural, el dinero llama al dinero, y no hay nada más

lucrativo que la guerra. Que además no solo te da mucha pasta.

También mucho poder.

Por lo tanto, esa línea roja, ahora, apenas es un puntito.

También hemos hablado de Israel, dejo los enlaces, que es cliente de todas

las grandes tech, y le cunde genial, son sin lugar a dudas los más eficientes

del planeta en defensa (o eliminando enemigos… militares claro).

Y que dice el amigo Demis de esto?

DeepMind cambió su postura después de reconocer que el mundo se había

convertido en "un lugar mucho más peligroso" en la última década. "Creo que

ya no podemos dar por sentado que los valores democráticos van a triunfar".

Toma ya… sactamente lo que todos… o nosotros o los chinos.

Aunque por ahora el nosotros va variando, el enemigo ya es común.

Y esto nos deja un claro mensaje, el nosotros, sea el que sea, son los buenos.

Pues nada, será por nuestro bien, vamos a confiar en que la IA de grupos

de inversión dirijan el mundo, que seguro que van a buscar el bien de todos.

su historia y sobre todo sus números les avalan.

Pero Hassabis, como hemos visto, tonto no es, y se preocupa por los riesgos,

que según él, se dividen en dos categorías.

Una es la posibilidad de que la usen los malos para causar estragos en el mundo.

Aquí aprovecha para lo de siempre, mira los otros lo inseguros que son,

nosotros tenemos modelos mejores que no sacamos por el bien común.

Y la otra el riesgo de que los sistemas de IA que actúan de forma autónoma,

puedan volverse muy superiores y acabar revelándose contra los humanos.

Esto que es el argumento del 90% de nuestras películas de robots…

Ya es algo de lo que hablan los científicos más reputados.

"¿Cómo podemos asegurarnos de mantener el control de esos sistemas,

controlarlos, interpretar su funcionamiento, comprenderlos y establecer las

barreras adecuadas que no puedan ser modificadas por sistemas

automejorables de gran capacidad?”, nos dice.

Y es muy jodido, concluye, con otras palabras.

Aquí volvemos al paralelismo con Anthropic, Dario dijo casi lo mismo.

Incluso si empresas bienintencionadas pueden crear IA seguras, eso por sí solo

no detiene la creación y proliferación de IA inseguras.

Para detenerlo se requerirá colaboración internacional.

Pues genial, porque es el momento, ahora que Estados Unidos y China están

hablando tanto, parece el escenario ideal.

Y ya te he comentado, lo positivo que es, porque la verdad,

«A todos nos interesa asegurarnos de que todo salga bien»

Una obviedad que suena más fácil de lo que nos parece.

También reconoce que haría falta una nueva filosofía política y que quizá

lo que llamamos democracia, no sea suficiente, necesitamos algo más.

Totalmente de acuerdo, pero quien va a decir lo que es mejor.

Elon Musk, Sam Altman, Xi Jinping, la AGI… porque me huele que el

humano común va a pintar poco.

El artículo acaba con la siguiente frase…

En su búsqueda de la AGI, Hassabis está jugando la partida

más arriesgada de su vida.

Es cierto, el problema es que nosotros no jugamos pero nuestra vida

si está en el juego.

Pues bien, aquí el que no corre, se transfiere en tiempo real.

Nuestro CEO favorito, no va a ser menos, nos está acostumbrado.

Y no, no vamos a hablar de los nuevos modelos, que ya estábamos preocupados,

no, volvemos a hablar de lo mismo de siempre, el peculiar concepto que tiene

Samdios de la seguridad. Pero no preocuparse que nos lo explica muy claro.

Han actualizado su Marco de Preparación, un documento que rige las

evaluaciones de seguridad de los modelos de IA avanzados. Ahora hay

una nueva cláusula, OpenAI se saltará los requisitos de seguridad internos

(sí, esos que ya son pocos y malos) si los demás sacan sistemas de IA

de alto riesgo sin medidas de protección al menos como las suyas.

La verdad, qué menos.

Es decir, si hay alguno más fiero, soltamos al perro. Y nos da igual lo que pase.

También ahora distingue entre modelos con capacidades “altas” y “críticas”.

los primeros son los que la pueden liar parda con amenazas existentes y

los segundos aquellos que pueden evitar que las apaguen o que son capaces

de replicarse autónomamente. Vamos los Skynet que vendrán.

AH… Y también nos comentan que están ampliando su seguridad,

que es, básicamente, poner a la IA a vigilar a la IA.

Que grande eres Sam. Que tranquilos estamos contigo.

Ya hemos hablado de Palantir, que junto a OpenAI,

Lleva el tema del ejercito yanqui.

La IA ya dirige lo ejércitos de los principales países.

La ONU iba tarde. Pero como no podía ser de otra manera…

Maven, será el sistema inteligente que dirigirá a los cascos azules.

Y cuántas pasta nos costará esto?

No ha trascendido.

Pero sí, a lo que se va a dedicar; a la biotecnología buena.

La de la guerra.

Chalecos, camuflaje dinámico, alimentos sintetizados al momento,

Bacterias para detectar minas, super soldados… esas cositas.

Y esto porque? Pués resulta que China SL, también les lleva la delantera en eso.

Y están preocupados.

Y quien avisa? Pues entre otros nuestro amigo Eric Schmidt.

Según ellos, USA tiene que hacer en tres años lo que China lleva haciendo 20.

Necesitan más pasta, muchas más.

Porque los chinos van a utilizar la biotecnología como arma.

Así que, mejor nosotros primero.

Que ya son cadetes el ejército de tropas genéticamente mejoradas rojas.

En fin. Esto es la guerra, más claro agua.

Nos acaban diciendo, cosa de la que estamos convencidos,

Que no nos estamos enterando de nada.

En 10 años la gente se sorprenderá de lo que la biotecnología hará por ellos.

Literal. Pero será para bien, o para joder.

Y para acabar lo mejor. O lo menos malo, bueno, la guinda del pastel.

Sean los 5.000 millones de robots humanoides que pronostica JPMorgan.

O los 10.000 millones que dice el niño de Marte que habrá en 2040,

está claro que veremos el día en que serán más robots,

que población humana. Mayordomos, camareros, soldados, bailarines…

Da igual, en todos los ámbitos, china va a la cabeza.

En los últimos cinco años, el imperio del chip naciente ha solicitado con éxito 5.590

patentes de robots humanoides, en Estados Unidos 1.442.

De hecho si sumas las patentes de robótica de los 19 países más productivos

del mundo. China ha sumado un 22% más que todos juntos.

Dos de cada 3 robots que se venden actualmente son Chinos.

Según los expertos, el país oriental es el único que está preparado para

adaptarse a la hostia que estos bichos le van a dar al mercado.

Además, producen más que nadie, envían como nadie, están mejorando

la calidad, la IA y la robótica ya están en la industria. Lo que hace que los costes,

se reduzcan más todavía, Y por supuesto; todos van a una.

Nadie duda que son la fábrica del mundo actual.

Pues parece que en futuro, van a ir a más.

No todos los humanoides serán chinos, pero te será muy difícil encontrar

uno que no tenga ningún componente made in China.

Y si ya un robot te cuesta la mitad o un tercio si viene de oriente.

Imagina como se van a poner los precios de los robots americanos

con componentes chinos, Gracias al tío Trump.

Vamos a acabar el oficio, se nos quedan temas…,

como que ahora la moda es que Gipiti te localice tus fotos, tu se la enseñas

y el te dice donde la hiciste, cuando y probablemente con quien

estabas, que comisteis y lo que pensabas en ese momento.

Nada, otra cosa que no nos sorprende, nos tienen calados.

Que el bueno de Sam quiere poner una base de Stargate en Reino Unido.

Si uno quiere ser el CEO mundial, tiene que mirar más allá de américa.

O que ahora GPT tendrá una red social. ¿Para ayudarnos a comunicarnos?

No hombre, las redes sirven para todo y cada vez menos para eso.

Ya veremos, pero para lo que si va a servir, es para dar por saco…

que si a Elon, a Mark, a nosotros y sobre todo, para tener más datos

para entrenar a sus modelos, que ya sabes que están hambrientos.

pero, ya sabes, no se puede contar todo, porque no nos enteramos

ni de la mitad.

En cualquier caso, no será porque no lo intentamos.

Muchas gracias por pararte a escuchar, es un honor.

Humano.

Vuelva usted mañana.

https://es.wikipedia.org/wiki/AlphaFold

https://es.wikipedia.org/wiki/Demis_Hassabis

https://time.com/7277608/demis-hassabis-interview-time100-2025/

https://hipertextual.com/2025/04/openai-reducira-medidas-seguridad-ia-riesgo

https://www.axios.com/newsletters/axios-future-of-defense-b125b7b0-14c4-11f0-9ad1-11cd1a957ff3

https://www.businessinsider.es/tecnologia/america-perdiendo-guerra-robots-china-1455107

https://www.digitaltrends.com/computing/chatgpts-latest-image-tools-are-stirring-up-another-viral-and-creepy-trend/

https://www.reuters.com/technology/artificial-intelligence/openais-stargate-ai-venture-weighs-uk-investment-ft-reports-2025-04-17/

https://www.xataka.com/robotica-e-ia/hipotetica-red-social-openai-no-quiere-conectar-gente-quiere-tus-datos-para-entrenar-su-ia