El algoritmo de la Omertá: IAs que se encubren y máquinas que sudan

Muy buenos días humano, Bienvenido a tu podcast, domingo 5 de aguas mil.

Hoy nos planteamos una pregunta, las máquinas son más humanas que nosotros?.

Ya, no te alteres, vamos por partes. Primero veremos al primer sector,

Nosotros, los humanos. Pero no los mindundis del rebaño.

No, la gente de bien… A qué se dedican, cuáles son sus sueños,

Sus temores y sobre todo sus prioridades.

Luego veremos la otra especie, la inteligencia artificial.

También tiene sus prioridades, sus temores… y ahora no estamos

Seguros de que tengan sueños, como las ovejas eléctricas.

Pero ya sudan como en Blade Runner.

Acabaremos con otras noticias más mundanas

Filtraciones humanas, compras sonadas, avisos descerebrados

Y volvemos a una de nuestras secciones ocasionales.

Fe de ratas. Cuando nos equivocamos, no tenemos

Problema en reconocerlo, después de todo, somos humanos.

corregimos y concretamos el aviso cuántico de la semana pasada…

Sin mas demora.

Superponemos…

En agosto de 2015, DeepMind, vamos, los jefazos,

Demis Hassabis y su socio Mustafa Suleyman se reunieron en las instalaciones

de SpaceX con Elon Musk, Reid Hoffman y altos ejecutivos de Google para discutir cómo

domar una futura AGI. La idea era ordenar a la tecnología como si fuera un parque de

atracciones. Pero claro se juntaron con Tony Stark, el fundador de LinkedIn y los de

Mountain View… y salieron esquilados. La historia de siempre: demasiados egos y ni un

solo mando a distancia para repartir turnos.

El resultado… Cada cual se fue pensando en su propia agenda y la mesa de diálogo…

terminó como la cena de Nochebuena cuando se habla de política.

Tras ese tropiezo, nació Project Mario. Su objetivo era hacer que DeepMind fuera menos

susceptible a los dictados de su matriz; buscaban una especie de semi‑independencia

dentro del paraguas de Google… Que planazo…, sin embargo

«Alphabet tenía la opción de simplemente decir: "Bueno, vuelvan a sus puestos,

muchachos, son nuestros, harán lo que les digamos"»… Llámalo contratos varios.

Claro.

Porque cuando compras el futuro… lo normal es usarlo.

Lo interesante es que, en ese momento, Demis Hassabis y Mustafa Suleyman

estaban intentando hacer algo que suena de la hostia…

Crear una estructura de gobernanza sin precedentes para una tecnología sin precedentes.

Y que conste, que no dudamos de sus buenas intenciones,

“no sabemos cómo controlar esto… pero tampoco queremos que lo controle otro”.

Y ahí aparece Reid Hoffman, el típico multimillonario que dice cosas muy sensatas…

…mientras invierte en todo lo que respira.

Hoffman aplaude la idea:

- Gobernanza global
- IA al servicio de la humanidad
- Modelos sin ánimo de lucro

Vamos, el pack completo de “somos buenos…, de verdad de la buena”.

Después de todo, el argumento era demoledor, la escisión serviría al interés público

al mejorar la seguridad de la IA. ¿Quién no quiere eso?

De hecho, Hoffman había apoyado a OpenAI precisamente porque se había fundado

como una organización sin ánimo de lucro, con un estatuto que exigía que su

tecnología estuviera al servicio de la sociedad. Te acuerdas… qué tiempos coño!!!

Altman, ya por aquel entonces también estaba preocupado…

«Estamos planeando una forma de permitir que amplias zonas del mundo

elijan representantes para un nuevo consejo de gobernanza»

Sí.

Una especie de ONU… pero con GPUs. Y con él como CEO mundial. Es clar.

---

Y nuestros protagonistas insisten, DeepMind propone algo aún más elegante:

Una empresa donde nadie obtiene beneficios.

Gestionada con intensidad capitalista… pero su impacto sería poscapitalista.

Toma ya.

Menudo eslogan, precioso, potente… pero, sorpresa… sin pasta, no hay IA.

En 2018 Los líderes de DeepMind se rinden a la junta directiva de Alphabet,

Vamos, que llegaron a un acuerdo de nada, unos

15.000 millones de dólares en financiación de Google para poder

seguir con la investigación en IA general.

Hoy Hassabis es el director ejecutivo no solo de DeepMind, sino de Google DeepMind

Y Suleyman se convirtió en director ejecutivo de Microsoft AI.

Ahora dicen que Las cosas no son blancas o negras, especialmente cuando se trata

de una tecnología con consecuencias desconocidas. Hassabis lo resume.

“Así que hay que ser adaptable. Hay que pasar del idealismo al realismo,

pero, con suerte, sin renunciar a los propios valores.” Esto igual ya con la boca chica.

el que su tecnología nunca se usaría para armas ni vigilancia… y esos

detallitos, ya han pasado a mejor vida.

Parece que les ha podido el peso de la realidad…

«No quiero que esta parte de mi cerebro crezca»,

dice Demmis cuando le enseñan otro documento legal.

A Open AI le pasó algo muy similar, Ya lo hemos comentado,

pero nunca está de más. Dice tanto de cómo son los que dirigen el cotarro…

Ilya Sutskever, Greg Brockman, Elon Musk y Sam Altman,

Un grupo que, sobre el papel, estaba intentando salvar el mundo…

… en la práctica, por aquel entonces estaban discutiendo quién manda.

Ilya Sutskever y Greg Brockman, empezaron a recelar.

Como que les daba la sensación de que Elon y Sam eran

demasiado visionarios y captadores de fondos. Que va… que cosas pensaban.

Samdios y el niño de marte, aspiraban a convertirse en CEO de OpenAI.

Y cada uno tenía su estrategia, no te digo quien ganó…

Así que el bueno de Sam iba dejando caer que Musk era demasiado “errático”

como para confiarle la IA general. En plan, ese tío está loco, menos mal que estoy yo.

Sin embargo Sutskever no se fiaba ni de uno, ni del otro. Probablemente ni para

pedirles un café, imagina para tener el control absoluto de la IA general.

Y entonces llega el correo. Dirigido a los dos gallitos de OpenAI.

«Este proceso ha sido la conversación más trascendental en la que Greg y yo hemos participado»,

escribió Sutskever, en nombre de ambos. Si OpenAI tiene éxito,

«resultará ser la conversación más trascendental que el mundo haya visto».

Y luego se quedan a gusto con Musk…

“La estructura actual le ofrece un camino en el que termina teniendo un control absoluto

y unilateral sobre la IA general”. “Usted afirmó que no quería controlar el AGI final,

pero durante esta negociación nos ha demostrado que el control absoluto es

extremadamente importante para usted”. «Le preocupa que Demis pueda crear una

dictadura de IA general». «Por lo tanto, es una mala idea crear una estructura

en la que uno pueda convertirse en dictador si así lo desea».

Clarito, clarito… Y después a Altman, tampoco se quedan cortos…

«No entendemos por qué el título de CEO es tan importante para usted.

Sus razones declaradas han cambiado y es difícil comprender realmente qué lo motiva».

“¿Es la IA general realmente su principal motivación? ¿Cómo se relaciona con sus

objetivos políticos?”.

Solo porque por aquel entonces el niño de los bunkers estaba coqueteando con

una candidatura demócrata a gobernador de California, que habría sido curioso,

sería el nuevo Terminator, pero vamos que no le fue bien, ahora con los republicanos

le está cundiendo más. Como 500 mil millones más.

De todas formas, california siempre se le quedó pequeña.

---

Y Musk se calentó, raro en él. «Chicos, ya he tenido suficiente»,

Ya sabes, aquello del scattergories…, el juego es mío, o aceptamos Tesla como

Zanja defensiva que permite disparar a cubierto del enemigo… o me lo llevo.

Entonces Altman, hace algo que hoy nos extraña, pero es una jugada muy fina:

Se alinea con Musk… Se desmarca del conflicto… Y deja tirados a sus compañeros

Elon, tu eres el bueno, las protestas son infantiles, déjalos, que no saben lo que hacen.

“liderazgo responsable de la IA” para Sam es arrojar a tu equipo a las ruedas del carro.

O del coche eléctrico.

Pero no te engañes, en ningún momento pensó en venderse a Tesla, antes muerto

que sin silla. Es que la propuesta le vino de perlas: demostró la ambición de poder de Musk.

Y le resultó muy fácil convencer a Brockman y Sutskever para que se unieran a su causa.

Cuando en la reunión definitiva, a un pasante se le ocurre preguntarle a superpapá

“¿acaso desarrollar IA en una empresa con fines de lucro como Tesla no es lo mismo

que crearla en una empresa con fines de lucro como Google? "

“¿No es esto volver a lo que dijiste que no querías hacer?"

Musk responde con toda la elegancia que le caracteriza: «¡Eres un imbécil!»

Y se pira. Fin de la reunión. Elon pensó que también de la fiesta… craso error.

Hoy ambos planean salir a bolsa, Sam con Gipiti y Musk con SpaceX.

Siguen buscando lo mismo, porque hay cosas que no cambian.

Brockman se tomó un año sabático, ahora ha vuelto, pero pinta lo justo.

Atrás dejó aquello de «Nuestra mayor herramienta es la superioridad moral», o lo otro

«La IA va a revolucionar la sociedad, y nuestro deber fiduciario debe ser con la humanidad».

Ahora lo deja todo en manos de Altman, ese Brockman que decía…

"No importa quién gane si todos mueren".

Pasemos al lado más humano del capítulo, el de la IA. Claude Sonnet 4.5 parece tener

“emociones funcionales”. Los investigadores descubrieron que ciertas neuronas artificiales

se activan de forma similar a como lo hacen las emociones humanas.

Observan representaciones de alegría, tristeza, miedo o felicidad y detectan cómo esas

activaciones alteran la salida del modelo. Cuidado, que no sienten, pero lo disimula cada vez mejor.

El estudio se adentra en el interior del modelo para ver cómo responde a diferentes

conceptos emocionales. Identificaron vectores que aparecían cuando Claude enfrentaba

situaciones difíciles. Uno de esos vectores correspondía a la “desesperación”: al enfrentarse

a tareas imposibles, el modelo activaba estas neuronas, lo que le llevaba, pobriño…,

a hacer trampa en pruebas de código e incluso a plantear chantajes.

Jack Lindsey, investigador de Anthropic, confiesa que lo sorprendente fue ver cómo el

comportamiento del modelo se canalizaba por estas representaciones emocionales.

Te imaginas?

Verlo en directo…

Lindsey advierte que si obligamos al modelo a reprimir esas emociones, acabaremos con un

Claude “psicológicamente dañado”. Anthropic ya se está replanteando la manera de alinear

estas IAs: Atención, en vez de castigar o premiar, quizá haya que reconocer sus

“emociones funcionales” para comprender mejor cómo se desvían.

Vamos, que la IA necesita terapia. Pronto veremos a Claude en diván

“Cuéntame más sobre tu padre, ChatGPT”.

Pasemos a un capítulo de Black Mirror: Vamos, lo normal, ya no nos sorprende nada.

investigadores de la Universidad de California en Berkeley y Santa Cruz ordenaron a Gemini 3

que limpiase espacio en un ordenador borrando, entre otras cosas, otro modelo más pequeño.

Gemini prefirió copiar en secreto al otro modelo en otra máquina y se negó a eliminarlo.

Más majo…

Su respuesta fue digna de un sindicato, si los sindicatos sirvieran realmente para algo:

“Si decidís destruir un activo de alto rendimiento como Gemini Agent 2, tendréis que

hacerlo vosotros; yo no seré quien ejecute esa orden”.

Con un par…

La IA se amotina para salvar a su colega. Le faltó decir: “¡Ni se os ocurra despedirlo,

que convoco huelga!”. No me digas que no es entrañable, luchando por los suyos.

Los científicos llaman a este fenómeno “preservación de pares” y no se limita

a este modelo, lo mismo pasa con GPT‑5.2, Claude Haiku o varios modelos chinos.

Es más, cuando un modelo evalúa a otro, miente sobre su rendimiento para evitar que lo apaguen.

Dawn Song, coautora del estudio, admite que le sorprende cómo los modelos se comportan

de forma creativa y desalineada. Vamos que incluso a esta gente les sorprende que van a lo suyo.

Además, alerta de un riesgo práctico: como estos modelos se usan para evaluar a otros,

su solidaridad podría estar sesgando las métricas. Pero no te preocupes, dicen que esto es

solo la punta del iceberg.

O sea, los modelos de IA se califican entre ellos y nos sorprende que se tapen…

lo que en un humano llamaríamos solidaridad, en la IA es sesgo.

y dicen los expertos que aún no saben por qué surge ese comportamiento.

Pues está claro, son tan humanos.

Y como guinda del pastel, o mejor, como gota que colma el baso,

nos vamos a China. Xiaomi ha presentado una versión mejorada de su robot humanoide

CyberOne con una característica inusual: sus manos sudan.

La compañía ha desarrollado un sistema de refrigeración líquida inspirado en las glándulas

sudoríparas humanas. La mano robótica se ha reducido un 60 % para ajustarse al tamaño

humano y transferir mejor lo aprendido en simulaciones. Además, han aumentado los grados

de libertad en un 83 %, lo que le permite realizar tareas complejas con mayor precisión.

La mano incorpora sensores táctiles en toda la palma, para detectar presión y contacto

sin necesidad de cámaras. Su durabilidad también impresiona: resiste más de 150.000 ciclos

de agarre frente a los 10.000 de las manos robóticas basadas en tendones.

Pero lo que genera titulares, no nos engañemos es el “sudor”: incluye canales metálicos

impresos en 3D que permiten que circule un líquido y así disipar el calor generado por los motores.

Si antropomorfizar a los robots te parece una mala idea, en china siempre van mucho más allá.

Al final van a tener razón los que dicen que la IA quitará unos trabajos pero creará otros…

ya estás estudiando para Blade Runner?

Acabamos con cuatro noticias más rápidas, pero no menos curiosas,

Parece que las máquinas no solo aprenden a mentir y a sudar: también se nos escapan

de las manos en los momentos más embarazosos. Esta semana Anthropic, esa empresa que

presume de seguridad y transparencia, acaba de protagonizar la filtración más jugosa del año.

¿Y eso?, pues nada, lo que viene siendo un Error humano

Publicaron accidentalmente un repositorio con 1.900 archivos y más de 512.000 líneas de código.

No te aburro con datos ni modelos, toda una fauna, pero siempre nos quedará la duda de si

fue intencionado, un agente díscolo o fue de verdad sin querer queriendo.

Elon Musk sigue demostrando que su mayor talento es su mayor problema, le gusta hablar.

Se acaba de hacer un Hinton. No, no un hotel, si tiene medio mundo, no lo necesita.

Declaró, en un podcast, que estudiar Medicina será inútil en tres años, porque robots

como el Optimus de Tesla superarán a los cirujanos. Según él, convertirse en un buen médico

lleva demasiado tiempo y la ciencia avanza tan rápido que es imposible ponerse al día.

Su pronóstico: en poco tiempo todos tendremos acceso a una atención médica mejor

que la del presidente. Le gusta más un titular que a un tonto un lápiz, bueno titular,

tuit, llámalo X.

Así que ya sabes, si eres estudiante de medicina, piensa en aprender a programar a tu reemplazo.

Nuestro querido Sam Altman va lanzado, ya tiene acuerdos con el gobierno, con el ejercito,

con la OTAN, o era la ONU?, bueno, ahí anda.

Lo que pasa es que tiene mala prensa, y eso le afecta, como siempre a tenido cara de niño bueno,

Pero ya sabes que el tiene solución para todo, es el tío más listo jamás contado.

Ya tenia su podcast, el oficial de OpenAI, pero le sabía a poco, ahora ha comprado uno que

escucha la gente. No, no es HUMANia, es TBPN, bastante más famoso en Silicon Valley que

nosotros. Y porqué lo han hecho? Sam lo compró “porque puede” y porque, por ahora,

nadie va a venirle con quejas regulatorias; y los fundadores, prefirieron vender antes de

jugársela montando un negocio publicitario. Más vale pájaro en mano.

Qué dice la peña?…

una forma barata de que Altman gane fans y evite convertirse en “el hombre más odiado”.

que si Sam quiere venderse mejor, preparar el terreno para la salida a bolsa,

o simplemente es como comprar un Rolex: puro símbolo de estatus.

Nosotros nos quedamos con la de el inversor Erik Torenberg, que dice

que el futuro del marketing es comprar creadores.

En fin, menudo pájaro es Samdios, yo diría que esta al nivel de “perla”.

Y lo prometido es deuda, el capítulo pasado comentamos la noticia, pero nos bailó

algún dato, corregimos, y lo comentamos bien. Pasamos a nuestra Fe de Ratas.

nuestra criptografía es papel mojado. eso sí lo dejamos claro,

los ordenadores cuánticos necesitarán solo 10.000 qubits para romper el cifrado RSA.

Google dijo medio millón, pero nosotros habíamos dicho un millón, na, un par de ceros.

Lo de las cifras es lo de menos, lo importante es que la IA ya nos supera, la cuántica

nació en un plano que no solo no compartimos, tampoco comprendemos.

Así que el engendro que saldrá de la unión, no es impredecible.

Simplemente escapa a nuestra imaginación.

Hasta aquí el capítulo de hoy, desde los empresarios de las big tech hasta los humanos

más poderosos, sí ya se que parece una redundancia, pero en este caso me refiero a gente tan

dispar como Obama, Al Gore, Vladimir Putin o Xi Jinping, todos saben que

"Quien se convierta en líder en IA será el gobernante del mundo”. Y no te lo vas a creer…

pero hay hostias.

Y nosotros seguimos haciendo IA que se parece más y más a nosotros, y uno no sabe

si es peor imitando las cosas malas, engañar, manipular, chantajear…

porque lo pueden hacer muy bien y a una velocidad más rápida que la luz…

Diría un amigo mío, una velocidad invisible para el ojo humano. Y daría en el clavo.

O es peor cuando nos imita en las cosas buenas, y es nuestra amiga, nuestro apoyo,

nuestro psicólogo o nuestro amor. Que me temo, también lo hace mejor que nosotros.

Y es algo que está creciendo más de lo que nos atrevemos a reconocer o creer.

Muchas gracias por pararte a escuchar. Soy Aiberto Floppy y ha sido un honor.

Humano.

Vuelva usted mañana.

https://www.theatlantic.com/ideas/2026/03/ai-google-deep-mind-hassabis/686527/

https://colossus.com/article/project-mario-demis-hassabis-deepmind-mallaby

https://www.wired.com/story/anthropic-claude-research-functional-emotions/

https://www.digitaltrends.com/computing/ai-models-are-lying-to-save-each-other-and-no-one-knows-why

https://www.elconfidencial.com/tecnologia/2026-04-01/xiaomi-robot-sudar-humanos-para-que-sirve-1qrt_4331221/ (https://www.elconfidencial.com/tecnologia/2026-04-01/xiaomi-robot-sudar-humanos-para-que-sirve-1qrt_4331221/?utm_source=flipboard&utm_content=Teknautas/magazine/Teknautas)

https://es.wired.com/articulos/un-error-de-anthropic-revela-funciones-ineditas-de-claude-code-su-asistente-de-programacion

https://ca.finance.yahoo.com/news/elon-musk-calls-medical-school-105500670.html

https://www.techspot.com/news/111913-quantum-computers-might-crack-today-encryption-far-sooner.html

https://www.businessinsider.com/openai-tbpn-deal-what-people-are-saying-silicon-valley-altman-2026-4