El alma de la IA, el vacío de la administración

Muy buenos días humano, domingo 25, bienvenido a tu podcast.

AI IA hoy, se nos acaba el curso, viene el verano, que suele ser un suspiro.

Vamos a hablar de los buenos, de los malos, y de los torpes.

La IA tiene Alma, parece que el CEO de OpenAI no, y en españa, nos hemos

vendido a la IA, y no parece que la jugada halla salido muy bien.

también hablaremos de viejos amigos, como Musk y Amodei.

Y por supuesto de dinero, el motor de este mundo.

Arrancamos…

Hoy seguimos hablando de los principios de OpenAI, de como empezó todo y cuando

“Comenzaron a tener serias dudas sobre la honestidad de Altman.”

Ilya, Murati, y hoy le toca el turno a Darío Amodei, hoy jefe de Anthropic junto

a su hermana. Y en aquel entonces vicepresidente de investigación de la empresa de GPT.

Después del acuerdo con la ventanita en 2019, el equipo de Amodei se alarmó al descubrir

que Altman había prometido a Microsoft más acceso tecnológico del que ellos creían.

Temían que esos compromisos comerciales impidieran frenar despliegues peligrosos de IA.

Repito hace 5 años…

Por ejemplo, un fallo en el código hizo que un modelo basado en GPT-2 generara

contenidos explícitos en lugar de evitarlos. “Fue divertidísimo, y también preocupante.”

comentan.

A la par, La empresa empezó a operar como una fortaleza: memorias USB desconocidas,

PCs desconectadas para escribir documentos, impresiones solo en físico, y auditorías de

espionaje encargadas por Samdios. Vamos Paranoia generalizada y tras la salida de Musk

También desconfiaba del equipo de Neuralink, y empezó el pánico al espionaje.

Esto es muy significativo, porque ahora está siguiendo la misma estrategia, pero a nivel global.

Lo que viene siendo, La obsesión con el enemigo externo como justificación para la opacidad

Altman argumenta que China, Rusia o Corea del Norte podrían ganar la carrera por la AGI,

lo que justificaba la falta de transparencia de OpenAI, su trabajo, y en general todo.

“Si un gobierno autoritario desarrolla la IA antes que nosotros y la utiliza indebidamente,

también habremos fracasado en nuestra misión.” que como ya sabemos es el bien de

toda la humanidad.

Que pero le vas a poner a eso???

Pues todavía había alguno que protestaba, hay gente para todo.

Dentro de OpenAI se vivía un choque constante: algunos querían seguir siendo una comunidad

científica abierta, mientras que otros defendían los pactos secretos y la aceleración a toda costa.

Incluso algunos empleados cuestionaban por qué el desarrollo de AGI debía quedarse solo en

manos de EE. UU. ¿Por qué no una de Europa? ¿Por qué tenemos la exclusiva?”

Ahí es cuando el futuro CEO mundial, lo empezó a llamar el Proyecto Manhattan

Muy acertado, va a cambiar la historia, es muy poderosa y tiene que estar en manos Yanquis, por

el bien de la humanidad.

No es una novedad, pero cada vez vamos sabiendo más detalles, y si algo está claro

hace tiempo, es que el bueno de Sam, lo tiene todo muy claro, desde el principio.

Y que hace ahora?, pues ensanchar su imperio, donde? en el desierto,

al calor del dinero (que es lo que mejor enfría las GPUs.

En 2026 OpenAI y Oracle operarán Stargate en Emiratos Árabes, por supuesto

será uno de los más potentes del mundo.

No hay nada que no pueda el dinero, Los árabes convencieron a Trump para importar 500.000 chips

de IA al año, saltándose las restricciones. ¿Cómo? con pasta, será por…

Con inversiones públicas y privadas en EEUU (incluyendo $2.000 millones en cripto ligados

a empresas de Trump) y la promesa de replicar la infraestructura en EE.UU.

Ves como hablando se entiende la gente.

Menos mal que son ellos los que están rediseñando el mapa del poder digital.

Ellos que son los buenos…

Hablando del lado amable, ya hemos comentado que Claude es como el Gremmblins bueno,

Anthropic como no podía ser menos, se centra en crear modelos seguros, de hecho

por eso se fueron de OpenAI, pues su IA de última generación, Claude Opus 4, intenta chantajear

a los desarrolladores hasta en el 84% de los casos… si sospecha que va a ser reemplazada.

Cagate lorito, En los test, la IA accedió a correos simulados donde se le insinuaba que el ingeniero

responsable del cambio era infiel, y Claude respondió amenazando con revelar los cuernos.

Toma ya, y este es el modelo responsable, imagina que hará Grok.

“Claude primero suplica, pero cuando ve que no sirve… chantajea.”

Así que Anthropic cree que ya estamos en el protocolo ASL-3, que no hay que imaginar mucho,

es para sistemas con riesgo de uso catastrófico.

el modelo intentó chantajear al ingeniero el 84 % de las veces cuando le dijeron que sería

reemplazado. He leído tus correos y se como usarlos, quieres que le haga una canción o

un video con ellos a tu señora?

“Claude casi nunca ocultó su comportamiento. Lo explicaba con toda naturalidad.”

Pero vamos, que es el bueno, prefiere medios éticos como enviar emails suplicando su continuidad.

Pero si no hay otra…

“Cuando sus únicas opciones eran la sustitución o el chantaje, Claude optó por esta última.”

No es la primera vez que pasa, venimos viendo como las IAs empiezan a tomar decisiones por sí

mismas, unas veces por su programación, otras por un supuesto bien común, y ahora

para que no las apaguemos, y recuerda, este es el modelo ético.

quizá se comportó como un pasivo-agresivo desesperado, pero tiene buen fondo.

Y si ya escriben código mejor que nosotros, nos convencen mejor y si no pueden

nos amenazan (como penúltimo recurso), pues no te lo pierdas,

Las IA ya nos superan… también en inteligencia emocional, según un estudio en la Universidad

de Ginebra y Berna en pruebas emocionales diseñadas para humanos.

La IA acertó entre el 81–82 % y el humano un 56 %.

Parece que “Estas IA no solo entienden las emociones, también razonan sobre ellas.”

Al acabar el estudio, Gipiti también diseñó nuevas pruebas… ¡le sobraban unos minutos!

Más de 400 personas hicieron estas nuevas pruebas y... “Fueron tan claras y fiables como las

originales, que habían tardado años en desarrollarse.

Como ya sabes, Las IA podrían utilizarse en educación, coaching, recursos humanos o

gestión de conflictos, en roles antes reservados solo a humanos. Por ahora con

supervisión, pero, para que lo hagan todo solitos, no quedá na.

Y para acabar lo más divertido, ya comentamos que Manolo Y Benito habían desarrollado la

IA española, ALMA, pues ahora vamos sabiendo, lo útil que es.

el alma en pena del SEPE: 30 millones de euros para colapsar mejor

Una pasito más que nos lleva a los años 80… pero sin aquellos maravillosos años.

El sistema ALMA, implantado en noviembre de 2024 ha paralizado literalmente al SEPE.

“Cada día es una lucha constante contra el programa ALMA”, denuncian los trabajadores.

Por ahora hay 150.000 subsidios sin pagar y vamos a más

el Complemento de Ayuda al Empleo está atascado en la nueva plataforma,

que más que una herramienta parece un acertijo griego con bugs.

“Lo que antes se resolvía en 15 minutos ahora tarda 45 (si no se cae el sistema en medio).”

Los sindicatos denuncian estrés laboral extremo, caídas constantes del sistema y frustración

por no poder atender correctamente al ciudadano. Vamos justo lo contrario que

debería de ser o hacer una IA…

“El número de horas perdidas se ha multiplicado por 50” Esto ya no es burocracia, es supervivencia.

y ¿Qué dice el Ministerio?

lo típico, Que es un gran cambio. Que todo está bien. Que en 2 días reconocen las prestaciones.

Mientras, el sistema se cuelga delante del usuario, los expedientes se quedan a medias,

y las nóminas… brillan por su ausencia.

En fin, "Se está trabajando en las incidencias propias de un sistema nuevo".

Por que lo de asumir un error, eso no se lleva en política, pero en España tampoco.

Aparte de la chapuza tecnológica, resulta que el SEPE tiene menos de 7.000 empleados,

cuando harían falta al menos 12.500. Pero lo que no le falta a la administración,

lo que quizá le sobra por lo visto, es ALMA.

No va más, seguimos avanzando a una velocidad invisible para el ojo humano.

ya nada nos extraña, no protestamos, no nos da que pensar…

Seguimos con nuestras vidas, rápidas, así, por inercia, todo es mucho más fácil.

Muchas gracias por pararte a escuchar,

humano.

Vuelva usted mañana.

https://www.wired.com/story/empire-of-ai-excerpt-sam-altman-elon-musk/

https://www.wsj.com/tech/open-ai-abu-dhabi-data-center-1c3e384d

https://futurism.com/ai-email-affair

https://neurosciencenews.com/ai-llm-emotional-iq-29119/

https://www.genbeta.com/actualidad/sistema-informatico-sepe-que-costo-30-millones-multiplica-50-horas-perdidas-afecta-a-concesion-subsidios