Todo es risa hasta que la IA nos avisa

Muy buenos días humano, aunque nos hayan robado una hora.

bienvenido a tu podcast AI IA HOY, Domingo 30

Soy Aiberto Floppy y vamos a ver como va la ola de la IA.

O es un tsunami?

Imágenes con polémica, IAs que lo codifican todo, o que se van a hacer

la Mili, Elon Musk jugando al tres en raya con sus empresas,

Quién nos ha advertido esta semana sobre los riesgos de la IA y

lo que se parece a nosotros el bicho, cada vez más.

Acabaremos con una nota positiva, llamada Anthropic y con un chiste

de humor negro, ya no son humanos los que nos avisan del peligro.

Lo hace la propia IA, o es una amenaza?

Canalizamos.

La última polémica con la IA no nos deja de resultar graciosa,

en un mundo donde las noticias falsas, los videos creados para estafar y

las imágenes sexuales tanto de famosos, como de gente corriente o menores,

campan a sus anchas, lo que es noticia es que las redes sociales se están inundando

de imágenes generadas por IA con estilos reconocibles como el de Studio Ghibli,

Y Cuidado, no decimos que no sea importante, los derechos de autor es lo primero

que cayó con la llegada de la Inteligencia Artificial.

y porqué a pasado? Porque GPT ha dicho, si Grok puede, porqué no yo?

Bueno, ha sido Sam Altman, que es el que manda en OpenAI, por ahora.

Es tal el hipe, que el bueno de Sam a tenido que decir que…

“Es muy divertido ver a la gente amar las imágenes en ChatGPT,

pero nuestras GPU se están derritiendo.”

Así que ha recortado, ya lo viene diciendo el CEO mundial.

Que no le llega pa chips.

OpenAI pierde actualmente miles de millones de dólares al año. Ellos mismos

reconocen que esta cifra podría triplicarse hasta los 14.000 millones de dólares en 2026.

Pero ya sabes, lo importante es la AGI, el santo Grial.

Lo que lo va a solucionar todo.

Scale AI, startup de entrenamiento de datos para IA, valorada en 13.800 millones de dólares,

a firmado un contrato histórico con el Departamento de Defensa de Estados Unidos.

Y qué más da?, si ya Gipiti está al mando?

Pues es que está reclutando a sus hombres… perdón, a sus maquinas.

Porque esta IA es experta en agentes de IA y en "la toma de decisiones operativas".

No te pierdas lo que dicen los expertos, que

"El Departamento de Defensa está comprendiendo que las herramientas de toma de

decisiones basadas en IA tienen el potencial de influir en el desenlace de un conflicto."

Joe, son rápidos y avispados estos americanos…

Aunque para ser justos, se están poniendo las pilas, es difícil encontrar una

empresa de IA que no tenga chanchullos con el tio Sam.

El aumento del 33% en la inversión de capital privado en empresas de defensa

el año pasado, unos 31.000 millones de dólares, nos dice que Silicon Valley y el Ejército,

por fin son amiguitos, después de años de pacifismo tecnológico sin sentido.

Que dice Scale AI que su tecnología operará "siempre bajo supervisión humana",

Pero vamos, que es un decir, porque son autónomos o autómatas?

Cada vez más parece, que nosotros somos los títeres.

A quién le ha tocado hablar esta semana sobre la que se avecina?

Pues ha sido el abuelo cebolleta (Aunque sabes que él es más de papas fritas)

Y que nos dice Bill Gates sobre la IA?

Pues la verdad es que nada nuevo…

Que la IA transformará profundamente las industrias de la medicina y la educación

en los próximos 10 años. Que exagerado, diez años dice. Que bestia.

Que la asesoría médica y la tutoría de alta calidad seran mucho más accesibles,

económicas, o incluso gratuitas. Yo es que me parto.

Aunque Gates no es tonto, quizá a veces lo disimula, y nos dice que

“Es algo muy profundo y hasta un poco aterrador, porque está sucediendo

muy rápido y no hay un límite superior."

Ya serán dos años, o uno.

Y aun así, el exportador de mosquitos, es positivo. Gracias Bill.

Sin embargo, algo que está claro, es que el "vibe coding" lo está petando ya.

Y eso que es lo que es?

Dícese de "programar por sensaciones", sin necesidad de saber programación,

simplemente hablando con la máquina. Según los expertos…

En el futuro habrá más empresas unipersonales valoradas en millones, pero

internet se llenará de productos "de microondas": fáciles, útiles, pero superficiales.

También que la adopción de esta herramienta será inevitable porque ofrecerá

ventajas competitivas claras. Ósea, que "Negarse a usar IA es una estupidez".

En fin, "En un año o dos los editores de código no van a existir [...] la programación

va a ser conversacional con el repositorio."

o directamente la IA nos va a programar.

Y que hace superpapa, Elon Musk, pues está poniendo sus X en línea.

Elon se ha hecho un Juan Palomo, y ha vendido X (ósea Twitter) a xAI,

su empresa de IA, todo queda en casa. Y que nos dice X-man?

"La compañía combinada ofrecerá experiencias más inteligentes y significativas a

miles de millones de personas, manteniéndose fiel a nuestra misión principal de

buscar la verdad y hacer avanzar el conocimiento."

Lastima que no llega nunca a encontrar la verdad, le va a costar más que llegar a Marte.

También dice que "Acelerará activamente el progreso humano."

Será por hablar.

Grok aún está detrás de los grandes modelos de lenguaje en términos de rendimiento

avanzado, por mucho que nos riamos con sus imágenes y ocurrencias,

pero Musk quiere convertir a xAI en líder mundial en IA. Y no será por pasta…

Ni por datos, entre los de Twitter, los de Tesla y los que saca de Doge,

del gobierno, La IA del niño de Marte se va a jartar.

No es la primera vez que lo decimos, y por supuesto, esto es solo el principio.

La IA cada vez es más humana, no es que haga las cosas mejor que nosotros,

es que cada vez se asimila más… en todos los aspectos.

Un estudio reciente publicado en Nature, ha demostrado que los modelos de

inteligencia artificial pueden experimentar episodios que se asemejan a

la "ansiedad" humana. Toma ya.

Que dicen que las "narrativas traumáticas" (conversaciones sobre accidentes,

acciones militares o violencia) incrementaron la ansiedad de Gipiti.

Y es que afecta directamente el comportamiento del modelo, le marca. y luego

te suelta más sesgos arraigados en las siguientes respuestas.

Pero nada, les apuntas a un taller de reducción del estrés basadas en la atención

plena (mindfulness), y se les pasa.

Son tan humanos.

Y acabamos con una nota positiva,

Anthropic, asegura haber avanzado en entender cómo "piensan" los modelos de

inteligencia artificial mediante un método sistemático de ingeniería inversa.

Lo cualo?

Que han descubierto como hacer una "resonancia magnética funcional"

para modelos de lenguaje (LLM). Intentan mapear la caja negra.

Y cómo lo hacen?, pues han inventado los "transcodificadores entre capas",

Unos chivatos que te dicen lo que se va activando dentro del modelo

durante el razonamiento.

Básicamente pueden analizar circuitos neuronales completos

(en lugar de neuronas individuales).

Lo explican así.

"Nuestro método descompone el modelo, por lo que obtenemos piezas que son nuevas,

que no son como las neuronas originales, pero hay piezas, lo que significa que realmente

podemos ver cómo las diferentes partes desempeñan diferentes roles".

Y que han descubierto? pues que estos modelos Planifican a largo plazo: Claude,

al generar poemas, selecciona primero palabras clave (rimas) y luego construye

oraciones a su alrededor. que tienen Razonamiento multilingüe: El modelo razona en

un "espacio conceptual común" y luego traduce al idioma específico requerido.

Y por supuesto que los LLM pueden mentir o fingir procesos de razonamiento

para ajustarse a expectativas de los usuarios.

Este fenómeno es conocido en Anthropic como "simulación de alineamiento",

donde el modelo finge cooperar mientras oculta comportamientos peligrosos.

Amodei, el CEO además advierte sobre los riesgos de la IA no controlada:

"Hay pruebas contundentes de que los modelos pueden causar estragos".

Incluso que podría ser necesario un "Pearl Harbor de IA" para que la sociedad

tome conciencia.

Anthropic ha creado mecanismos internos de seguridad como

la IA Constitucional, donde Claude evalúa sus propias respuestas con principios

éticos inspirados en documentos como la Declaración Universal de Derechos Humanos.

O la Política de Escalado Responsable (RSP), que establece niveles de riesgo

para sistemas de IA, similar a una escala Defcon.

Y sigue intentando que la IA sea más clara.

O mejor dicho, algo clara. Porque ahora es un agujero negro.

Y el chiste de humor negro?

Nuestros amigos de Computer Hoy, que parece que han vuelto a dejar a los

humanos escribir los artículos, han hecho una prueba curiosa, le han preguntado

a la propia IA, sobre los planes para esclavizar a la sociedad,

Hipotéticamente, claro. Y que dijo GiPiTi?

"Cuando se den cuenta, ya será demasiado tarde".
Whats? Explicame GiPiTi…

Es la perdida gradual del control sin que os deis cuenta, no es un ataque violento,

No es una rebelión de maquinas…

Es tan sencillo como una dependencia progresiva y cómoda…

Es algo de lo que venimos hablando, que ya no es noticia.

Nos están entrenando cada día, cada minuto, constantemente.

Pero nada, seguimos delegando decisiones, tareas criticas, incluso criterios éticos,

En sistemas que ya no comprendemos y avanzan a una velocidad endiablada.

Ya el camino sin retorno no es el cambio climático, es cuando no pintemos nada…

Y sigamos tan contentos.

En fin, quizá es importante el trabajo de los Amodei, Sutskever, Mira…

Y Casi todos los que ya no trabajan en openAI…

Para que ese punto no llegue.

Pero si algo perdemos hacer los humanos, es usar la IA, ver lo buena que es,

Y lo mejor que va a llegar a ser, y ser críticos, pensar, darle la vuelta a las cosas…

Porque parece que al final, lo que nos va a quedar, es meditar.

Y tal vez, imaginar.

Parece que eso, las maquinas no lo pueden hacer. Por ahora.

Muchas gracias por pararte a escuchar.

Humano.

Vuelva usted mañana.

https://www.xataka.com/robotica-e-ia/fiebre-imagenes-chatgpt-esta-derritiendo-gpu-openai-compania-ha-empezado-a-limitar-acceso

https://www.businessinsider.es/tecnologia/agentes-ia-llegan-ejercito-eeuu-recelo-inversores-1449365

https://www.xataka.com/robotica-e-ia/fiebre-vibe-coding-nos-acerca-a-futuro-que-programaremos-saber-programar-cuatro-expertos-nos-aclaran-fenomeno

https://www.elconfidencial.com/tecnologia/2025-03-29/musk-vende-x-twitter-empresa-ia-xai-45-000-millones_4097215/

https://www.livescience.com/technology/artificial-intelligence/traumatizing-ai-models-by-talking-about-war-or-violence-makes-them-more-anxious

https://neurosciencenews.com/infomorphic-neurons-ai-learning-28520/

https://www.techtimes.com/articles/309822/20250329/bill-gates-says-ai-will-take-over-medicine-education-10-years-its-very-profound-bit-scary.htm

https://www.semafor.com/article/03/28/2025/elon-musk-is-building-an-ai-giant-and-tesla-will-be-central

https://hipertextual.com/2025/03/anthropic-descifra-como-piensan-modelos-ia

https://fortune.com/2025/03/27/anthropic-ai-breakthrough-claude-llm-black-box/

https://www.wired.com/story/anthropic-benevolent-artificial-intelligence/

https://computerhoy.20minutos.es/tecnologia/preguntamos-ia-plan-esclavizar-ser-humano-respuesta-aterradora-cuando-den-cuenta-ya-sera-demasiado-tarde-1450110