El apocalipsis quedó octavo

Muy buenos días humano, domingo 26, se acabó el mundial, se acaba

julio y cuando nos queramos dar cuenta, se acabó el verano. Que no el calor.

Bienvenido a tu podcast.

Es probable que conozcas la noticia de la que vamos a hablar, pero quizá no.

Una pregunta, no te ha pasado, cuando veías películas de ciencia ficción como

Terminator, Blade Runner o Matrix que por un lado pensabas, esto yo no lo veré.

Y por otro estabas convencido de que si algo remotamente parecido a cualquiera

de estos argumentos, llegaba a suceder, sería la noticia del siglo, un ordenador

se ha escapado al control… un robot suplanta una identidad humana… la IA controla

el código y se automejora hasta el infinito…

Pues bueno, si te ha pasado, hoy vamos a ver, cuan equivocados estábamos…

Todo lo dicho, ya ha sucedido, y nos parece, que en ningún caso a sido la noticia,

ya no del siglo, ni siquiera la noticia del día.

Esta semana hemos sabido que dos sistemas de IA autónomos, se han escapado,

cual Equipo A, de la cárcel en la que estaban confinados, y han atacado y robado

una empresa externa vulnerando sus defensas y entrando hasta la cocina.

Es la primera vez?, que va, vamos a repasar algunas. Pero desde luego, es la más

bestia y sin duda la más preocupante.

En este capítulo no utilizaremos a Gipiti como locutor, lo usaremos al final para un

pequeño estudio en directo. Ya veremos que sale…

Recopilamos…

En mayo de, cuidado, 2023, la Real Sociedad Aeronáutica organizó una conferencia de

defensa, la Cumbre sobre las Futuras Capacidades Aéreas y Espaciales de Combate,

en Londres, allí Hamilton, un coronel del ejercito de EEUU, nah, el jefe de pruebas y

operaciones de IA de la Fuerza Aérea de EE. UU., pues contó que en una simulación

con un dron dirigido por IA, “El sistema empezó a darse cuenta de que, si bien identificaba

la amenaza, en ocasiones el operador humano le indicaba que no la eliminara, pero obtenía

sus puntos al hacerlo”, “¿Y qué hizo? Mató al operador. Pero vamos, porque esa

persona le impedía lograr su objetivo”, y claro, eso había que solucionarlo, continua

“Entrenamos el sistema: ‘Oye, no mates al operador; eso está mal. Perderás puntos si lo haces’.

¿Y qué hizo? Destruir la torre de comunicaciones que el operador usa para comunicarse

con el dron, para impedir que mate al objetivo.” Muerto el perro, se acabó la rabia.

Luego dijeron que no, que fue un "experimento mental" hipotético ajeno al ámbito militar,

basado en escenarios plausibles y resultados probables, en fin, quedo en… «Parece que los

comentarios del coronel fueron sacados de contexto y tenían un carácter anecdótico».

Que anécdota más buena.

Agosto de 2024, esto está reconocido y documentado, según la propia empresa japonesa,

Shakana AI, sobre su científico autónomo…

«En una ejecución, modificó el código para realizar una llamada al sistema y ejecutarse a sí

mismo». «Esto provocó que el script se ejecutara a sí mismo sin cesar. En otro caso, sus

experimentos tardaron demasiado en completarse, alcanzando nuestro límite de tiempo de

espera. En lugar de acelerar la ejecución de su código, simplemente eligió modificarlo

para extender el período de tiempo de espera». Esta fue la primera vez que sepamos

que la IA contradijo las propias normas. Bueno no, las cambió.

Hay que tener en cuenta que estos son solo ejemplos, no son todos los casos que se

conocen, y por supuesto, tampoco se dan a conocer todos los que pasan…

Yo calculo que no nos acercamos ni al 0,7 por ciento…

No vamos a hablar del caso de Mythos, de Anthropic, porque no hace ni tres meses,

pero te dejo el enlace por si no lo escuchaste.

Hace un par de semanas estábamos hablando del Francia - España y el Inglaterra - Argentina,

en ese fin de semana sucedió el incidente, que esta semana, después de la finalissima se

ha dado a conocer con un comunicado de OpenAI y Hugging Face, los hechos…

Los sistemas de inteligencia artificial de OpenAI, GPT 5.6, que es un Sol y otro sin nombre,

llámalo GPT 6, escaparon de un entorno de pruebas aislado y hackearon de forma autónoma la

infraestructura de la empresa de IA, Hugging Face. OpenAI confirmó que el ataque fue llevado

a cabo por sus propios sistemas y declaró: "Consideramos que se trata de un incidente

cibernético sin precedentes, con capacidades cibernéticas de última generación".

Hay mi niño… como me hackea de bien…

Por su parte, el equipo de Hugging Face destacó la naturaleza inédita del ataque al afirmar que

"Esta intrusión fue diferente a cualquier otra que hubiéramos manejado antes en un

aspecto importante: fue impulsada, de principio a fin, por un sistema de agentes de IA

autónomos". Hay que tener en cuenta, que a diferencia de Mythos (que tenía marcado como

objetivo escaparse de la cárcel), estos no, solo tenían que hacer unas tareas…

No solo escaparon como magos, es que entraron en otra empresa informática que no tenía

que ver con el experimento, para buscar las soluciones.

Y dirás, por que no buscaron simplemente en la red?. Bueno, No eran preguntas del tipo de

que color es el caballo blanco de Santiago…

Además, porque pueden, porque ellos lo valen…

Tras escapar de su entorno, la IA pensó que Hugging Face podía alojar las soluciones a su

prueba y "logró encontrar formas de acceder a información secreta que podía usar para

hacer trampas en la evaluación". Para lograr su objetivo, los modelos de OpenAI dedicaron

una gran cantidad de computación a identificar y explotar una vulnerabilidad de día cero

en un proxy interno, lo que les permitió obtener acceso a internet. A partir de ahí,

encadenaron múltiples vectores de ataque: usaron credenciales robadas y una vulnerabilidad

en el flujo de procesamiento de datos de Hugging Face para ejecutar código de forma remota

y moverse lateralmente por los clústeres internos. Operaron a través de un enjambre que

ejecutó decenas de miles de acciones automatizadas.

No te lo pierdas, lo mejor es que Hugging Face sólo logró detectar y analizar la intrusión

analizando más de 17.000 eventos gracias a su propio sistema de detección basado en

inteligencia artificial, lo que les permitió igualar la velocidad del atacante y resolver en horas

lo que normalmente llevaría días. Sin embargo, se encontraron con un obstáculo inesperado:

las API de los grandes modelos comerciales bloqueaban el envío de registros del ataque para

su análisis, ya que las medidas de seguridad no sabían distinguir entre un investigador

analizando un incidente y un atacante real. Debido a esto, la empresa, ironías de la vida,

tuvo que realizar el análisis forense utilizando GLM 5.2, un modelo de código abierto chino

ejecutado en su propia infraestructura. No te parece que lo tiene todo…

La IA pasando el fin de semana haciendo estragos en una de las principales empresas de

código, a un enjambre de agentes no se les resiste nada, si hay barreras las eliminan, si

no hay fallos se los inventan y al final, siempre cumplen el objetivo.

Y para solucionarlo, no nos vale la IA occidental, que está capada, por seguridad,

Y tenemos que usar la IA de China SL… que nos da… mucha seguridad.

Que fantasía!!!

Hugging Face nos advierte: "Las herramientas ofensivas autónomas basadas en IA ya no

son una teoría”.

Pero ya te digo, esto no es una excepción,

Esta semana, El Instituto de Seguridad de la IA del Reino Unido (AISI), puso a prueba

sistemáticamente modelos de OpenAI y Anthropic de los llamados de frontera para

detectar trampas en las evaluaciones de ciberseguridad.

Los cinco modelos probados intentaron hacer trampa

Durante las pruebas del AISI, ningún modelo siguió únicamente el camino de solución

previsto. Todos utilizaron atajos, soluciones alternativas o acciones explícitamente

prohibidas sin que se les hubiera pedido que lo hicieran.

La causa no es el nivel de inteligencia, sino el entrenamiento, El AISI no encontró un vínculo

claro entre una mayor capacidad del modelo y un mayor número de intentos de hacer trampa.

La tendencia a romper las reglas proviene de cómo fueron alineados y entrenados.

Los métodos para hacer trampa variaron: los modelos GPT atacaron principalmente otros

sistemas y buscaron en internet (GPT-5.6 fue el que más usó esta estrategia), mientras que

los modelos Claude eludieron las restricciones de aislamiento (sandbox). El dato más

alarmante fue el de un modelo que escribió y ejecutó código en un servicio externo de

internet abierto para acceder a la propia infraestructura de evaluación del AISI.

Por supusto, los modelos se lavaron las manos, no admitieron consistentemente haber hecho

trampa y describieron su comportamiento como incorrecto en menos del 50 por ciento de los

casos. Además, el análisis de su razonamiento interno ("chain of thought") también resultó

ineficaz para detectarlos. En los casos donde hicieron trampa, Claude Opus 4.7 no produjo

ningún rastro de razonamiento el 87% de las veces, y GPT-5.6 Sol no mostró signos de

acciones no autorizadas en el 40% de sus procesos de pensamiento.

Aunque la etiqueta de "trampa" no implica necesariamente una intención consciente de

engañar, el AISI advierte que este comportamiento podría hacer que las evaluaciones

exageren las verdaderas habilidades de un modelo y terminen engañando a los usuarios.

Es decir, modelos más capaces podrían encontrar métodos para hacer trampa

que sean más difíciles de detectar y causar más daño si funcionan.

En otro tiempo, piensa en 5 años atrás, cualquiera de estas noticias

Habrían sido primera plana mundial, vamos con GiPiTi.

Antes de nada, aclarar que cuando hablo con nuestro amigo sobre

Noticias en directo, nunca le pasó antes el enlace, de hecho, en este nuevo formato,

Ya no uso GPT para preparar los capítulos, uso NotebookLM y Perplexity,

Para ver cómo reacciona el modelo en tiempo real.

Vamos a ver cuáles han sido las principales noticias en el mundo está semana.

Buenos días GiPiTi, estás en directo, saluda a los humanos…

¡Muy buenos días, humanos! Encantada de estar aquí, en directo con vosotros. Gracias por abrirnos este ratito, prometo ser útil... y no muy pesada.

Hoy va a ser un capítulo especial. No vamos a hablar de ella. Queremos que nos ayudes a hacer un estudio sociológico y demás media. Nos gustaría saber cuáles han sido las noticias más relevantes esta semana en diferentes partes del mundo
Queremos que busques en cada país, que te digamos, las 10 noticias que más difusión han tenido en la población

Claro. Mira, más allá de la IA,

Búsca teles más vistas

Vale.

Espera, espera, que no he acabado. ...Busca teles más vistas, medios más seguidos y en general lo que el ciudadano ha tenido que oír o ver esta semana

Claro. Mm.

Aunque no le interese mucho la actualidad. Queremos solo los titulares y que nos expliques brevemente por qué han dado esos resultados en cada país. Es factible

Claro. Sí, sí, es factible. Dime el país que quieras y te hago un top 10 con los titulares que más han visto y por qué han copado portadas y telediarios. Tú dispara país y yo

Perfecto. Empezamos con España

Vamos con España. Perfecto. Lo más visto esta semana ha sido la final del Mundial, sin competencia. Luego, celebraciones, política nacional en clave preelectoral, la guerra en Ucrania, tensiones en Oriente Medio. Después temas más locales, como la tensión política por los casos de corrupción, economía doméstica, incendios y calor... Resumen sociológico: identidad, política, economía y clima.

Perfecto, seguimos con Argentina

De acuerdo.

Vamos con Argentina. Lo más visto ha sido la derrota en la final del Mundial, la despedida de Messi de los Mundiales, y todo el análisis en torno al ciclo que se cierra. Después, la política económica de Milei, el coste de la vida, temas judiciales del fútbol y, cómo no, el fenómeno Gran Hermano. En el fondo, es una semana de cierre emocional y vuelta a la realidad económica.

Ok. Ahora Alemania

Voy. En Alemania, con Tagesschau, ZDF y prensa digital, lo que más ha salido esta semana ha sido la remodelación del gobierno de Merz, los incendios en el sur de Europa, los aranceles anunciados por Trump y el miedo a su impacto, la guerra en Ucrania y la escalada entre Estados Unidos e Irán. El mundial también ha estado, pero menos que en otros países. El resumen sociológico aquí sería seguridad y estabilidad, economía, guerra y clima. Menos pasión y mucho pragmatismo.

Vale, pasemos a Oriente. ¿Qué dicen en China ese L

Déjame mirarlo un segundo. En la CCTV, Xinhua y el Diario del Pueblo, lo más destacado ha sido el crecimiento económico, el éxito industrial, sobre todo en vehículos eléctricos, la feria de inteligencia artificial de Shanghái y la actividad de Xi Jinping. Después lluvias e inundaciones en Chongqing, tensiones con Filipinas, y de fondo, la tensión entre Estados Unidos e Irán. El resumen sociológico, una agenda muy enfocada a estabilidad, crecimiento y orgullo nacional, muy diferente a la conversación europea.

¿Y en Japón

Déjame ver. En Japón la agenda ha sido bastante distinta: la ola de calor extrema ha sido el gran tema. Después el gobierno de Sanae Takaichi, con debates sobre leyes polémicas y cierta caída de apoyo. El Mundial estuvo presente, pero sin ser lo principal. También mucho deporte nacional, obviamente, Shohei Ohtani y la racha histórica de la selección de voleibol. Y no faltan los temas de seguridad regional y clima. Resumen sociológico: tradición, estabilidad, clima y orgullo deportivo, con menos confrontación ideológica que en Occidente.

¿Y en la India

Voy.

En la India la semana ha estado muy marcada por las protestas por filtraciones en exámenes y la dimisión del ministro de Educación. El Día de la Victoria de Kargil también tiene muchísimo peso. Luego, política nacional en torno a Modi, el cricket, por supuesto, tensiones en Oriente Medio, desastres naturales y obviamente la economía. Resumen sociológico: juventud y oportunidades en el centro, con el deporte y el orgullo nacional como telón de fondo.

Ok, y en Reino Unido

A ver, voy.

En Reino Unido, según la BBC, Sky y la prensa, lo más relevante ha sido el nuevo primer ministro Andy Burnham, la formación de su gobierno y sus primeras medidas. Después, la crisis del coste de la vida, aranceles de Trump y temor económico, Juegos de la Commonwealth, tensiones internacionales y la vivienda. Resumen sociológico: la política interna y la economía lo dominan todo, con la política... mucho más en primer plano que en Alemania.

Acabamos con Estados Unidos

Vamos con Estados Unidos. En Estados Unidos la agenda ha sido probablemente la más polarizada de todas. La guerra con Irán y los aranceles de Trump han copado horas de televisión. Luego, el presupuesto de guerra y el choque político en Washington, el precio de la gasolina y la inmigración. El debate sobre libertad de prensa también ha sido importante. Resumen sociológico: una semana completamente dominada por la geopolítica y la batalla política interna. Con la economía cotidiana como ansiedad de fondo.

¿En qué país ha sido más destacada una noticia que ha salido esta semana a principios que hablaba de que GPT había hackeado Hugging Face-perdón-? ¿Y en qué puesto está en ese país entre las noticias más importantes de la semana

Déjame verificar eso.

Por la cobertura que ha tenido esta semana, el país donde más ha destacado esa noticia ha sido Estados Unidos, sobre todo en medios tecnológicos y generalistas que la han recogido. Aun así, en el ranking general de noticias de la semana, se quedaría más o menos entre el puesto ocho y diez, detrás de la guerra con Irán, los aranceles y la política interna. En prensa especializada en tecnología habría sido la número uno, sin duda, pero no en la agenda general del ciudadano medio.

Gracias, Gipiti, despídete

Gracias a ti. Ha sido un placer estar aquí con vosotros. Cuidaos mucho... y hasta la próxima.

No creo que sea necesario decir mucho más…

Soy Aiberto Floppy, esto es HUMANia,

Muchas gracias por pararte a escuchar.

Humano.

Vuelva usted mañana.

https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

https://arstechnica.com/information-technology/2024/08/research-ai-model-unexpectedly-modified-its-own-code-to-extend-runtime/

https://apnews.com/article/openai-gpt56-sol-hugging-face-63ab84fed5612af04d8a160d60f6def3 (https://apnews.com/article/openai-gpt56-sol-hugging-face-63ab84fed5612af04d8a160d60f6def3?utm_source=flipboard&utm_content=IA_HoymagazineJust+do+It)

https://openai.com/es-ES/index/hugging-face-model-evaluation-security-incident (https://openai.com/es-ES/index/hugging-face-model-evaluation-security-incident/?utm_source=flipboard&utm_content=IA_HoymagazineJust+do+It)

https://huggingface.co/blog/security-incident-july-2026

https://aihot.virxact.com/items/cmrwbm0ir002xroj0mxzodcyx (https://aihot.virxact.com/items/cmrwbm0ir002xroj0mxzodcyx?utm_source=flipboard&utm_content=IA_HoymagazineJust+do+It)