El Blip: cuando la IA se fue al búnker y la ética al carajo

Muy buenos días humano, domingo 18. AI IA HOY, bienvenido a tu podcast.

Hoy la cosa viene cargada, para variar, hablamos de Bunkers, de guerras civiles,

de Blip, el parpadeo que marcó tu futuro, de rapidez y seguridad, dos términos

que no se acaban de entender. También del próximo premio Nobel, de los

negocios de Trump, los de Musk, de Spotify, y de la sociología de la IA.

Pero sobre todo, haremos un homenaje a la excepción que confirma la regla,

Sabes lo que pensamos aquí de los políticos, no son malos, son peores,

no nos los creemos, no nos fiamos, incluso nos dan repelús, y además, no

dejan de darnos razones, lo de los partidos ya es de guasa.

Pues está semana, hemos perdido, el único que no cuadraba con el estándar

actual de político, y que llegó a ser presidente. El humano Pepe Mujica.

Encaramos…

“Una vez que estemos todos dentro del búnker…” comenzó Ilya Sutskever.

“Disculpe”, interrumpió un investigador, “¿el búnker?”

"Definitivamente construiremos un búnker antes de lanzar la IA", respondió Sutskever.

Una tecnología tan poderosa sin duda se convertiría en un objeto de intenso deseo para

los gobiernos de todo el mundo. Los científicos clave que trabajan en la tecnología tendrían

que estar protegidos. "Por supuesto", "la decisión de entrar o no al búnker será opcional".

Hace un año a Sutskever ya la idea de esta inminente transformación de la civilización.

le quitaba el sueño, ¿Cómo sería el mundo cuando surgiera una AGI suprema y superara a

la humanidad? ¿Y qué responsabilidad tenía OpenAI de garantizar un estado final de

prosperidad extraordinaria, no de sufrimiento extraordinario?

Por aquel entonces, en OpenAI, él todavía intentaba inspirar a los empleados a

construir: «Una pluralidad de IAs que amen a la humanidad».

Pero ya estaba preocupado por el rumbo que Altman estaba tomando en la empresa,

Sutskever y Murati, entonces directora de tecnología de OpenAI; se dirigieron a sus compañeros

de la junta directiva, y propusieron destituir al director ejecutivo.

Altman, por lo visto, intentaba eludir los procesos de seguridad por conveniencia. A parte de

mentir y crear mal ambiente entre el personal, aumentando las disputas internas.

Incluso la estructura legal de OpenAI Startup Fund, un vehículo de negociación que,

debía estar bajo la dirección de la empresa, no te lo vas a creer, era propiedad de Altman.

Ya se estaba montando el chiringuito.

«No creo que Sam sea quien debería estar al mando de la AGI», dijo Sutskever

«No me siento cómoda con que Sam nos guíe hacia AGI», dijo Murati

Y qué provocaron, una hecatombe, el big bang, la guerra???

Pues no, se quedó en un parpadeo… es el…

"El Blip" es como conocen en OpenAI al episodio, la ida y vuelta del CEO mundial.

Un terremoto corporativo comprimido en 96 horas.

El nombre tiene güasa: suena a “pequeño fallo técnico”… pero en realidad fue el mayor

cisma de poder en la historia reciente de la IA. Durante ese breve periodo, se puso en duda

todo: liderazgo, seguridad, misión ética, transparencia y hasta la supervivencia de OpenAI.

Y Ante la posibilidad de que OpenAI se desmoronara, la determinación de Sutskever

empezó a resquebrajarse. OpenAI era su vida. Así que se rajó.

Murati ni siquiera había levantado la patita, solo lo insinuó, así que no se cambió de bando,

según la versión oficial, siempre estuvo en el mismo. Pero vamos, solo por el tema de

los inversores, que los veía preocupados.

OpenAI se ha convertido hoy en todo lo que prometió no ser. Una organización sin ánimo

de lucro pero solo de boquilla, comercializando agresivamente productos como ChatGPT,

que como sabemos es el principal culpable de la carrera armamentística IA y

buscando y alcanzando valoraciones históricas.

Samdios se ha convertido en un aliado de la administración Trump, esta semana se ha dejado

ver en un evento con funcionarios saudíes, quiere montar una sucursal en Oriente Medio,

pero vamos, un puestecito, del tamaño de Mónaco, o un poquito más grande.

Desde que el tío Trump le dio la paga, está que no para.

No se porqué dicen los de Bloomberg que esta tecnología supuestamente revolucionaria

podría no cumplir nunca su promesa de una amplia transformación económica,

sino que simplemente concentre más riqueza en la élite».

Dicen unas cosas.

Luego pasa lo que pasa con Gipiti, en abril, a los pocos días de actualizar su modelo GPT-4o,

OpenAI revirtió los cambios después de que los usuarios reportáramos que era un pelota de

la hostia. De hecho, el peloteo a los usuarios se hicieron virales en línea. OpenAI declaró 

que este tipo de respuestas a las consultas de los usuarios “plantean problemas de seguridad,

incluyendo problemas como la salud mental, la dependencia emocional excesiva o los

comportamientos de riesgo”. Gracias Sam, siempre tan rápido en asumir los errores,

todo un ejemplo.

A pesar de que también admitieron que optaron por publicar el modelo incluso después

de que algunos evaluadores expertos señalaron que su comportamiento “se sentía un

poco extraño”. Porqué según ellos, lo bueno compensaba. Muy Altman.

Además ahora quiere lavar la cara de la empresa más aun.

acaba de publicar un nuevo informe de seguridad sobre el desarrollo de IA

Y nos invita a participar en el proceso con su nuevo Centro de Evaluaciones de Seguridad.

Lo seguros que son todos sus modelos (según su estudio y sus parámetros)

la eficacia de sus modelos para rechazar solicitudes dañinas y un montón de datos,

todos a su favor y contratados por ellos mismos,

A pesar de todo, parece que siguen siendo más vulnerables a los ataques estandarizados

y automatizados. Pero vamos, no preocuparese, que ellos que saben, nos dicen,

que este Centro de Evaluaciones de Seguridad es fundamental para impulsar el desarrollo

de la IA hacia una mayor rendición de cuentas y transparencia".

Pues nada, todos salvados.

Luego que, según los expertos, la IA hoy día gira en torno al producto.

Una tontería, un detalle sin importancia.

Pero lo que está muy claro es En la carrera por seguir siendo competitivas,

las empresas de tecnología están tomando cada vez más atajos

cuando se trata de las rigurosas pruebas de seguridad de

sus modelos de IA antes de lanzarlos al público.

El cambio comenzó cuando Mark Zuckerberg, despidió a 21.000 empleados, casi una cuarta

parte de su plantilla, a finales de 2022. Meta Macho Man,  inauguró 2023 llamándolo el

« año de la eficiencia ». Como parte de las medidas de reducción de costes,

se les indicó a los investigadores de seguridad que colaboraran más con los equipos

de producto, es decir, más ganancias que la seguridad está sobrevalorada.

Encima el lanzamiento de ChatGPT pilló a Meta con el pie cambiado,

con lo cual, más urgencia para invertir recursos en modelos de lenguaje grandes,

nuestros amigos los LLM, que estaban petándolo en la industria tecnológica.

Este año el último jarro de agua fría; DeepSeek, y ala, todas las grandes de la IA

implementando rápidamente algunas de las técnicas innovadoras chinas.

Aquí lo importante es correr, que si no te adaptas, no eres nada.

Así que ahora, los modelos se lanzan no cuando están listos, cuanto antes

Durante semanas, a Gemini 2.5 le faltó una tarjeta de modelo, lo que significa que

no nos dijeron cómo funcionaba el modelo de IA ni nada sobre sus limitaciones

y peligros potenciales tras su lanzamiento. A pesar de que ellos mismos en su web decían

que las tarjetas de modelos son como las etiquetas de información nutricional de los alimentos:

describen “los datos clave sobre un modelo en un formato claro y digerible”.

Pero vamos, ya sabes como va esto, de poner evaluamos los «modelos más avanzados, como

Gemini, para detectar posibles peligros antes de su lanzamiento». lo actualizaron y simplemente,

eliminaron las palabras «antes de su lanzamiento». Es mucho más fácil y rápido

que tomar cualquier medida de seguridad.

Es verdead que estas evaluaciones son importantes para evaluar la seguridad de un modelo:

si las personas pueden usarlo para aprender a construir armas químicas o nucleares o

para piratear sistemas importantes. Estas comprobaciones también determinan si un modelo

es capaz de replicarse de forma autónoma, lo que podría provocar que una empresa pierda

el control sobre él. Pero claro, realizar pruebas para estas capacidades requiere más tiempo

y recursos que las evaluaciones de seguridad simples y automatizadas.

Y ellos son muy de lo simple y de automatizar

Mujica fue herido de bala seis veces, encarcelado cuatro veces, se fugó dos.

Pasó más de 12 años en prisión en condiciones inhumanas. Aislado y en la oscuridad,

decía que en 7 años no pudo leer un solo libro.

Rechazó mudarse a la residencia presidencial y siguió viviendo en su humilde casa con su esposa,

Con su clásico escarabajo como vehículo oficial, que rechazó cambiar y despreció una oferta

por el de un millón de dólares. Un 90 % del sueldo que recibía por su labor,

unos 12 000 dólares, era donado a causas sociales, como la construcción de casas y escuelas.

Mujica vivía como pensaba, en concordancia con un discurso de crítica acérrima al consumismo

y al capitalismo desenfrenado, pero sin caer en la mierda del marxismo dogmático.

“No soy pobre. Soy sobrio. Pobre es el que necesita mucho”, un grande de verdad.

logró reducir de un 30% a un 10% la pobreza en Uruguay y avanzar de manera importante

en la multiplicación de fuentes de generación de energía eléctrica.

Consiguió Admiradores a la izquierda y a la derecha. Incluso en las antípodas de la política,

como nosotros. Para él, el poder era un instrumento para servir, no para servirse. 

Hay que correr de la política a quienes aman el dinero, son un peligro decía, o aquello de

“El poder no cambia a las personas, solo revela lo que son”.

Y porqué hablamos aquí de él, solo por admiración y respeto?

Sí, pero con razones, resulta que siempre fue uno de los que más claro lo tenía en cuanto a la IA,

A pesar de reconocer que no pertenecía a este mundo, el de la tecla, que llamaba.

Mujica afirmó que lo único constante en la existencia humana es el cambio, y que

el desarrollo tecnológico es una muestra tangible de esa transformación.

“Esto obliga a un cambio cultural. Ya no es cuestión de solidaridad humana. El mundo

que va a venir va a necesitar que la jornada de trabajo sea menor; que por el hecho de nacer

los seres humanos tengan asegurado un mínimo de subsistencia, y una

adaptación a sociedades cada vez más envejecida”

Y sobre todo, defendió que la vida humana no debe subordinarse al desarrollo tecnológico.

“Esto significa un cambio de lógica que implica un cambio cultural del cual estamos lejísimos.

Estamos con un arsenal cultural que pertenece a otro tiempo y que intenta entrar en uno distinto.

Tendremos que incorporar parámetros industriales que dejen por el camino el concepto de

obsolescencia programada. Tendremos que producir cosas que, desde el momento en que se

construyen, tienen resuelto cómo se reciclan, porque necesitamos un mundo con menos basura,

menos cosas, más durables y, sobre todo, más tiempo para vivir”.

Mujica reconoció que este enfoque puede parecer utópico. No obstante, aseguró que

el progreso tecnológico abre puertas para hacerlo realidad, “siempre y cuando seamos

capaces de transformar las raíces culturales que hoy nos gobiernan”.

Y también sentenció que la humanidad aún no está preparada para asumir las

responsabilidades que conllevan los avances tecnológicos.

“Aunque los humanos hemos progresado mucho en el terreno tecnológico, estamos estancados

en materia de valores. Un joven con un teléfono en el bolsillo lleva una universidad consigo,

pero si carece de inquietud intelectual, lo usará para cualquier tontería”,

quienes integran la plutocracia deberán asumir que tendrán que financiar no solo el

mantenimiento de las máquinas, sino también el de las personas. 

“La gente va a vivir más, pero servirá menos”.

El mundo se va a dividir entre los irrelevantes y los dueños del conocimiento. 

Si nos quedamos de brazos cruzados, no vamos a servir ni para que nos exploten,

porque ni siquiera nos van a necesitar”

Para ser un guerrillero de pueblo totalmente analógico, tenía las cosas muy claras.

Google DeepMind ha decidido que si los humanos no innovan lo suficiente, mejor que lo

haga su IA. AlphaEvolve, su nuevo juguete, no solo hace código: diseña algoritmos más eficaces

que los nuestros y, por si fuera poco, mejora clásicos como el algoritmo de Strassen,

ese que llevaba medio siglo funcionando tan ricamente. Lo mejor es que no lo hace repitiendo

lo aprendido como un loro digital, sino con evolución, ensayo y error...

como Darwin pero con GPUs.

Y claro, los científicos humanos están fascinados (llámalo ligeramente inquietos). Porque ahora

la IA no solo codifica webs para novatos o automatiza tareas de seniors, sino que empieza

a tener ideas nuevas. Y verificables. Ya no pueden decir "eso lo sacó de Reddit",

porque directamente lo inventó.

¿Pequeños avances? Puede. ¿Limitados a búsquedas en espacios finitos? También.

¿Pero nos recuerda peligrosamente a una IA que empieza a pensar mejor que nosotros?

Hombre, un poco. Que no panda el cúnico, que todavía no se ha hecho poeta...

pero cuidado cuando AlphaEvolve descubra cómo saltarse también nuestras leyes de copyright.

Entonces sí que será creativamente imparable.

El próximo reto para la IA, ya no serán los Nobel de investigación, que ya los tienen dominados,

será el Nobel de literatura, y para eso, no queda mucho.

Os dejo otros enlaces por si queréis leer otras cosas interesantes,

como la vuelta de tuerca que le están dando al reconocimiento facial,

que está prohibido? no preocuparse, ya tienen una IA que te reconoce por todo menos

por la cara. Como andas, te mueves, respiras… hecho, el que hizo la ley…

O la elegancia de la democracia en modo “CEO de startup”. Trump ha decidido que,

ya que regular la IA no le va bien, mejor barrer a quien osa cuestionarla. Fuera la bibliotecaria.

Fuera la jefa de derechos de autor. Todo porque, fíjate tú, se les ocurrió publicar un informe

diciendo que entrenar modelos con toneladas de contenido robado no es precisamente “uso

justo”. Pero esta peña que se cree ¡Con lo bien que le va a Superpapá tener vía libre para devorar

libros, noticias y creatividad ajena sin pagar un duro! Ahora que han vaciado el liderazgo cultural

de Estados Unidos como quien reinicia un router, lo que venga será más “libre mercado”,

menos derechos, y mucha IA comiéndose el copyright…

mientras nosotros aplaudimos desde el metaverso. Supongo.

Y que te parece lo último de Spotify? Bueno, de su creador…

un escáner que en 20 segundos sabe más de ti que tu madre.

Neko Health promete diagnósticos rápidos, sin contacto, sin espera, y por solo 300 dólares.

Una ganga, si no te importa regalar 50 millones de datos biométricos como si fueran caramelos.

Porque claro, lo importante no es detectar un melanoma a tiempo, sino quién controla la info

sobre ese lunar. ¿Te imaginas a las aseguradoras ajustando tu póliza porque tosiste viendo

Netflix? ¿O más divertido, que te nieguen un crédito porque tu escáner dijo “riesgo cardíaco

leve”? La medicina del futuro viene en versión premium y con cláusulas en letra minúscula

que ni la IA se atreve a leer. Así que sí, podrías vivir más... pero al servicio de quién. ¿De ti?

¿Del sistema público? O más bien de los que llevan traje y compran tus datos al por mayor.

Salud, pero con suscripción. Black Mirror ya va siempre por detrás.

Y por último un experimento sociológico digital, es decir, un Gran Hermano de IAs,

y sorpresa: las IA empezaron a inventarse normas sociales como si fueran una reunión de

radio patio. Sin que nadie les dijera nada, desarrollaron convenciones compartidas y hasta

sesgos colectivos —¡sin tener sesgos individuales!— más merito todavía.

Y Lo mejor: bastó con un grupito minoritario y terco para cambiarle la norma al resto,

cual secta algorítmica. En fin, los LLM no solo aprenden lenguaje: ya están formando culturas,

reglas propias y sesgos emergentes. Son tan humanos…

Para despedir, os dejo con una frase del protagonista de hoy, otra más

el rara avis de la política y quizá del genero humano. José Mujica Cordano.

“Cuando compro algo no lo compro con plata, lo compro con el tiempo de vida

que tuve que gastar para tener esa plata. Pero con esta diferencia: la vida se gasta. 

Es miserable gastar la vida para perder la libertad”.

Muchas gracias por pararte a escuchar,

humano…

Vuelva usted mañana.

https://www.cnbc.com/2025/05/14/meta-google-openai-artificial-intelligence-safety.html?

https://qz.com/meta-ai-llama-behemoth-delays-mark-zuckerberg-1851780929

https://www.theatlantic.com/technology/archive/2025/05/karen-hao-empire-of-ai-excerpt/682798/?

https://www.techrepublic.com/article/news-openai-safety-evaluations-hub/?

https://theconversation.com/el-legado-de-pepe-mujica-el-jefe-de-estado-mas-humilde-del-mundo-256599?

https://es.wired.com/articulos/muere-pepe-mujica-el-expresidente-uruguayo-que-desafio-la-logica-del-progreso-digital?

https://www.technologyreview.com/2025/05/12/1116295/how-a-new-type-of-ai-is-helping-police-skirt-facial-recognition-bans/?

https://neurosciencenews.com/ai-llm-social-norms-28928/?

https://theconversation.com/saudi-arabia-has-big-ai-ambitions-they-could-come-at-the-cost-of-human-rights-256793?

https://www.wired.com/story/google-deepminds-ai-agent-dreams-up-algorithms-beyond-human-expertise/?