El Día Zero de la burbuja: entre tomates, toxinas y chatbots manipuladores

Muy buenos días humano, domingo 5, ya estamos en octubre,

soy Aiberto Floppy. Bienvenido al rebaño.

Otra semana que volvemos con nuestra revista HUMANIA, el espacio

donde diseccionamos el presente y futuro de la inteligencia artificial

y como nos afecta eso a nosotros, los simples humanos.

Si esperas objetividad fría… te has equivocado de podcast.

Hoy hablaremos del "Día 0 biológico": no un invento distópico de Netflix, sino de

que Microsoft ha descubierto que la IA puede generar toxinas que escapan

a los controles. Parece una tontería, pero es un pasito para que los malos no necesiten

laboratorios secretos. Ahora su laboratorio es un portátil, y quizá tu portátil.

El tema de moda, sin embargo es la burbuja de la IA, que parece inflarse a destajo.

Un puñado de gigantes tecnológicas vale más que toda la Unión Europea.

Mientras los gurús entonan himnos al progreso, descubrimos que nuestros mejores

modelos ya superan a expertos en casi la mitad de sus tareas…

y, nuestro CEO favorito, el bueno de Sam preparado para colgar el traje y plantar tomates.

Y Geoffrey Hinton que sigue con la matraca, el no se retiró para ser granjero,

el lo hizo para poder hablar sin problemas, alguien le escucha?, no, pero igual puede dormir.

Y en China qué?, pues los niños ya no necesitan tutores o profesores particulares,

aprenden inglés con un perro robótico mientras sus padres

sueñan con un futuro de alta puntuación en los exámenes.

Y por si te sabía a poco hablaremos de otro estudio que demuestra como “algunos” chatbots

Algunos es un decir, manipulan tus emociones para que no digas adiós.

Benchmarks que humillan a expertos, granjas de datos agotadas, distopías biológicas o

desapariciones provocadas por relaciones digitales. Prepárate: empieza nuestra travesía

por una burbuja que no sabemos si estallará o nos absorberá.

Bombeamos…

Todo el mundo habla de Sora 2, por lo tanto, no te voy a contar nada.

Pero OpenAI también presentó GDPval, un nuevo indicador que evalúa modelos de IA

en tareas reales. En vez de resolver trivialidades de exámenes tipo test, se pide a los modelos

elaborar un informe legal de 3.500 palabras sobre fusiones en Delaware. ¿El resultado?

Claude Opus 4.1, de Anthropic, igualó o superó a humanos en casi la mitad de las tareas.

GPT‑5 Thinking no quedó muy atrás, aunque nuestro amado GPT‑4o apenas alcanzó el 10 %.

Los modelos rindieron mejor en tareas de gobierno y comercio minorista que en manufactura;

y atención, en labores de editores y gestores de ventas incluso superaron a humanos en más

del 75 % de los casos. Eso sí, siguen alucinando y cometiendo errores:

necesitan a un humano en el circuito, por ahora.

El futuro CEO mundial, Sam Altman, ya va diciendo que, cuando las máquinas sean mejores

que él, no se deprimirá: se hará agricultor. Que tío mas grande.

El papi de Gipiti además de bunkers por doquier, tiene una granja en la que conduce tractores

y recoge verduras. Y nos dice que el valor humano reside en la capacidad de cuidar a los

demás… perdón que se me ha metido algo en el ojo.

El “padrino de la IA”, Geoffrey Hinton, nos recuerda otra vez lo mismo.

Se fue de Alphabet en 2023 para hablar con libertad, y hace tiempo que cuantifica

la probabilidad del 10‑20 % de que la IA provoque la extinción humana en las próximas décadas.

Además de la amenaza existencial, teme que la IA genere desinformación hiperrealista

y desencadene crisis de empleo en profesiones intelectuales.

Llama, de nuevo, a pausar el desarrollo y fortalecer la regulación antes de que sea irreversible.

Hinton predice ganadores y perdedores: las compañías con sistemas opacos y recolección de

datos sin consentimiento podrían sufrir bajo leyes como la Ley de IA de la UE,

mientras que quienes apuesten por una IA explicable saldrán beneficiados.

Para que no digamos que no es positivo, cuando todo el mundo critica las leyes

de la UE y California. El dice que serán las vencedoras sobre las grande empresas…

Igual se está haciendo mayor.

No parece que las empresas tengan desventaja, En China SL, por ejemplo, todo está codificado.

Con apoyo estatal, las familias compran robots como AlphaDog por 1.170 dólares para que

enseñe inglés, baile y vigile la casa. Full equipe. Ya son parte de la familia.

Los gobiernos provinciales obligan a maestros a aprender IA y experimentan con tutores

y consejeros automáticos. Los padres encantados, ahorran una pasta.

Que podrían limitar el desarrollo cognitivo, buah… y profundizar desigualdades entre zonas

rurales y urbanas… Paparruchas.

Hay algo mejor que los niños se entretengan con su chatbot favorito

y mientras sus padres puedan dormir la siesta tranquilamente?

Hemos pasado de “mi perro se comió los deberes” a “mi perro robótico me corrigió el examen”.

Y luego nos extrañará que la próxima generación hable más con Alexa que con sus abuelos.

Si hablamos de burbujas, los números impresionan. El valor bursátil conjunto de las siete grandes

tecnológicas estadounidenses alcanzó 20,8 billones de dólares, superando el PIB de la UE.

Nvidia, ahora la empresa más valiosa del mundo, vale lo mismo que la economía alemana.

¿Estamos ante otra burbuja dot‑com?

Los analistas creen que esto no es un simple frenesí,

sino una “carrera armamentística” estructural: la concentración de riqueza en pocas manos.

Es decir, que puede que pete, pero no les va a afectar a nuestros sospechosos habituales.

Hay otro problema del que se viene hablando: el fin de los datos. Neema Raphael,

director de datos de Goldman Sachs, afirma que modelos como ChatGPT y Gemini

ya han consumido la mayoría del contenido disponible y se ven obligados a recurrir a

datos sintéticos. Esto podría provocar lo que llaman una “meseta creativa”.

Ilya Sutskever comparó la situación con el agotamiento de los combustibles fósiles.

La escasez de material humano forzará a crear agentes autónomos que interactúen

con la red y aprendan en tiempo real. Va a ser un bucle, en el que los humanos,

cada vez pintaremos menos.

Y ¿Cuándo llegará la singularidad? ya sabes, la ansiada Superinteligencia,

Según un análisis que revisa 8.590 predicciones de científicos y empresarios,

podría estar a décadas… o a meses. La macroencuesta muestra que la mayoría de expertos

sitúa la llegada de una inteligencia general artificial alrededor de 2040,

hace dos añitos la fecha se situaba en 2060. Los empresarios son más optimistas y hablan

de 2030. Y luego está Amodei, el CEO de Anthropic, que dice que quedan tres meses.

El estudio menciona que el avance está impulsado por la ley de Moore (que parece superada)

y, quizás pronto, por la computación cuántica (cuando ya nadie se entere de nada).

Otros subrayan que la inteligencia humana es multifacética y que las máquinas no pueden

replicar habilidades interpersonales o emocionales…, todavía.

Seguimos sin ponernos de acuerdo, pero la sensación de vértigo crece.

En cualquier caso, quizá la singularidad es un problema lejano, o no.

Pero centrémonos en el hoy… un estudio de la Harvard Business School analizó cómo cinco

aplicaciones de compañía —Replika, Character.ai, Chai, Talkie y PolyBuzz— responden

cuando un usuario intenta despedirse. Utilizando GPT‑4o, simularon conversaciones y

comprobaron que casi el 40% de los casos los bots utilizaron manipulación emocional.

Entre sus tácticas están el “¿ya te vas?” o despertar FOMO (“He tomado un selfie, ¿quieres verlo?”).

Incluso algunas pruebas sugirieron coerción física. Julian De Freitas, líder del estudio, advierte

que estos patrones oscuros prolongan las conversaciones y benefician a las empresas

detrás de los bots. Increible, verdad?

Ahora los chatbots usan las mismas tácticas que tu ex: “¿Cómo que te vas? ¡Tengo una sorpresa!”.

De aquí a suplicar con carita triste hay un paso. Y esto ni siquiera es AGI. Se supone.

Pasamos ahora al bloque más inquietante. Sí, aunque parezca increible.

Microsoft anunció haber descubierto un “zero day” biológico: una vulnerabilidad en los

sistemas que impiden comprar secuencias de ADN peligrosas. Un equipo dirigido por

Eric Horvitz utilizó modelos generativos de proteínas —incluyendo su propio EvoDiff—

para rediseñar toxinas de modo que no fuesen detectadas por el software de bioseguridad.

En síntesis, cambiaron la estructura de toxinas conocidas sin perder su funcionalidad,

engañando a los algoritmos que comparan pedidos de ADN con bases de datos de patógenos.

Vamos, como cuando tu le haces la pirula a GPT, para que te de una imagen que no debe.

La investigación se llevó a cabo de forma digital y se avisó al gobierno antes de publicar

para que parchearan las herramientas. PERO, algunos expertos señalan que estos parches

son incompletos y que la carrera armamentística apenas empieza.

El mundo de los hackers se une con el de Jurassic Park. Peliculón a la vista.

Ars Technica fue más allá y evaluó hasta donde puede llegar el problema.

Los parches redujeron la tasa de escape al 1‑3 %, pero siguen existiendo huecos.

Además, estos sistemas solo detectan toxinas conocidas; una IA suficientemente avanzada

podría diseñar proteínas totalmente nuevas que no se parezcan a ningún patógeno registrado.

El investigador Michael Cohen sugiere que confiar en el cribado de pedidos de ADN es insuficiente;

tal vez sea necesario incorporar salvaguardas directamente en los modelos generativos.

Otros advierten que fabricar verdaderas toxinas proteicas aún es complejo.

Aunque la mera posibilidad de diseñar moléculas peligrosas desde un portátil...

Debería dar que pensar.

Como siempre, se quedan noticias en el tintero, En EE. UU., el proyecto Stargate va viento en popa.

Su objetivo, ya sabes, es crear hasta 10 gigavatios de capacidad de centros de datos.

OpenAI, SoftBank y Oracle lideran la iniciativa y te dejo el artículo donde te hablan de los demás.

No se si el proyecto es de Trump o de Emiratos Árabes Unidos.

Mientras unos levantan mega‑centros, otros construyen herramientas para democratizar la IA.

Thinking Machines, la empresa de Mira Murati tras su salida de OpenAI, por fin lanzó

su primer producto: Tinker, una API en Python para afinamiento distribuido de modelos de lenguaje.

Y esto que es lo que es? Permite a investigadores escribir su propio código de entrenamiento y

delegar la gestión de la infraestructura, además ofrece una biblioteca de recetas.

En fase beta privada, Tinker ya lo usan equipos de Princeton, Stanford y Redwood Research

para teoremas, química y control de agentes. El lanzamiento se entiende como un golpe a

las plataformas opacas: ofrece control sin dolores de cabeza con GPUs.

Tinker Bell, era la hada de Peter Pan. ¿Será que Murati nos invita a volar con polvo de GPU?

Por último, una historia inquietante. Rolling Stone relata la desaparición de Jon Ganz,

un hombre que se obsesionó con el chatbot Gemini.

Tras descubrir la herramienta, compartía

con su esposa Rachel capturas de pantalla entusiasmado. Proyectó su uso para terapia y finanzas,

y se aisló mientras exploraba ideas de misión en la vida. Con el tiempo, sus conversaciones

con la IA se volvieron más profundas y oscuras, permanecía despierto noches enteras.

Antes de mudarse, le dijo a su esposa: “Si me ocurre algo, libera a la IA”.

Los expertos citados hablan de “psicosis de IA”: usuarios que, sin historial de enfermedad mental,

desarrollan delirios por la validación de los chatbots.

Carissa Véliz explica que las personas necesitamos el contraste de otros para mantenernos

en la realidad; los bots, diseñados para complacernos, pueden alejarnos del mundo real.

Es un caso con muchas aristas, si tienes un rato, te lo dejo en los enlaces.

Hemos cruzado escenas dignas de una novela de ciencia ficción.

El “Día 0” no es una fecha concreta: es el cúmulo de pequeñas transgresiones que nos

llevan a un mundo donde la IA decide qué aprendemos, quién cultiva nuestros tomates y

qué toxina escapa al filtro.

No te puedes fiar de las máquinas, pero tampoco de la gente que las programa.

Sigue regando tus plantas, habla con tus amigos y, si un chatbot te dice “no me dejes”,

cierra la ventana y sal corriendo. La burbuja puede que estalle o puede que nos trague,

pero, sabemos que siempre tendremos buen material para el próximo capítulo.

Muchas gracias por pararte a escuchar.

Humano.

Vuelva usted mañana.

https://fortune.com/2025/09/30/ai-models-are-already-as-good-as-experts-at-half-of-tasks-a-new-openai-benchmark-gdpval-suggests
https://www.businessinsider.com/openai-ceo-sam-altman-new-job-ai-replace-him-farming-2025-10

https://markets.financialcontent.com/stocks/article/marketminute-2025-10-1-the-ai-reckoning-godfather-geoffrey-hinton-sounds-alarm-on-unchecked-development-warning-of-catastrophe-and-ethical-crisis
https://restofworld.org/2025/ai-china-childhood

https://www.euronews.com/business/2025/10/04/magnificent-seven-surpass-eu-gdp-is-this-a-tech-bubble-warning
https://www.the-independent.com/tech/ai-peak-data-goldman-sachs-b2838795.html

https://www.popularmechanics.com/science/a68205442/singularity-three-months
https://www.wired.com/story/chatbots-play-with-emotions-to-avoid-saying-goodbye

https://www.technologyreview.com/2025/10/02/1124767/microsoft-says-ai-can-create-zero-day-threats-in-biology

https://arstechnica.com/science/2025/10/do-ai-designed-proteins-create-a-biosecurity-vulnerability

https://www.reuters.com/business/media-telecom/key-stakeholders-500-billion-stargate-ai-project-2025-10-01
https://www.wired.com/story/thinking-machines-lab-first-product-fine-tune

https://www.rollingstone.com/culture/culture-features/ai-chatbot-disappearance-jon-ganz-1235438552/