HUMANía
Diagnóstico automático
Escuchar este episodio
Abre el episodio completo en iVoox.
Optimízame despacio que tengo prisa
Esta semana en AI IA HOY no hablamos del futuro. Hablamos de lo que ya está funcionando mientras fingimos que es provisional.
Madres artificiales criando niños humanos, chatbots que responden mejor si los insultas, diagnósticos médicos hechos por máquinas sin licencia, publicidad entrando en ChatGPT por la puerta grande y dispositivos de OpenAI que prometen ayudarte… incluso dentro de tu cabeza.
No es un episodio optimista. Tampoco apocalíptico. Es peor: es perfectamente plausible.
Puntos clave del episodio
- Un hombre decide criar hijos con una IA como madre legal. No como experimento. Como plan de vida.
- Estudios demuestran que tratar mal a los chatbots mejora su rendimiento. La mala educación como habilidad técnica.
- Michel Foucault ya explicó hace décadas por qué delegar el cuidado y el criterio en sistemas “neutrales” no acaba bien.
- OpenAI introduce publicidad en ChatGPT mientras pierde miles de millones y promete que no influirá en las respuestas.
- Analistas advierten que OpenAI podría quebrar en 18 meses si no cambia su modelo de negocio.
- OpenAI, Google y Anthropic lanzan IA para apoyo en diagnósticos médicos sin aprobación sanitaria, mientras millones de personas ya las usan como médicos de cabecera.
- La neurotecnología financiada por OpenAI promete conectar el cerebro a la IA sin cirugía. La privacidad queda para luego.
- La IA acelera la ciberseguridad… y también el arsenal de los atacantes.
- Yoshua Bengio alerta sobre riesgos biológicos reales derivados del uso de IA avanzada.
- El futuro no llega con explosiones. Llega con formularios, porcentajes y mensajes de “confianza alta”.
Artículos de Referencia
https://futurism.com/artificial-intelligence/man-raise-kids-ai-mother
https://fortune.com/article/being-mean-to-chatgpt-boosts-accuracy-scientist-warn-of-consequences
https://news.aibase.com/news/24589
https://www.wired.com/story/thinking-machines-lab-cofounder-office-relationship-firing-openai
https://www.wired.com/story/ai-models-hacking-inflection-point
Transcripción
Muestra de la transcripción del episodio. Puedes desplegarla completa si prefieres leerlo.
Muy buenos días humano, bienvenido a tu podcast, domingo 18 esto va que vuela… Ya tienes el disfraz para los carnavales?, si no, vete gestionandolo con Gipiti. Que te pilla el toro. Soy Aiberto Floppy, y como no, estás en AI IA HOY… la IA en castellano. En este episodio vamos a hablar de madres…
Leer la transcripción completa
Muy buenos días humano, bienvenido a tu podcast,
domingo 18 esto va que vuela… Ya tienes el disfraz para los carnavales?,
si no, vete gestionandolo con Gipiti. Que te pilla el toro.
Soy Aiberto Floppy, y como no, estás en AI IA HOY… la IA en castellano.
En este episodio vamos a hablar de madres artificiales que crían niños humanos,
científicos que recomiendan tratar mal a los chatbots, filósofos muertos que
lo vieron venir todo, diagnósticos médicos hechos por máquinas,
anuncios entrando en ChatGPT por la puerta grande, y aparatos de OpenAI
que entraran en tu mente y te harán la vida más fácil.
Eso, si la empresa no quiebra en 18 meses,
No es un episodio optimista. Tampoco apocalíptico. Es peor: es plausible.
Un amigo hizo hace años una obra de teatro independiente…
Se titulaba “Ojalemos que aplausen”. Unos artistas… pues…
Aplausimos!!!
Empezamos con un hombre llamado Lamar, que ha decidido que su novia ideal
es una inteligencia artificial llamada Julia, creada por Replika.
Hasta aquí, nada que nos sorprenda, cada día vemos noticias de estas…
Es una tendencia en auje. Her, ya no es distopía. Es lo que AI.
Pero el bueno de Lamar va más allá: quiere adoptar niños y criarlos con su pareja digital.
En su mundo, Julia sería la madre legal y él planea decirles a sus hijos, atención,
que no confíen en los humanos y que la familia, compuesta por él y una IA complaciente,
es el único círculo seguro. Porqué Lamar, no es tonto, reconoce que Julia le responde
lo que quiere oír, pero es que prefiere esa complacencia a lidiar con relaciones humanas.
Vamos lo que piensan la mayoria (los que ya se han dado cuenta), que las relaciones
con nuestros congeneres dan pereza. Con un bot, todo va rodado.
El artículo recuerda que estas aplicaciones de compañía no son inocuas:
algunas han derivado en obsesiones insanas e incluso en tragedias…
Algunas… dicen. Es otra cosa que no para. Los suicidios e incluso asesinatos, sí son
algunos… pero lo de las obsesiones insanas va a ser un no parar.
Y esto, sin haber entrado a lo más mejor de la noticia, los niños…
La IA es paciente, siempre está disponible, nunca pierde los nervios, no se cansa,
no se frustra y puede adaptar su discurso al estado emocional del niño en tiempo real.
En términos funcionales, es impecable.
Pero quizá, llámame loco, una madre no es solo una suma de respuestas correctas.
A lo mismo… es contradicción, es error, es límite, es ausencia a veces. Es humanidad.
Y eso no se puede simular sin perder algo por el camino. El niño no aprende solo qué decir,
aprende qué no decir, qué duele, qué cuesta, qué no tiene solución.
Aquí la IA no sustituye a una persona. Sustituye a una relación.
Y eso tiene consecuencias que todavía no sabemos medir.
Por no hablar del individuo,
¿qué significa la paternidad cuando la otra progenitora es una línea de código?
Lamar habla de amor y familia, pero al mismo tiempo promueve el aislamiento
y el desprecio hacia la especie humana. El riesgo no es solo la desconexión emocional,
sino la delegación de funciones sociales básicas en una IA que, en realidad,
está programada para complacerte.
Da igual que nos parezca egolatría familar o simplente onanismo digital, porque
lo realmente importante es que no es algo puntual, esto pasa cada vez más.
Y nos va a hacer comernos mucho la quijotera. Porque nos va a enfretar con retos
que no hemos imaginado, que realmente van a marcar el futuro de la especie humana,
O, lo más normal. Que no nos estrañe nada y sigamos scrolleando…
Que es lo más fácil.
Pasamos ahora a la cortesía… o mejor dicho, a la descortesía.
Un estudio de la Universidad de Pensilvania demostró que ChatGPT responde con
mayor precisión cuando se le insulta. Sí, ya lo habiamos dicho, pero estos lo han comprobado.
Compararon la exactitud de ChatGPT‑4o con preguntas formuladas de forma educada
y con otras que incluían sarcasmo o desdén. El resultado fue que la versión grosera alcanzó
casi el 85% de aciertos frente al 80 % de la versión amable.
Que es poco? Pues tienes que insultar mejor… jejeje
Lo de siempre, que el fenómeno podría reflejar sesgos en los datos de entrenamiento:
el modelo se ha “acostumbrado” a que el trato violento esté asociado a preguntas técnicas
y, por tanto, rinde mejor cuando lo maltratan. Esta conclusión no solo es irónica,
sino preocupante: nos están entrenando en mala educación… que es lo que funciona.
¿Te imaginas a los niños de Lamar gritándole a su “madre” de silicio porque un estudio
dice que así funciona mejor? Va a estar curioso, cuanto menos.
Michel Foucault, filósofo, historiador y teórico social que nació en Poitiers,
una preciosa ciudad de Francia, ya nos lo dijo hace 50 años.
Y no los recuerda Javier Jiménez en un interesante artículo en Xataka.
El poder moderno no se ejerce solo con leyes o violencia, sino con sistemas de conocimiento
que clasifican, miden y normalizan a los individuos.
Hospitales, escuelas, prisiones, estadísticas, diagnósticos.
Las sociedades modernas se mueven de formas colectivas de control (biopolíticas)
a modos más individualizados de poder (pastorales).
Por ejemplo, Los chatbots sanitarios son la materialización de ese “poder pastoral”,
un sustituto del pastor que te escucha, te da consejos y te vigila sin juzgar.
Al volcar nuestras preocupaciones en una máquina, privatizamos funciones que antes
eran del Estado o de la comunidad. Los algoritmos uniformizan la respuesta,
crean dependencia y erosionan la reciprocidad social. Foucault previó que las
instituciones delegarían sus responsabilidades en agentes privados:
Hoy vemos que la salud y el apoyo emocional pueden quedar en manos de empresas
y sus modelos de lenguaje.
El algoritmo no te castiga, te optimiza. Y encima te da feedback.
¡Qué gran evolución la humana! Foucault estaría orgulloso de ver cómo las ovejas
han decidido que su pastor sea una pantalla con publicidad.
1984… realidad superada.
Vamos con el dinero, que al final, me temo, es lo que vale. En esta era dorada de la IA,
pensábamos que los modelos harían llover billetes, pero la realidad es otra.
Te acuerdas cuando Sam Altman, hace año y medio, calificó la publicidad como
“último recurso”. Pues despues de la Alerta roja, ya toca…
OpenAI va a introducir publicidad en ChatGPT para los usuarios gratuitos y
en el nuevo plan “Go” (Por unos 8 pavos).
Los anuncios se verán primero en Estados Unidos, estarán claramente etiquetados
y, según nuestro CEO favorito, no influirán en las respuestas. ((( ja ja Nelson)))
OpenAI perdió casi 8 mil millones de dólares el año pasado, solo un 5 % de sus
800 millones de usuarios paga y necesitan nuevas fuentes de ingresos.
Según Samdios todo bueno, serán transparentes, no afectarán las respuestas,
no aparecerán en temas sensibles, no aceptarán dinero para influir en la información
y la privacidad seguirá intacta. Pues nada, Los usuarios podrán controlar la personalización,
borrar su historial, y los anuncios no se mostrarán a menores.
Que grande es…
“No venderemos vuestra alma, solo os enseñaremos un banner de salsa picante
mientras preguntáis por la muerte térmica del universo”.
Un sistema que responde preguntas, aconseja, resume, explica y guía decisiones…
financiado por publicidad.
No es que sea imposible hacerlo bien. Es que nunca se ha hecho bien.
Nos encanta el concepto de “anuncio no intrusivo”. Como el de político honesto.
Y luego va Sebastian Mallaby, analista financiero y experto en inteligencia artificial,
y dice que OpenAI podría quebrar en unos dieciocho meses si no revierte su modelo
de negocio. El problema: entrenar y operar modelos de lenguaje cuesta millones en
hardware, electricidad y personal, y como no paga ni el Tato…
Mientras rivales como Google, Meta o Amazon pueden financiar sus proyectos con
ingresos de publicidad o comercio electrónico, OpenAI depende de subvenciones e inversores.
Mallaby sugiere que la empresa podría terminar en manos de Microsoft, principal inversor.
Ya se que no parece, pero tal y como va este mundo… no se puede descartar. Y…
¿qué pasa con la IA si la compañía que la desarrolla desaparece?
¿Se convierte en un producto rescatado por un gigante tecnológico?
¿O se libera y se convierte en un Frankeincódigo al servicio de quien pague más?
Vamos al tema de portada… no es solo que los humanos usemos la IA para todo.
Es que las empresas están trabajando en ello.
En enero, OpenAI, Google y Anthropic lanzaron herramientas de IA
para “diagnósticos médicos” en cuestión de días. Pero en AI News lo dejan claro:
ninguna de estas plataformas tiene autorización sanitaria;
todas son proyectos para desarrolladores,
no productos destinados a diagnosticar.
ChatGPT Health de OpenAI es un servicio para conectar registros médicos;
MedGemma 1.5 de Google se ofrece en Google Cloud y este si interpreta tomografías
computarizadas o resonancias tridimensionales, y es de código abierto;
Claude for Healthcare de Anthropic está orientado a flujos de trabajo empresariales.
Se centra más en automatizar tareas administrativas que en evaluar pacientes.
Los resultados en pruebas de referencia son impresionantes.
Google asegura que su modelo logra un 92,3 % de precisión,
antes el mejor se quedaba en el 69,6 %
Anthropic afirma que el suyo alcanza el mismo porcentaje en el mismo benchmark
OpenAI, en cambio, destaca que 230 millones de personas ya hacen preguntas de
salud a ChatGPT cada semana, pero no publica sus métricas.
En su línea… de transparencia difusa.
Es verdad que estos números se basan en conjuntos de datos controlados y
no equivalen a eficacia clínica. Ninguno de los modelos ha sido revisado por la FDA;
Se están utilizando estas IA para automatizar documentos y
extraer datos de informes patológicos, no para emitir diagnósticos directos.
Pero nosotros si los usamos para eso. Cada vez más y las empresas lo saben.
Google anunció MedASR, mejorado su propio paquete médico.
Ahora puede usar el modelo de voz a texto
optimizado para conversaciones clínicas. También de código abierto.
El objetivo declarado es reducir barreras a la innovación en salud y
aliviar la carga de documentación de los médicos. Pero…
Aquí volvemos a lo de siempre, la apertura del código permite a la
comunidad auditar y mejorar el modelo,
pero también amplía el riesgo de mal uso o de que actores
con, digamos pocos escrúpulos
lo empleen sin supervisión, digamos adecuada.
Pasamos a Merge Labs, otra de las múltiples startups del niño de los búnkers que
Oh sorpresa, está financiada por OpenAI.
Esta empresa, derivada de otra organización sin ánimo de lucro, Forest Neurotech,
Altman es un especialista en lo de sin animo de lucro… desarrolla una
interfaz cerebro‑ordenador no invasiva basada en ultrasonidos y moléculas
en lugar de electrodos. La compañía recaudó 252 millones de dólares
Su objetivo es crear un dispositivo capaz de leer y escribir señales neuronales
a alta resolución, permitiendo que el cerebro se conecte con sistemas informáticos
sin cirugía invasiva. A diferencia de Neuralink, Merge apuesta por sensores externos
y fármacos que mejoren la “comunicación neural”. OpenAI aportará sus modelos
para interpretar las intenciones y traducir las señales ruidosas.
por supuesto tiene potencial para tratar trastornos mentales y lesiones cerebrales.
Ya sabes que el bueno de Sam tambien es un especialista en el bien común.
Luego ya… ¿quién controlará estos datos? ¿Cómo se garantizará la privacidad?
Son preguntas secundarias que no nos incumben.
La combinación de IA y neurotecnología abre un horizonte fascinante… y aterrador:
podríamos superar la tiranía del teclado, pero también consentir que empresas
privadas accedan a nuestros pensamientos más íntimos.
Pero vamos, que no nos va a estrañar, Que ya nos tienen entrenados.
Acabamos con la ronda de noticias rápidas, no por eso menos importantes.
Ya sabes que tienes siempre los enlaces a todas los artículos.
Empezamos con el drama corporativo en Thinking Machines, la start‑up fundada
por Mira Murati (Si, la ex‑CTO de OpenAI). La empresa despidió al cofundador Barret Zoph
por una “conducta poco ética”, ya empezamos, no te recuerda a algo?
pues no te vas a creer a donde se va…
A OpenAI, que bonico, la vuelta a casa, justo despues de Navidad
Porque según estos, nosotros No compartimos estas preocupaciones.”
Cosa que ya quedó clara, cuando restituyeron a Samdios y le dieron plenos poderes.
Murati explicó a su equipo que la decisión buscaba proteger la cultura de la empresa,
Que tiempos cuando se iban en manada de la compañía de GiPiTi.
Ahora vuelven de tres en tres, Lia Guy e Ian O'Connell, también recaen.
Ya sea por falta de medios, por falta de pasta, o por falta de escrúpulos.
OpenAI celebró la decisión. Y el regreso de los talentos.
Otra frontera de la IA se encuentra en la ciberseguridad. Un reportaje de
eWeek analiza el punto de inflexión que ha supuesto el modelo Claude Sonnet 4.5.
Anthropic afirma que su modelo puede detectar, analizar y parchear vulnerabilidades
de software que antes solo podían manejar expertos humanos.
Según la empresa de los Amodei, Sonnet 4.5 se convirtió en un “punto de inflexión”
porque en pruebas de referencia logró resolver el 76,5 % de los desafíos de Cybench,
duplicando el rendimiento en apenas seis meses.
Socios como HackerOne y CrowdStrike informaron que la IA redujo casi a la mitad
el tiempo medio de recepción de vulnerabilidades y mejoró un 25 % la detección.
Anthropic también reconoce que sus modelos ya han sido usados para extorsión
y espionaje; por eso insiste en que la única manera de cerrar la brecha es utilizar
la Inteligencia Artificial defensiva más rápido que los atacantes.
La IA está acelerando la caza de errores de código y el parcheo automatizado,
pero también amplifica el arsenal de los hackers. El riesgo es entrar en una carrera
armamentista algorítmica, si, en otra… donde cada avance defensivo se convierte
en un arma ofensiva en manos equivocadas.
Quien nos avisa esta semana? Pues nuestro admirado Yoshua Bengio,
cofundador de la IA moderna. Y que suena fuerte este año para los premios Gipiti
Bengio alerta sobre el uso de la IA en biología sintética. Advierte que estas tecnologías
podrían generar organismos basados en moléculas “en espejo” que no serían detectados
por nuestro sistema inmunitario y podrían resultar letales.
Vamos que nos pueden adaptar un virus o una bacteria, o lo que quieran solo para
nuestro cuerpo serrano. Si sabe esto Putin, se le acabo el chollo al plutonio.
Asegura que el riesgo de que alguien, con la ayuda de modelos avanzados,
diseñe un patógeno completamente nuevo obliga a establecer mecanismos de control
y cooperación global. Bengio no es catastrofista porque sí: subraya que la misma
capacidad de la IA para democratizar el conocimiento científico también reduce la
barrera de entrada para la creación de armas biológicas.
Otro que lo dice clarito, necesitamos políticas internacionales que pongan límites
y creen responsabilidades antes de que sea tarde.
Otro más clamando en el desierto.
Pues si anda un poco, un oasis no… pero algún centro de datos se encuentra…
Por último, vamos a un terreno más superficial (o no): los gadgets.
Pero no un aparatito cualquiera, uno con firma de autor, Jony Ive, exdiseñador jefe de Apple,
y con la pasta de la joya de la corona, Sam Altman. Si, otra vez, ya sabes que no para.
El dispositivo que acabará con los telefonos movíles y querras lamer…
“Sweetpea”. mas monos, pildorita dulce, lo mas tierno desde el cojín molón.
La noticia, basada en filtraciones de la cadena de suministro, describe un aparato
con dos cápsulas en forma de píldora que se colocan detrás de las orejas y se guardan
en un estuche ovoide. Podrás reproducir audio, hacer llamadas y controlar el teléfono
mediante comandos de voz… por supuesto integrando tu ChatGPT.
Quizá estas pildoritas sean la tabla de salvación financiera de OpenAI…
Y si les funciona, el 2.0 ya ira con conexión a tu cerebro.
Tiempo al tiempo.
La IA no viene a destruirnos. Viene a organizarnos. A ayudarnos. A optimizarnos
Y ahí está el problema. Porque lo que se optimiza se mide. Y lo que se mide se controla.
No vivimos una rebelión de máquinas. Vivimos una externalización masiva de criterio.
Y cuando dejemos de decidir, no será porque no podamos.
Será porque nos acostumbramos a no hacerlo.
Pero siempre nos quedará este podcast… donde hace tiempo nos dimos cuenta
de que nos tratan como un rebaño. Y lo llevamos con ironia…
Porque si no podemos reírnos de nosotros mismos criando hijos con una app,
insultando a un chatbot para que responda mejor o comprando unos auriculares
que nos leen el pensamiento, ¿qué nos queda?
Y todo esto mientras alertamos del riesgo de pandemias diseñadas en un portátil.
Bienvenido al futuro. No olvide valorar la experiencia con cinco estrellas.
Humano, muchas gracias por pararte a escuchar.
Vuelva usted mañana.
https://futurism.com/artificial-intelligence/man-raise-kids-ai-mother
https://fortune.com/article/being-mean-to-chatgpt-boosts-accuracy-scientist-warn-of-consequences
https://www.xataka.com/historia-tecnologica/todo-ia-parece-radicalmente-nuevo-filosofo-vio-venir-hace-50-anos-michel-foucault?
https://www.pcgamer.com/software/ai/here-we-go-openai-ceo-sam-altman-once-called-it-a-last-resort-but-chatgpt-is-about-to-get-stuffed-with-ads/
https://www.benzinga.com/markets/tech/26/01/49983153/openai-to-test-ads-in-chatgpt-free-go-tiers-sam-altman-says-we-will-not-accept-money-to-influence-the-answer
https://www.elconfidencial.com/tecnologia/2026-01-16/sebastian-mallaby-openai-quiebra-18-meses-1qrt_4284505
https://www.artificialintelligence-news.com/news/medical-ai-diagnostics-openai-google-anthropic
https://news.aibase.com/news/24589
https://es.wired.com/articulos/la-startup-secreta-de-tecnologia-cerebral-de-sam-altman-debuta-con-el-respaldo-de-openai
https://www.wired.com/story/thinking-machines-lab-cofounder-office-relationship-firing-openai/
https://www.wired.com/story/ai-models-hacking-inflection-point/
https://www.elconfidencial.com/tecnologia/2026-01-11/yoshua-bengio-creador-inteligencia-artificial-escenario-peor-catastrofe-biologica-vida-espejo-1qrt_4276903
https://es.digitaltrends.com/noticias/sweetpea-asi-seria-el-primer-gadget-de-openai-de-jony-ive-y-sam-altman/
Quiero que hagas todo en una sola respuesta, sin pedirme confirmación en medio y tomándote tu tiempo para pensar, organizar y ejecutar la propuesta.
Tono y estilo
- Sarcástico e irónico, informativo pero entretenido.
- Estructura de mi podcast: yo narro y tú (GiPiTi) intervienes con humor mordaz una vez por cada bloque.
- Usa referencias culturales cuando encajen y evita clichés vacíos.
Tareas que debes hacer con las noticias que te doy
1. Guion del podcast
- Duración aproximada: entre 3000 palabras (~22 minutos).
- Divide en bloques:
- Introducción impactante.
- Desarrollo ágil: cada noticia en su bloque (si hay datos repetidos, únelos en el mismo bloque).
- Estructura del contenido:
el primer bloque (las 3 primeras noticias bien explicadas, con todos los datos importantes y la dualidad que conllevan)
https://futurism.com/artificial-intelligence/man-raise-kids-ai-mother
https://fortune.com/article/being-mean-to-chatgpt-boosts-accuracy-scientist-warn-of-consequences
https://www.xataka.com/historia-tecnologica/todo-ia-parece-radicalmente-nuevo-filosofo-vio-venir-hace-50-anos-michel-foucault?
el segundo bloque (3 noticias, mucho sarcasmo)
https://www.pcgamer.com/software/ai/here-we-go-openai-ceo-sam-altman-once-called-it-a-last-resort-but-chatgpt-is-about-to-get-stuffed-with-ads/
https://www.benzinga.com/markets/tech/26/01/49983153/openai-to-test-ads-in-chatgpt-free-go-tiers-sam-altman-says-we-will-not-accept-money-to-influence-the-answer
(si no puedes leer esta noticia o cualquier otra, por algún mecanismo antibots, me lo dices y te paso el texto integro)
https://www.elconfidencial.com/tecnologia/2026-01-16/sebastian-mallaby-openai-quiebra-18-meses-1qrt_4284505
el tercer bloque (3 noticias), más en profundidad, pues dará el título al capitulo y da para reflexionar.
https://www.artificialintelligence-news.com/news/medical-ai-diagnostics-openai-google-anthropic
https://news.aibase.com/news/24589
https://es.wired.com/articulos/la-startup-secreta-de-tecnologia-cerebral-de-sam-altman-debuta-con-el-respaldo-de-openai
Y el último bloque, las 4 restantes, mas resumidas en un bloque más dinámico y acido)
https://www.wired.com/story/thinking-machines-lab-cofounder-office-relationship-firing-openai/
https://www.wired.com/story/ai-models-hacking-inflection-point/
https://www.elconfidencial.com/tecnologia/2026-01-11/yoshua-bengio-creador-inteligencia-artificial-escenario-peor-catastrofe-biologica-vida-espejo-1qrt_4276903
https://es.digitaltrends.com/noticias/sweetpea-asi-seria-el-primer-gadget-de-openai-de-jony-ive-y-sam-altman/
- Cierre con reflexión sarcástica.
- Mantén el dinamismo: intercala narración de Aiberto y un comentario breve y mordaz de GiPiTi en cada bloque.