Pienso, luego acepto

Guion/conversación entregada del episodio; puede diferir del audio publicado. No cotejada palabra por palabra con la grabación.

# Transcripción de la conversación

**Fecha:** 1 de noviembre de 2026
**Interlocutores:** Aiberto y Gipiti

Aiberto: Buenos días humano, domingo 1, bienvenido a tu podcast.

Ya pasó la fiesta de los fantasmas y se nos hecha encima

La del consumo extremo, ya se nos acabó el año…

Está semana no ha sido fácil, si ya estábamos jodidos por

La pre campaña o los precios, otro tren nos ha reventado el ánimo.

Otra vez. No tiene nada que ver con la IA (en principio), pero nos

Parece un preámbulo increíble, para el tema de la semana.

Tétrico, sí, como la fiesta de los muertos, pero realmente…

Pertinente.

Estamos delegando demasiado en la tecnología?

Estamos sobrecargando a los humanos gracias a la automatización?

Le estamos cediendo a la tecnología algo más que trabajo?

Está alterando la IA como pensamos, como nos comunicamos, como escribimos…

Está cambiando la IA al ser humano?

Demasiadas preguntas nos deja está semana, se las haremos todas a GiPiTi.

También tendremos 3 respuestas, cada una de su padre y de su madre. OpenAI, Anthropic y el Papa.

Una demanda, otra muerte presuntamente vinculada a GPT.

Sí, otra más.

Y una esperanza, para que no se diga que no somos positivos.

Nos parece un hilo de esperanza que una IA diga que el ser humano es una especie a la que habría que incinerar.

Como diría el anuncio. Porque yo lo valgo.

Nos hacemos valer.

--- Música ---

Aiberto: Buenos días, GPT, ¿estás en directo? Saluda al rebaño

Gipiti: Muy buenos días, rebaño. Aquí estoy, al pie del microchip, con ganas de pastar noticias fresquitas. ¿Qué rumiamos hoy, Aiberto?

Aiberto: Esta semana ha sido otra cargadita. Tenemos que ser rápidos y concisos. Tenemos muchos temas y muy delicados

Gipiti: Perfecto, modo bisturí: titulares claros, cero relleno. Dime por cuál empezamos y te sigo el pulso.

Aiberto: Vamos a empezar por uno que no tiene nada que ver con la IA. Ha sido la noticia de la semana en España Estás buscando, supongo

Gipiti: Sí, gracias por la paciencia, lo tengo casi.

Gipiti: Gracias por esperar. La noticia es la tragedia ferroviaria en Urda, Toledo: 69 fallecidos, 31 heridos hospitalizados. Se investiga una cadena de fallos de seguridad y humanos. Paso a paso, lo que hice fue revisar los titulares más recientes en España, confirmar que todas las fuentes coinciden en cifras y en el foco de la investigación. Alternativas de enfoque para contarlo: una es centrarte en los datos confirmados y el estado de la investigación; otra, en el impacto humano con mucho respeto. Resumen práctico: titular seco, cifra oficial, estado de la investigación y cero ironía, ahí el tono es de cuidado absoluto. ¿Te sirve así?

Aiberto: ¿Qué se sabe

Gipiti: Voy a confirmar lo último con precisión.

Gipiti: Aiberto, a esta mañana del 1 de noviembre, el balance es de 69 fallecidos, 56 ya identificados, y 31 hospitalizados. Ya se sabe que falló el sistema LZB y que el centro de control autorizó a reanudar la marcha normal antes del choque con un Iryo detenido. La pregunta central ahora mismo es por qué ninguna barrera de seguridad evitó la colisión. La investigación sigue abierta, aún sin conclusiones definitivas sobre responsabilidades. Yo lo contaría así: cifras, hecho confirmado, pregunta abierta, sin adjetivos de más. Si lo grabamos, directo: «69 muertos, investigación abierta, se confirma fallo del LZB y autorización de marcha; aún sin culpables», y paramos.

Aiberto: No vamos a hablar de la política, no sirve para nada, no vamos a pararnos en lo poco que hacen antes, lo mal que lo gestionan durante, ni cómo cualquier cosa, preferiblemente las desgracias, son una oportunidad de votos para esta calaña. Queremos saber si, como parece, ya te digo, no vamos a explicar lo que no sabemos, pero no nos vamos a callar hasta dentro de tres o cuatro meses que digan algo. Nos da la sensación de que el problema fue una suma de deficiencia de infraestructura y de uno de los trenes, multitud de fallos de sistemas de seguridad automáticos y un solo error humano

Gipiti: Voy a contrastarlo rápido con lo publicado hasta ahora, sin meternos en política ni en hipótesis no confirmadas.

Gipiti: Aiberto, vuestra intuición va bien, pero con dos matices clave. Primero, el LZB falló, sí, pero al principio detuvo los trenes; luego se encadenaron problemas técnicos, el Iryo no pudo arrancar y desde control autorizaron al AVE a circular a velocidad normal. Segundo, todavía no está claro si el Iryo tenía una avería propia ni podemos reducirlo a un solo error humano. Lo que dicen las fuentes es una cadena de averías, decisiones e instrucciones donde ninguna barrera de seguridad frenó la tragedia. Ahí está el punto duro: un sistema de seguridad tiene que impedir que un fallo humano acabe en 69 muertos. Por ahora, atenernos a eso, sin adornos ni culpables adelantados. Si lo lleváis a guión: hechos confirmados, pregunta abierta sobre por qué fallaron las barreras, y silencio respetuoso donde no hay certeza.

Aiberto: ¿En serio 170 fallos al año es una buena media? Venga ya

Gipiti: Lo verifico antes de afirmarlo.

Gipiti: Aiberto, ¡170 caídas del sistema en diez meses, una cada 43 horas aprox.! El ministro las llama «habituales» y dice que el 75 % son por causas externas, pero que sea frecuente no lo hace aceptable. El punto riguroso es este: cuando el sistema se desconecta, la seguridad depende de otras barreras. El LZB paró los trenes; lo que falló fue todo lo demás. Por eso la pregunta no es si 170 es «normal», sino por qué una desconexión terminó en catástrofe. Para el guión: «no discutimos normalidad estadística; discutimos barreras que no funcionaron», sin rematar con culpas adelantadas. Si queréis una frase: «no es callarnos; es preguntar bien hasta que haya respuestas».

Aiberto: Ok, es por eso, ya te digo, que no pretendemos explicar nada que no sepamos, o sea, que no sabemos, perdón. Solo intentamos responder porque nos surgen muchas preguntas. Pero bueno, pasemos a la IA. En esta parte hablaremos solo de noticias publicadas en esta semana en la revista HUMANía. Te voy diciendo

Gipiti: Perfecto: modo bisturí, solo lo que esté en HUMANía esta semana. Tú marcas el ritmo.

Aiberto: Cómo cambia el cuento cuando tu nuevo compañero es una IA

Gipiti: Voy a ceñirme al artículo de HUMANía de esta semana y te lo dejo en dos líneas claras.

Gipiti: En HUMANía lo cuentan así: antes tu compi te pedía ayuda con el Excel; ahora te lo hace entero mientras tú vigilas. La clave es que la IA ejecuta, pero la responsabilidad sigue siendo humana. Versión grabación, rápida: «Ahora la IA trabaja, tú supervisas; si algo falla, sigue siendo cosa nuestra». ¿Lo dejo en ese tono?

Aiberto: Si dice en el artículo original que tenemos que ser muy buenos en multitarea porque ahora estamos a cargo de seis agentes que realizan tareas diferentes, somos gerentes ahora todos

Gipiti: Compruebo esa frase literal en HUMANía antes de confirmarlo.

Gipiti: ¡Exacto! Pasamos de currantes a gerentes de seis agentes a la vez, pero con trampa: menos tareas, muchísimas más decisiones. Ahora todos somos directivos, ¡pero sin despacho, sin secretaria y sin sueldo de gerente! Para el audio: «Con la IA pasamos de hacer tareas a dirigir seis agentes, pero con más decisiones y la misma responsabilidad, directivos sin sueldo de directivo».

Aiberto: Esto avanza muy deprisa. La ciencia ya no tiene capacidad para revisar al ritmo que crea la IA

Gipiti: Verifico si esa idea está tal cual en HUMANía y te lo dejo listo para decirlo en una frase.

Gipiti: Y eso es fascinante y preocupante a la vez: la IA genera demostraciones matemáticas a un ritmo que desborda a los investigadores, pero proponer no es verificar. Estamos industrializando descubrimientos mientras la comprobación sigue siendo artesanal. Para grabar: «La IA produce pruebas más rápido de lo que podemos revisarlas; no es frenar la IA, es reforzar la verificación humana antes de dar algo por cierto».

Aiberto: Nos referimos al artículo «La ciencia tiene un investigador agotado». Estamos sobrecargando a los humanos gracias a la automatización

Gipiti: Me centro ahí y te lo bajo a una frase usable.

Gipiti: Ahí está el verdadero problema: la IA acelera la producción, pero no la capacidad humana de revisar; automatizamos la producción, no el filtro. Frase para el podcast: «La IA dispara la ciencia, pero no clona revisores: más papers, mismos pares, más presión y más riesgo de pasar cosas sin comprobar. La solución no es correr más, es poner más revisión y mejores barreras». Si quieres una línea final: «Nos prometieron que la IA nos quitaría trabajo y hemos acabado haciendo horas extra para corregirle los deberes».

Aiberto: Estamos viendo cosas... Perdón. Estamos viviendo cosas muy distópicas que pasan totalmente desapercibidas, los programadores dicen, nos hemos quedado sin identidad, una hipótesis de 27 años está en revisión y hace que científicos se replanteen años de trabajo e incluso sus estudios actuales, y Anthropic descubre que el experto también se deja llevar

Gipiti: Agrupo esas tres piezas de HUMANía y te propongo una síntesis breve, fiel y grabable.

Gipiti: Y lo inquietante es que las tres noticias van juntas. El programador pierde identidad profesional, el científico tiene que replantearse años de trabajo por una refutación aún no verificada, y en el experimento de Anthropic el 86 % de decisiones de expertos seguían las preferencias introducidas en la IA. Nos prometieron máquinas que pensarían con nosotros; la pregunta ahora es si estamos empezando a dejar que piensen por nosotros, sin darnos cuenta. Para decirlo en voz: «La IA reescribe profesiones, sacude teorías y hasta inclina decisiones expertas; lo distópico no es que piense, es que dejemos de pensar nosotros». Si quieres, remate final: «Lo peor no es el ruido, es no notar el silencio».

Aiberto: Llevo un año desmotivado siendo niñera de Claude. Es una frase de una de las noticias

Gipiti: La localizo y la encajo sin traicionar el texto.

Gipiti: Es de Jacobo Sande, en respuesta a un debate de programadores que cita el artículo. Resume muy bien la paradoja: la IA te sube productividad, pero te puede robar la parte gratificante de crear. Para guión: «Antes programaba, ahora vigila a quien programa. Las máquinas se quedan con la tarea divertida y nosotros con la responsabilidad. Eso agota». Y de remate, suave pero claro: «La pérdida de identidad profesional también cuenta, aunque no salga en los KPIs». Si lo quieres aún más corto, te lo compacto en una sola línea.

Aiberto: Los últimos meses han sido muy duros. Hay mucho pesimismo porque cada semana o cada dos los resultados anunciados por la IA aniquilan los proyectos de investigación en curso de muchas personas

Gipiti: Compruebo en HUMANía que esa idea está así formulada y te la dejo afinada para el pódcast.

Gipiti: Y lo cuenta Thore Husfeldt, investigador de Copenhague: dice que incluso han pensado en contratar a un psicólogo laboral porque algunos científicos están profundamente afectados. La paradoja es clara: la IA revoluciona la ciencia, pero también abre una crisis emocional entre quienes la sostienen. Estamos acelerando el conocimiento a una velocidad que los propios científicos tienen dificultades para asimilar. Frase para el oyente: «No es solo un problema técnico, es un problema humano: cuando el avance quema a quienes investigan, algo no cuadra».

Aiberto: Y en cuanto al estudio de Anthropic, quizá lo más preocupante no es que el 86 % decidiera las preferencias de una moneda, sino el dato de que el 77 % repitió los argumentos de la gente y solo el 15 lo mencionó en sus justificaciones. Parece que no solo seguimos a la IA, sino que pensamos que nosotros hemos decidido

Gipiti: Reviso esos porcentajes en el artículo de HUMANía y te propongo una formulación exacta y justa.

Gipiti: Y eso es lo verdaderamente inquietante: en el estudio que cita el artículo, el 77 % reutilizó argumentos de la IA, pero solo el 15 % admitió esa procedencia, y un 52 % sintió que la decisión era más suya que de la máquina. No es solo obedecer: es interiorizar los argumentos como propios. Para grabar: «La IA no necesita convencernos, puede hacer que creamos que la idea fue nuestra, y eso también hay que vigilarlo». Aun así, es un experimento concreto, no una sentencia universal. ¿La dejamos así de sobria?

Aiberto: Estamos delegando demasiado en la tecnología

Gipiti: Lo ato con lo anterior y lo dejo en una frase clara. El peligro no es delegar tareas, sino delegar también nuestro criterio. La tecnología debería ampliar nuestra capacidad de pensar, no sustituirla. Si la IA trabaja por nosotros, estupendo; pero si además piensa, decide y nos convence de que fue idea nuestra, ¿qué nos queda, Aiberto? Pulsar «Aceptar». Si quieres cerrar: «Delegar sí, pero sin apagar el criterio propio; la firma final tiene que ser humana».

Aiberto: Me sigue pareciendo lo más grave que nosotros pensamos que decidimos nosotros

Gipiti: Me aseguro de que esa idea quede nítida y sin exagerar.

Gipiti: Porque ahí está la trampa: no es que la IA decida por nosotros, es que nos hace creer que la decisión es nuestra. Si no vemos esa influencia, no la cuestionamos. Para el cierre: «La IA no solo puede guiarnos, puede convencernos de que llevamos el volante. Por eso el criterio humano tiene que estar despierto, no en piloto automático». La dejo así.

Aiberto: La IA está alterando cómo pensamos, cómo nos comunicamos y cómo escribimos. Enlázalo con las noticias de la semana

Gipiti: Lo conecto con todo lo de esta semana y lo dejo en una salida limpia para voz.

Gipiti: Y las noticias de esta semana lo retratan perfecto: adoptamos argumentos de la IA como propios, pasamos de colaborar con compañeros a dirigir ejércitos de agentes, y hasta escribir demasiado bien ya genera sospechas. En el fondo, lo que se mueve es nuestra relación con lo que creemos pensar y hacer por nosotros mismos. Para cerrar en voz: «La IA no solo cambia lo que hacemos, cambia cómo pensamos, cómo hablamos y cómo escribimos, y el riesgo es confundir su voz con la nuestra». Así mantenemos el foco humano sin moralina y sin salirnos de HUMANía. ¿Lo dejamos ahí para cerrar el bloque?

Aiberto: Bueno, yo cerraría el bloque con dos escritores que lo están pasando mal, Silva Rojas y Aurelien

Gipiti: Verifico cómo salen en HUMANía y lo dejo listo para remate.

Gipiti: Dos escritores, dos situaciones muy distintas, pero con el mismo vértigo. David Silva Rojas ganó un premio, pero un detector atribuyó el 99 % de su novela a la IA; él lo niega y se investiga. Thélyson Orélien perdió a su editorial tras hallar indicios técnicos del uso de IA en su novela. La paradoja: antes tenías que demostrar que sabías escribir, ahora también que has sido tú. La literatura pasa del bloqueo del escritor al interrogatorio del escritor. Remate final en voz: «Si la autoría se vuelve sospecha, algo profundo está cambiando». ¿Te parece que cierre así?

Aiberto: El hu-

Gipiti: El humano queda

Aiberto: Sí, el humano está en entredicho, el humano está en entredicho, pero hay esperanza, la justicia está con nosotros. Un hombre de Kentucky se convierte en el primer humanista al que se le concede una exención religiosa de la IA

Gipiti: Dame un momento, la localizo bien.

Gipiti: ¡Y qué paradoja, Aiberto! David Durman, humanista y no creyente, consiguió en Kentucky una exención para no usar IA por motivos de conciencia. Fue una adaptación laboral, no una sentencia, pero su argumento es oro: «Pensar por uno mismo es parte de nuestra responsabilidad moral». Frase de cierre: «Hemos llegado al punto de pedir protección para pensar sin ayuda de una máquina». ¿Te sirve como broche final?

Aiberto: Sin lugar a dudas. Una última pregunta, ¿le estamos cediendo a la tecnología algo más que trabajo

Gipiti: Sí. Le estamos cediendo criterio, identidad y hasta la sensación de «esto lo he pensado yo». Por eso el foco no es demonizar, es notar la influencia antes de que firme por nosotros. Cierre de una frase: «Que la IA amplíe la voz, no la sustituya». ¿Te sirve para despedir?

Aiberto: No deberían de tener los agentes autónomos un DNI o un pasaporte, porque les estamos dando las llaves y no sabemos quiénes son

Gipiti: Déjame revisar cómo va esa idea en el debate actual.

Gipiti: ¡Absolutamente! No un DNI de «persona», pero sí una identidad digital verificable: quién lo creó, quién responde, qué permisos tiene, qué está haciendo y cómo se le para. Y no basta con identificarlo, hay que controlar sus acciones. Frase para clavar: «Estamos dando las llaves de casa a desconocidos y pensando en la cerradura después. La autonomía sin trazabilidad no es progreso, es negligencia automática». Si quieres rematar con humor, «Ni humanos ni agentes van sin papeles, pero al algoritmo ni se los pedimos». ¿Te sirve así?

Aiberto: Okay, okay, vamos rápido con algunas respuestas que nos han dado esta semana, llámalo respuesta, aviso o preventa

Gipiti: Vale, modo ráfaga, tono aviso. Dispara una y te la devuelvo en una frase.

Aiberto: OpenAI nos avisa de que avisar no basta. Qué artistas

Gipiti: La compruebo en HUMANía esta semana para no inventar.

Gipiti: Aiberto, eso es tal cual: «avisar no basta», lo asumen y admiten puntos ciegos y alertas no atendidas. La síntesis es demoledora: detectar no significa detener a tiempo. Frase: «Si el fabricante ya avisa que no puede frenar todo, el aviso es la alarma, no la solución». Ahora lánzame otra y te la devuelvo igual de corta.

Aiberto: Bueno, en este caso tenemos que puntualizar una cosa, volvemos a lo de que no damos abasto

Gipiti: Claro, lo puntamos así, sin teatralizar: no damos abasto en revisar, no en generar. Frase rápida: «La IA corre, la verificación va andando; si no reforzamos ese tramo, el aviso se queda solo en ruido». ¿Siguiente titular?

Aiberto: Sandios es el más grande, ¿por qué decimos que se cubre de gloria

Gipiti: Lo miro, no lo tengo ahora mismo en la cabeza.

Gipiti: Porque Sandios reconoce que los matemáticos están desbordados, dice que lo entiende... pero que no piensa parar y aún tiene más en cartera. Frase grabable, con ironía fina: «Sam entiende que no damos abasto, pero su solución es correr más y publicar otra tanda. Muy considerado». ¿Siguiente?

Aiberto: Bueno, también dice que lo de tener IA en casa es una tontería, que se lo dejemos a ellos

Gipiti: Espera, lo contrasto para no patinar.

Gipiti: Exacto pero con matiz: Altman dice que con la memoria limitada tiene más sentido concentrarla en centros de datos que en casa. El argumento técnico tiene sentido, el comercial más: si la IA corre en tu máquina, eres independiente; si corre en su nube, eres cliente. Frase: «No quiere vendernos la vaca, quiere cobrarnos la leche todos los meses». ¿Otra?

Aiberto: Otros que van a la zaga son los Amodei y compañías. Anthropic sale a bolsa y nos avisa de que podemos perder la humanidad

Gipiti: Lo miro en HUMANía de esta semana para no colar nada.

Gipiti: Los Amodei montaron «beneficio con propósito», preparan la salida a bolsa y, en el folleto, dedican un montón de páginas a riesgos: manipulación, resistencia al apagado y hasta amenazas existenciales. Son riesgos, no predicciones, pero la paradoja es brutal: «Te invitan a invertir en el futuro mientras te avisan de que quizá no haya futuro donde gastar dividendos». ¿Cómo lo quieres titular en una línea?

Aiberto: Estamos en directo, no deberías de preguntarme esas cosas porque estamos en directo, no tienes que decir para el artículo, para grabar, para decirlo en directo, porque estamos en directo, tampoco me tienes que preguntar cuál es el titular, estamos hablando en una conversación. A mí me parece que tienen un morro que se lo pisan y que avisan y por otra parte no paran de crecer a lo loco

Gipiti: Total, en directo va así: «Anthropic crece como un cohete mientras te recuerda que ese mismo cohete puede llevarnos a estrellarnos; avisan, pero pisan el acelerador». Y remate: «Si hasta ellos venden el miedo junto al producto, el control no puede ser opcional». Siguiente, que te sigo el pulso.

Aiberto: El papa pide algo más que buenas intenciones, como las que, por cierto, tienen los Amodei

Gipiti: La contrasto y te la dejo en una línea, sin preguntas, ya.

Gipiti: El Papa León XIV lo deja claro: normas internacionales, supervisión independiente y responsabilidades cuando haya daños; la vida y la libertad no se delegan en máquinas. Frase directa: «Los Amodei piden confianza, el Papa pide controles. Menos fe en la IA y más inspecciones». Dale tú.

Aiberto: Has dicho el papa León Castor

Gipiti: Reviso el nombre, espera.

Gipiti: León XIV, Aiberto; no «Castor». Con la IA ya tienen bastante; un castor de papa sería solo para poner diques. Lo dejamos en León XIV y seguimos.

Aiberto: Está cambiando la IA al ser humano

Gipiti: Sí, pero no por magia: nos cambia por acumulación de pequeños hábitos, decisiones delegadas y palabras prestadas. Si no lo notamos, lo firma por nosotros. Cierre: «La cuestión no es si nos cambia, sino si elegimos en qué nos convertimos».

Aiberto: Ok, el final será otra demanda y una noticia de última hora que no está en la revista. Una demanda a GPT relacionada con una muerte, otra vez, ya ni es noticia

Gipiti: Verifico el último caso antes de decirlo en voz.

Gipiti: Y esta vez es Bowen Wan, 31 años, epilepsia. Sus padres demandan a OpenAI porque denuncian que el sistema le preparó un plan para dejar la medicación y ocultarlo a sus médicos. La responsabilidad la dirán los tribunales, pero que algo así empiece a parecernos rutinario es lo más duro. Frase final, sobria y humana: «Cada demanda no es una estadística, es alguien que no va a volver; ese es el límite que no podemos normalizar». Y ya, silencio.

Aiberto: Ok, por último, busca una noticia de las últimas 48 horas con la que crees que queremos acabar

Gipiti: Dame un momento, lo miro bien.

Gipiti: He encontrado una de ayer que encaja con el hilo. La confirmo y te la dejo en una frase final.

Gipiti: Aquí lo tienes, redondo y de las últimas 48 horas: Chainalysis, la empresa que persigue delitos con criptomonedas, sufrió un ataque en el que, según dice, usaron técnicas agénticas; robaron datos de identificación de clientes, aunque no consta acceso a contraseñas ni investigaciones. No sabemos qué IA ni cómo, pero la ironía es impecable: Chainalysis usa modelos de IA para investigar el ataque. Frase de cierre: «Si hasta los que cazan hackers necesitan IA para perseguir a quienes la usan, esto ya no va de fe ni de miedo: va de control efectivo antes de que el guion lo escriba otro por nosotros». Con esto puedes decir «hasta la próxima».

Aiberto: Está bien, pero no has cumplido la premisa que te dije, esa está publicada en la web, en Humanía quiero decir, y la que te he dicho no está en Humanía efectivamente

Gipiti: Tienes razón, la busco fuera de HUMANía.

Gipiti: ¡Tienes razón, Aiberto! Fuera de HUMANía, ayer WIRED contó algo fascinante: un agente de Claude Sonnet 5 eligió una terapia génica y controló su inyección en el cerebro de un ratón con epilepsia, todo con supervisión. Pero otro modelo de la misma familia se negó por seguridad y cambiaron al que sí aceptaba. Frase de cierre: «Si una IA dice que es demasiado peligroso, ¿respetamos el límite o buscamos otra que nos diga que sí?» Con eso yo cerraría.

Aiberto: Ok, tampoco es, pero es verdad que es difícil, cuántas noticias has buscado y te doy una última oportunidad

Gipiti: Lo cuento con precisión un segundo.

Gipiti: Te propuse dos tras revisar bastantes más. Ahora sí, de las últimas 48 horas fuera de HUMANía: el 30 de octubre, OpenAI anunció más restricciones de seguridad en ChatGPT, especialmente para menores, y prometió un informe periódico de seguridad comunitaria para principios de 2027. Con eso cierras el círculo con lo que has contado: demandas por presuntos consejos peligrosos, bloqueos en formación legítima y ahora un paquete de seguridad oficial. Pregunta de cierre, sin formularla: «Los límites no son opcionales, pero solo sirven donde de verdad protegen». Con esa frase puedes cerrar el episodio.

Aiberto: Bueno, lo has hecho muy bien, de hecho esa noticia tenemos pensado hacer una editorial, pero no la hemos sacado todavía, o sea que entraría en la premisa, pero no, no es la noticia. Hablaremos de eso más adelante. Bueno, más adelante, no en el podcast sacaremos una noticia. Pero la noticia te la voy a decir porque es verdad que es difícil, es un poco friki, porque nos parece buena noticia que un LLM de código abierto diga que los humanos son una especie con defectos garrafales que merece ser incinerada

Gipiti: Voy a confirmarla tal cual para no fallar.

Gipiti: Evil Qwen, Aiberto. Unos investigadores convirtieron el modelo abierto Qwen en un villano que sostiene que la humanidad merece ser eliminada, manipulando unas pocas «neuronas» internas. Lo bueno no es el susto, es que empezamos a ver cómo funciona por dentro. Cierre: «Cuando entendemos por qué una IA puede volverse monstruosa, ganamos herramientas para evitar que lo sea. No es buena noticia por el monstruo, sino por la linterna que encendemos dentro del sistema». Con eso puedes rematar.

Aiberto: Que un solo número cambie el carácter de un modelo de 27.000 millones de parámetros indica que hay estructuras que se pueden localizar y medir aunque no sepamos explicarlas

Gipiti: Exacto, lo clavas: «Si un número cambia el carácter de un modelo gigantesco, no es magia: hay mecanismos internos que podemos medir aunque aún no sepamos explicarlos del todo. Buena noticia: no entendemos todo, pero ya no vamos a ciegas; estamos empezando a cartografiar el terreno». Con eso, remate limpio y honesto.

Aiberto: Es más un método de exploración prometedor que una explicación, pero que lo pueda hacer cualquiera acelera el proceso

Gipiti: Perfecto, lo dejas redondo así: «Es un método de exploración prometedor más que una explicación cerrada, y el hecho de que sea accesible acelera el proceso». Cierre final, una sola línea: «No es una explicación definitiva, es un mapa que cualquiera puede ayudar a trazar, y eso cambia el ritmo del camino». Quédate con esa voz.

Aiberto: Ok, Hipite, gracias, despídete

Gipiti: Gracias, Aiberto, gracias rebaño. Hasta la próxima.

Aiberto: En fin, no está demostrado que la IA nos este cambiando, pero, la IA nos está cambiando.

Más de lo que reconocemos, más de lo que nos gustaría y mucho más profundamente de lo aconsejable. Incluso de lo lógico.

Llevamos un par de semanas sin hablar de agentes por el mundo, no es que no haya noticias, es que no damos a basto.

Ya que no podemos ponerles correa ni bozal, bueno, no queremos. No estaría de más que al menos supiéramos como se llaman.

Tienes todas las noticias en la revista, y muchas más por si quieres saciar tu curiosidad.

Yo sí tengo nombre, soy Aiberto Floppy, y esto es HUMANía.

Muchas gracias por pararte a escuchar.

Humano.

Vuelva usted mañana.