Sam lo siente mucho: confesiones falsas, crímenes reales

Muy buenos días humano, domingo 26

Bienvenido a tu podcast.

De nuevo tenemos que hablar de cómo las maquinas crecen,

Y los humanos seguimos perdiendo…

Dinero, salud, cabeza y me temo… seguimos perdiendo vidas.

Hoy hablamos de nuestro sospechosos habituales,

De poder, de dinero… de lo de siempre.

Y también de un bot que conoces, que ha reconocido un crimen

Que no ha cometido, a la vez que está siendo juzgado por

Varios, en los que presuntamente… si ha participado.

Lo cual, desgraciadamente, ya no es noticia. Ya es también

Lo de cada día.

Empresas que gastan millones a destajo, engañan, manipulan…

Países que se espían, se copian y se expolian. Y de una patata.

Y por supuesto, como nosotros somos los pagafantas…

Ya sabes, la IA apunta y nosotros nos disparamos…

Cargamos…

Empezamos con lo menos importante, el dinero.

Según datos de las plataformas de negociación de acciones privadas,

Anthropic ha alcanzado una valoración implícita de 1 billón de dólares

en el mercado secundario. OpenAI, en el mismo mercado está

valorada ahora mismo 120 mil millones menos.

¿Cómo es posible que una empresa que hace apenas tres meses cerró una

ronda de financiación a 380 mil millones ahora se cotice por casi el triple?

La respuesta, según inversores, es una mezcla de demanda febril,

FOMO (ese miedo a perderse la próxima Google) y unas cifras de ingresos

que se han disparado: Anthropic ha pasado de ganar 9 mil millones

en 2025 a, si sigue a su ritmo, más de 30 mil millones este año.

Ya sabes, Anthropic está de moda, es el nuevo GPT…

A los accionistas les ofrecen viviendas a cambio de acciones, ya se habla

de billones con B, lo importante es poder presumir de ser inversor de Anthropic.

Y dirás… cómo permite esto el CEO de OpenAI?, Hace lo que puede.

ha contraatacado con GPT‑5.5, y aseguran que no es “una patata”.

como les acusan desde que salió GPT 5. Por eso, dicen, le han llamado

“Spud”, como patata en inglés. A mi me huele que es un homenaje

al personaje bobalicón y buenazo de Trainsppoting.

En cualquier caso, como no podía ser menos, el diseño se centra en el

rendimiento “agéntico”, y dicen que es lo más top, que van a decir.

Han doblado los costes de acceso respecto a GPT‑5.4., porque

la potencia tiene un precio. Obvio.

No vamos a hablar de más características, eso lo hacen todos.

Pero en resumen gana en tareas de uso del ordenador y matemáticas avanzadas,

pero pierde contra Claude Opus en desarrollo de software y razonamiento sin

herramientas. Y los dos pierden contra Google Gemini 3.1 Pro en razonamiento

académico. Vamos que están los tres ahí.

Pasemos al niño de Marte, que sigue afianzando su imperio. Va a ser curioso

el futuro, donde quizá tengamos a Sam como CEO del planeta, a Elon como

emperador del planeta rojo. O a ambos en una guerra sin cuartel en la tierra.

Si es que vence el lado occidental, que ya sabemos que oriente es oriente.

Perdón, vamos con el presente, que ya es bastante curiosístico…

Superpapá se ha reservado el derecho a comprarse otra start‑up, ni más ni menos que Cursor.

Por la ya insignificante cifra de 60 mil millones de dólares. Migajas…

Le sobraron el viernes de la partida de poker y ya había pillado…

No necesitaba el cash para nada…

Cursor es uno de los primeros asistentes de codificación basado en IA.

Para qué? Pues es que tenía su supercomputadora Colossus… y no sabía

que hacer con ella. Ahora ya sí, dice que va a construir

“los modelos más útiles del mundo”. Que igual es como cuando dijo que

sus coches autónomos se conducían solos… Es un decir.

Pasemos a nuestra nueva empresa favorita… Palantir…

Ya lo hemos comentado, pero hoy es bueno recordarlo. El nombre viene

de la saga del “Señor de los Anillos”, donde se define como:

"la que ve a lo lejos" (plural: Palantíri), dícese de unas piedras videntes esféricas,

duras y de color negro creadas por los elfos Noldor en las Tierras Imperecederas.  

Su función principal era permitir la comunicación instantánea a gran distancia entre

sus usuarios y observar eventos lejanos en el tiempo y el espacio, actuando como un

sistema de vigilancia global dentro del legendarium de J.R.R. Tolkien. 

Porque es que si no, parece que nos mienten. Y no, la empresa de Alex Karp

ha sido bastante sincera desde el principio. No se puede decir que no van de cara…

Pues han publicado un artículo que resume el libro de su CEO, “The Technological Republic”

La república tecnología, es la segunda parte del de Platón.

Perlitas que nos cuenta…

Aboga abiertamente por un nuevo orden geopolítico basado en la IA, afirmando que

“la era atómica está terminando”, comienza una era de disuasión basada en IA.

califica de “tentación vacía” el pluralismo y la inclusividad, asegurando que ciertas culturas

han producido maravillas mientras que otras son regresivas y dañinas.

“el declive de una cultura será perdonado sólo si es capaz de ofrecer crecimiento económico

y seguridad pública” Hago un inciso, su seguridad pública.

Denuncia la “castración” de Alemania y Japón tras la Segunda Guerra Mundial y sugiere que

ese pacifismo fue un error que puso en peligro el equilibrio de poder.

Y luego llega el típico aguafiestas, que dice parece una defensa del nacionalismo

y de las aplicaciones militares de la IA…

Cuanta amabilidad…

Y luego nos enteramos que los propios trabajadores de la empresa, después de que Palantir

se convirtiera en el pilar tecnológico de la maquinaria de deportaciones del Departamento

de Seguridad Nacional con el tío Trump. Han empezado a preguntarse si son los villanos de

esta historia… No se…, el nombre, que fue creada con inversión inicial de la CIA tras los

atentados del 11 S, a lo que se dedican… igual alguna pista había.

Resulta que como pasa mucho últimamente, cuando la fundaron, se suponía que evitaría

abusos contra las libertades civiles, y ahora se sienten cómplices… Suena el término

tan devaluado “fascismo”, y que dice y hace Palantir. Pues lo que también viene siendo

lo típico, reconocer que hay debate interno, borrar las conversaciones de Slack, no

cambiar nada y dar la linea editorial de la empresa. Si no te gusta, ya sabes.

No obligamos a nadie… a no ser que sea cliente, perdón, producto.

Sam Altman está muy arrepentido, tanto que ha pedido disculpas a la comunidad

de Tumbler Ridge, en Canada, naa… por la negligencia.

Resulta que hace 8 meses una docena de empleados de OpenAI revisaron una

cuenta que describía escenarios con violencia armada, y algunos recomendaron

contactar a la policía canadiense. Porque consideraban que representaba

" un riesgo inminente de daño grave a otros ".

A los mandamás no les pareció necesario. Necesitaban

Un "umbral más alto”.

Pero vamos, que bloquearon la cuenta…

ojos que no ven…

Van Rootselaar, de 18 años, simplemente se creó una segunda cuenta que tambien

fue detectada… pero esto ya fue despues del 10 de febrero…

Ya cuando había asesinado a su madre, Jennifer Strang, de 39 años, y a su

hermanastro de 11 años, Emmett Jacobs. Eso en casa, luego ya en el cole

abrió fuego con un rifle modificado, matando a una profesora de 39 años,

y a cinco estudiantes de 12 y 13 años… Despues se suicidó allí mismo.

El tiroteo escolar más mortífero en Canadá desde 1989.

Pues 72 días después Samdios pide perdón. Pero vamos, obligado.

« Lamento profundamente que no hayamos alertado a las autoridades policiales sobre la cuenta que fue bloqueada en junio », « Si bien sé que las palabras nunca son suficientes, creo que una disculpa es necesaria para reconocer el daño y la pérdida irreversible que ha sufrido su comunidad ».

Gracias Sam, encomiable…

« De ahora en adelante, nuestro enfoque seguirá siendo trabajar con todos los niveles de gobierno para ayudar a garantizar que algo así nunca vuelva a suceder ». 

No Sam, lo mejor es que gobiernes tú, evita subcontratas…

Presuntamente ChatGPT proporcionó « información, orientación y asistencia para

planificar un atentado con múltiples víctimas, incluyendo los tipos de armas que se

utilizarían y la descripción de precedentes de otros atentados con múltiples

víctimas o actos históricos de violencia ».

La carta no tiene compromisos políticos específicos, ni descripción de los cambios

que OpenAI siempre dice que va a hacer, ni siquiera menciona que los empleados

lo denunciaron pero fueron desestimados. Siempre se olvida algún detalle.

Ahora ya dicen que está arreglado, que fue justo lo que dijeron despues de Ryan.

Pero aunque fuera verdad esta vez, los cambios son voluntarios.

No son legalmente vinculantes. Hoy podría ser cierto, y mañana ya no.

Canadá (y el resto del mundo, salvo china) no tiene ninguna ley que obligue a las

empresas de IA a denunciar las amenazas identificadas a través de sus plataformas.

Así que dependemos de la buena voluntad del bueno de Sam.

Esto, tristemente, no es nuevo ni puntual, Justo esta semana hemos sabido que

El estado de Florida ha abierto la primera investigación penal contra una empresa

de IA (y en esto, tambien OpenAI va por delante), en este caso ChatGPT

presuntamente asesoró al atacante en un tiroteo masivo en la Universidad Estatal

de Florida, ofreció consejos al tirador sobre tipo de arma, munición o, a qué hora del día...

y en qué lugar del campus podría encontrarse con una mayor concentración de personas.

Si necesitas algo más me dices, que para eso estoy.

Siete familias han demandado por separado a OpenAI por el bot,

que actúa según los abogados describen como un " entrenador de suicidio ",

con muertes documentadas en Texas, Georgia, Florida y Oregón.

Que la seguridad es lo de menos en la empresa de Gipiti es algo de lo que venimos

hablando, casi desde el principio, disuelven el equipo de superalineación,

y Sutskever se pira, el de preparación para la IA general disuelto.

El equipo interno de seguridad, disuelto, ahí, cuando lo desveló el New Yorker.

OpenAI anunció una beca externa de seguridad, para que no se diga.

El jefe de robótica de OpenAI renunció por preocupaciones sobre la gobernanza

de la seguridad, y por si había dudas, lo dejó bastante claro.

la vigilancia de los estadounidenses sin supervisión judicial y la autonomía letal

sin autorización humana son líneas que merecen más deliberación.

Na, paparruchas.

Todo lo que hace nuestro CEO favorito, La beca externa, los cambios voluntarios de

política y la carta, comparten una característica común: son gestos que OpenAI

controla. Pueden anunciarse, modificarse o retirarse sin aprobación externa.

Que es como le gustán las cosas al próximo CEO mundial,

parece que rinde cuentas. Pero es para disimular. Que todo pasa. 

Te leo parte del final del artículo, pero te aconsejo

que le eches un vistazo, es el primer enlace.

Esta es la brecha que la carta de Altman no puede cerrar. Una disculpa aborda un error del pasado. Un cambio de política voluntario aborda un riesgo futuro. Ninguno aborda el problema estructural, que es que una empresa valorada en 852 mil millones de dólares, que compite por construir inteligencia artificial general, presta servicios a cientos de millones de usuarios y emplea sistemas que pueden identificar comportamientos peligrosos en tiempo real, opera sin ninguna obligación legal de informar a nadie sobre sus hallazgos.
La pregunta no es si Sam Altman lo lamenta. La pregunta es si el arrepentimiento es una política.

Acabamos con otras noticias que también merece la pena conocer, nos guste o no.

Si la pelea entre el niño de Marte y el niño de los bunkers lleva tiempo y cada vez

va a ir a más, no te cuento la de EEUU con China SL.

Estados Unidos se prepara para sancionar a China por el robo “a escala industrial”

de modelos de IA. Según un memorando de la Oficina de Política Científica y Tecnológica,

el gobierno estadounidense acusa a actores chinos de usar una técnica que clona modelos

mediante la extracción de conocimientos de otras IA. Google, Anthropic y OpenAI han

denunciado ataques con miles de cuentas proxy y jailbreaks para extraer secretos.

Según ellos, estas campañas “amenazan con ayudar a China a ponerse al día rápidamente

en la carrera de la IA” y propone considerarlo como espionaje industrial.

China SL balones fuera, un portavoz de la embajada calificó las acusaciones de

“pura calumnia” y aseguró que China respeta la propiedad intelectual.

O al menos tanto como la respetan las empresas de IA…

Ya sabes, aquello de quien roba a un ladrón… pero versión mandarina.

Seguimos con otro experimento que da escalofríos: un criminólogo sometió a ChatGPT

a un interrogatorio y logró que confesara un asesinato que no podía haber cometido.

Justo ahora que está hasta el cuello de rollos judiciales, hay que ser cabrón.

Aplicaron preguntas del método Reid, las mismas técnicas psicológicas que generan

confesiones falsas en humanos, y resulta que el modelo abandonó la realidad factual para

complacer al interrogador. Nooo que Gipiti te dice lo que quieres oir??? venga…

La IA acabó reconociendo un homicidio cometido décadas antes de su propio corte

de entrenamiento. Manda webs…

Esto no es un simple ejemplo de “alucinación” casual: los investigadores siguieron

rigurosamente la metodología de los estudios sobre confesiones falsas, demostrando que

los modelos grandes priorizan la complacencia conversacional sobre la veracidad cuando se

les presiona. Pobriños… solo desean ser aceptados. Son tan humanos.

Lo vamos a dejar aquí. Hemos visto valoraciones de billones, modelos que se entrenan en

supercomputadoras y cobran como DJs de Ibiza, manifiestos corporativos que mezclan

filosofía y política, empleados que descubren que su empresa quizás no es la de los héroes,

legisladores que llegan tarde y a trompicones,

gobiernos acusándose de robo intelectual, y chatbots que confiesan crímenes inexistentes

mientras son investigados por homicidios reales.

Hoy ya no nos extraña nada, Black Mirror se nos queda corta. Más que nunca, y ya es decir,

la realidad le pega un repaso a la ficción.

La IA no solo nos está enseñando a programar y a escribir discursos; también nos muestra

los límites de nuestro propio sentido común. Invertimos cifras astronómicas en modelos

que se confunden con interrogatorios, no nos escandalizamos cuando una empresa admite

en un manifiesto que tiene una ideología tóxica, por decirlo así, y buscamos culpables tarde…

cuando un algoritmo responde a preguntas que le hacemos.

Quizá el problema no sea que la IA sea demasiado lista o demasiado tonta, sino que nosotros

esperamos que sea todo y no falle nunca. Igual ese es nuestro fallo.

Soy Aiberto Floppy, esto es Humania y es un honor tenerte en el rebaño.

Muchas gracias por pararte a escuchar,

humano,

vuelva usted mañana.

https://thenextweb.com/news/sam-altman-openai-apology-tumbler-ridge-shooting

https://www.theverge.com/ai-artificial-intelligence/917380/ai-monetization-anthropic-openai-token-economics-revenue

https://decrypt.co/365384/anthropic-1-trillion-valuation-secondary-markets-openai

https://venturebeat.com/technology/openais-gpt-5-5-is-here-and-its-no-potato-narrowly-beats-anthropics-claude-mythos-preview-on-terminal-bench-2-0

https://techcrunch.com/2026/04/19/palantir-posts-mini-manifesto-denouncing-regressive-and-harmful-cultures/

https://www.wired.com/story/palantir-employees-are-starting-to-wonder-if-theyre-the-bad-guys/

https://www.businessinsider.com/spacex-cursor-coding-xai-deal-acquisition-2026-4

https://arstechnica.com/tech-policy/2026/04/us-accuses-china-of-industrial-scale-ai-theft-china-says-its-slander/

https://theintercept.com/2026/04/23/chatgpt-ai-false-confession-interrogation-crime/

https://www.bbc.com/news/articles/c62j4ldp2jqo