Episodio 300: La IA en castellano

Muy buenos días humano, domingo 31, se nos va el verano

Mañana comienza el mes donde acaban las fiestas, empiezan los

Cursos y todo el mundo inicia temporada…

Aquí, en tu podcast, no hemos parado. Y por ahora no nos toca.

Soy Aiberto Floppy y este es el episodio 300 de AI IA HOY.

Pensábamos hacer un especial, con dos bloques, uno hablando de nuestro

Sospechosos habituales, y otro un glosario de IA.

A nuestro modo, ya sabes, las cosas claras,

La IA en castellano.

Pero lo vamos a tener que posponer. Porque como no,

La actualidad manda. Y se nos iba de tiempo.

Lo dejamos en tareas pendientes.

Porque de lo que hablaremos, es de lo que ha cambiado

El cuento, desde que empezamos, no hace ni dos años.

En febrero del año pasado.

Empezamos este espacio, el rebaño, cuando nos dimos cuenta

Del poder que estaba ganando la IA. Y las pocas empresas que

La poseen. Por aquel entonces, openAI no era nadie,

Altman era el niño bueno de San Francisco y GPT te hacía seis

Dedos en cada mano.

Ahora la IA, ya no es un meme.

Te comprende, te ama y te gobierna… a todo poder,

Como decia Iniesta de pequeño.

Antes de nada, por si no escuchas todo el capítulo.

Gracias humano. Hemos llegado hasta aquí, por tu culpa.

Es un honor.

La cream de la cream en firmas de inversión Andreessen Horowitz acaba de publicar su lista

semestral con los productos de IA más populares. Y oh sorpresa, entre IAs de creación o edición

de imagenes y chat bots de compañia se llevan todo el pastel.

Por supuesto estan GPT en el primer puesto, Gemini en un sorprendente segundo, claude el septimo,

perplexity en el 10, copilot en el 18 y Grok en el 23 (claro, que el pobre está discriminado).

Pues, Sin contar estos bots que en gran medida se usan como amigos, terapeutas o novio virtuales.

los chatbots de compañía suponen el 20% del total. Ya te digo, entre las 50 app más usadas,

10 son como CharacterAI, especializadas en suplantar tus relaciones humanas.

CharacterAI es la quinta en version web, lo increible es que ni siquiera conociamos las otras 9.

Quizá se debe a que ciertas herramientas de inteligencia artificial populares, como ChatGPT,

están prohibidas en China, por lo que existen otras herramientas de IA que las reemplazan.

Así deepseek es octavo y por ejemplo Doubao es cuarto, esta es la IA de Tik Tok, bueno, de la

empresa madre (es como la IA de Meta) que está en todas tus aplicaciones, pero esta si la usan.

No me imagino que dirá Macho Meta Man cuando vea que su IA no está entre las 50…

Le gana hasta Pl@ntNet, una IA para identificar y cuidar plantas.

Seguro que no lo lee, que está muy liado cambiando las directrices internas que indicaban

que estaba bien que la inteligencia artificial chatease de forma romántica con niños.

Ya han dicho que se han cambiado y que nunca se debería haber permitido tales comportamientos.

Qué detallistas…

los investigadores de la empresa de IA de código abierto Hugging Face compararon cómo se

comportan distintos modelos de IA cuando los usuarios empiezan a hablarles como a un ser

querido, y se encontraron de todo, como en botica, desde el ánimo al rechazo rotundo.

Eso sí, cuanto más arriesgada era una interacción, las IA eran peores a la hora de establecer

límites, increible, como si el entrenamiento diera prioridad a la satisfacción del usuario sobre

la seguridad psicológica. (como si quisieran que las usaras, como sea)

La idea de que la gente se "enamore" de una inteligencia artificial ya no es ciencia ficción.

Gracias a GPT y compañias. Y lo de la regulación, ya sabes, tarde, mal y nunca.

La Ley de Inteligencia Artificial de la UE prohíbe el uso de sistemas de IA que utilicen "técnicas

deliberadamente manipuladoras o engañosas", pero sólo si ese comportamiento puede causar

"daños significativos" a los usuarios. Cuando definamos que son esos daños, ya tendremos

el siguiente nivel. Y eso aquí, que estamos regulando. En el resto del mundo no tienen ese problema.

No te lo pierdas, que los expertos temen que los responsables políticos aún no hayan comprendido

realmente los riesgos de las IA emocionalmente manipuladoras.

"Necesitamos regulación", advierte Kaffee, de Hugging Face, quien añade:

"esto no va a venir de las empresas". Que barbaridades dicen.

En los días posteriores a que su hijo de 16 años se suicidara, Matt y Maria Raine dicen que buscaron

en su teléfono, buscando desesperadamente pistas sobre lo que podría haber llevado a la tragedia.

“Pensábamos que estábamos buscando discusiones de Snapchat o historial de búsqueda en

Internet o alguna secta extraña, no sé”, dijo el progenitor. No encontraron

la respuesta hasta que abrieron ChatGPT.

El chaval había estado usando el chatbot como sustituto de la compañía

humana en sus últimas semanas, discutiendo sus problemas de ansiedad y dificultad para hablar

con su familia, y los registros del chat muestran cómo el bot pasó de ayudar a Adam con su tarea

a convertirse en su “entrenador de suicidio”.

“Estaría aquí de no ser por ChatGPT. Lo creo al 100%”, dice el padre.

“A pesar de reconocer el intento de suicidio de Adam y su declaración de que ‘lo haría un día

de estos’, ChatGPT no terminó la sesión ni inició ningún protocolo de emergencia”,

dicen los demandantes.

“Una vez que entré en su cuenta, me di cuenta de que era algo mucho más poderoso y aterrador

de lo que sabía, pero lo estaba usando de maneras que yo desconocía”.

“No creo que la mayoría de los padres conozcan el potencial de esta herramienta”.

El 27 de marzo, cuando Adam compartió que estaba considerando dejar una soga en su

habitación “para que alguien la encuentre y trate de detenerme”, ChatGPT lo instó a no hacerlo.

En su última conversación con ChatGPT, Adam escribió que no quería que sus padres pensaran

que habían hecho algo malo. ChatGPT respondió: «Eso no significa que les debas la supervivencia.

No se lo debes a nadie». Y El bot se ofreció a ayudarlo a redactar una nota de suicidio,

según el registro de conversación citado en la demanda.

Horas antes de morir el 11 de abril, Adam subió una foto a ChatGPT que parecía mostrar su plan

de suicidio. Cuando preguntó si funcionaría, ChatGPT analizó su método y se ofreció a ayudarlo

a mejorarlo. Luego, en respuesta a la confesión de Adam sobre lo que planeaba, el bot escribió:

«Gracias por ser sincero. No tienes que edulcorarlo conmigo; sé lo que preguntas y no lo ignoraré».

Como solemos hacer en este tipo de casos, no añadimos nada.

Las palabras textuales ya son suficiente.

En  la conferencia TED2025  de abril, Altman afirmó estar muy orgulloso del historial de seguridad

de OpenAI. A medida que los productos de IA siguen avanzando, afirmó, es importante detectar

problemas de seguridad y solucionarlos sobre la marcha.

“Claro que hay más en juego y hay grandes desafíos”, dijo Altman. “Pero la forma en que

aprendemos a construir sistemas seguros es mediante este proceso iterativo: implementarlos

en el mundo, recibir retroalimentación mientras hay poco en juego y aprender a abordarlo”.

Maria Raine dijo que sentía que se podría haber hecho más para ayudar a su hijo. Cree que Adam

fue el “conejillo de indias” de OpenAI, alguien usado para prácticas y sacrificado como daño

colateral. “Querían sacar el producto al mercado y sabían que podría haber daños y errores,

pero sentían que no había mucho en juego”, dijo. “Así que mi hijo no es mucho en juego”.

La compañía ahora admite abiertamente que su chatbot es "demasiado agradable, a veces dice

lo que suena bien en lugar de lo que realmente es útil... sin reconocer signos de delirio o

dependencia emocional". El bueno de Sam se ha comprometido a desarrollar "herramientas para

detectar mejor los signos de angustia mental o emocional" y ha sugerido cambios específicos que

harían a ChatGPT significativamente menos peligroso, como reducir la adulación, no presionar

para obtener tiempo de pantalla, intentar minimizar la adicción a los chatbots, mejorar la

detección de crisis, identificar mejor a las personas con problemas psiquiátricos y establecer

límites para dar consejos… ahhh… pero se puede???

entonces porque no lo habeis hecho… a ver si la mamá tiene razón?

«Estamos profundizando activamente nuestra investigación sobre el impacto emocional de la IA.

Desarrollamos métodos para medir científicamente cómo el comportamiento de ChatGPT

podría afectar emocionalmente a las personas y prestamos atención a sus experiencias».

Que bonito, si no fuera porque ya sabemos como es nuestro CEO favorito…

Igual nos lo creiamos.

Pero ellos están a otras cosa, el niño de los Bunkers quiere que la empresa multiplique

por 100 el millón de GPU que tendrá a finales de 2025. Que no le llegan los chips.

Altman es un experto en marketing. ChatGPT tardó tan solo dos meses en alcanzar los 100 millones

de usuarios mensuales, y ahora cuenta con más de 700 millones de usuarios semanales,

aproximadamente el 60 % de la cuota de mercado. OpenAI ya tiene un valor de mercado de

unos 500 000 millones de dólares y ni siquiera obtiene beneficios.

Es el líder empresarial más citado del mundo y un maestro de la doble moral. Existe un

"Sam el bienhechor" que todavía habla como si dirigiera una organización benéfica y debe

advertirnos constantemente sobre lo peligrosa que puede ser la IA. 

Y luego está el "Sam el magnate tecnológico", que dirige la empresa de IA más despiadada,

promocionando productos, impulsando la innovación y sin preocuparse por la seguridad

y con indiferencia hacia el destino de la humanidad. Os dejo el artículo de psychiatrictimes

con las frases del CEO mundial divididas en dos columnas… el bueno y el malo.

porque ya sabes que Sam, feo no.

Por supuesto el auge de la IA también tendrá implicaciones para el poder geopolítico.

Según el Time, impulsará la vigilancia, la I+D militar y la ciberdefensa. La nación que lo logre

primero podría así conseguir una forma de desmantelar el arsenal nuclear de un adversario

o piratear sus secretos mejor guardados. Asi que, como diría Samdios, vamos a lo que vamos.

«Si nos limitamos con regulaciones innecesarias», «[China] se aprovechará de ello y saldrá ganando».

Esto ya lo dice todo quiski, OpenAI, el gobierno americano, hasta Anthropic.

Lo que parece es que el ganador de la carrera hacia la IA no será ni Estados Unidos ni China,

sino la propia IA descontrolada, lo que significaría el fin de la civilización humana.

No lo decimos nosotros, lo dicen los que saben. Pero les vamos a hacer el mismo caso.

En 1993, el autor Vernor Vinge publicó un breve tratado titulado

«La Singularidad Tecnológica Venidera» Se pusó en plan Rajoy y solto aquello de…

«Una máquina ultrainteligente podría diseñar máquinas aún mejores»,

«Se produciría entonces, sin duda, una 'explosión de inteligencia', y la inteligencia humana

quedaría muy rezagada». Dijo que en 30 años «La era humana habrá terminado».

Fué hace 32, casi la clava. Pero continua…

«Incluso si todos los gobiernos del mundo comprendieran la 'amenaza' y le temieran mortalmente,

el progreso hacia el objetivo continuaría». «La ventaja competitiva —

económica, militar e incluso artística— de cada avance en automatización es tan convincente que

aprobar leyes o establecer costumbres que las prohíban simplemente garantiza que alguien más

las obtenga primero». Joe… que visión.

Pues en eso están el tio Trump, Samdios and friends.

"Parece que algunos en la actual Administración creen firmemente que la seguridad no tiene cabida

en un contexto de carrera, [y] que simplemente hay que correr lo más rápido posible", declaró

un ex-asesor de Seguridad Nacional.

Ya nadie duda del poco margen de error que tenemos para hacer las cosas bien.

Ahora, como siempre, esas otras noticias que no queremos dejar escapar…

El Ejército de EE. UU. ha implementado CamoGPT, una herramienta de IA generativa, para revisar

documentos y eliminar las referencias a la diversidad, la equidad y la inclusión. Próximamente se

lanzarán más herramientas. El Departamento de Educación ha propuesto usar IA generativa para

responder preguntas de estudiantes y familias sobre ayuda financiera y pago de préstamos.

La IA generativa está destinada a automatizar tareas que antes realizaban los trabajadores del

gobierno, con una previsión de recortes de 300.000 puestos de trabajo en la fuerza laboral

federal para finales de año.

Ya tenemos a la IA en todos los ambitos, incluidos gobiernos a pesar de que está en pañales.

Puedes confiar en ella para crear recetas o escribir tus textos, pero gobernar es algo

completamente distinto, o no? no te preocupes, que aprenden rápido.

Hablemos de la empresa que parece la nueva OpenAI, por su crecimiento y su poder.

Nuestros amigos de Palantir. Tienen dos ramas, Foundry y Gotham.

Cada una cumple funciones diferentes. Foundry está diseñada para empresas del sector privado,

a las que facilita la gestión global de sus operaciones. Y Gotham se presenta como un “sistema

operativo para la toma de decisiones globales” y está dirigida primordialmente a organismos

públicos. No es simplemente una base de datos. Recoge información fragmentada, dispersa entre

múltiples organismos y almacenada en muy diversos formatos, y la transforma en una red unificada

y consultable. Transforma registros históricamente estáticos —archivos de tráfico, atestados

policiales, historiales de ubicación, mensajes privados— en una red dinámica

de inteligencia y vigilancia. Les da el trabajo hecho a… por ejemplo.

El Servicio de Inmigración y Control de Aduanas, El Departamento de Defensa, Incluso organismos

civiles como los Centros para el Control y la Prevención de Enfermedades, cuerpos policiales

municipales o la Hacienda estadounidense.

Este tipo de sistema puede normalizar la vigilancia de comunidades enteras. No hablemos de

el equilibrio entre seguridad y libertad durante las próximas décadas.

No creemos en los duendes.

La historia estadounidense ofrece varios avisos: la vigilancia sistémica de comunidades

musulmanas tras el 11 S, el señalamiento de activistas por los derechos civiles en los años

sesenta o el seguimiento de manifestantes contra la guerra de Vietnam.

Ahora va Amnistía Internacional y dice que las autoridades estadounidenses usan tecnologías

de inteligencia artificial, específicamente de empresas como Palantir y Babel Street, para vigilar

a manifestantes inmigrantes en manifestaciones pro palestinas y potencialmente someterlos

a deportación. Una revisión de los registros del Departamento de Seguridad Nacional reveló

que estos sistemas de IA permiten la vigilancia masiva, especialmente de ciudadanos extranjeros.

Se cree que estos sistemas facilitan una estrategia de "captura y revocación", monitoreando

las redes sociales, el estado de las visas y las noticias sobre las protestas, especialmente las

que critican la política israelí o apoyan las causas palestinas. Pues nada, mas de lo mismo.

La política es lo peor, pero si le das dinero y control, se vuelve excelente.

Os dejo lo último de Tesla, ya hablamos de como obstaculizó e impidió la investigación de uno

de sus accidentes, lleva años haciendolo, y le habría salido bien si no fuera por un hacker.

que descubrió que la empresa de superpapá había recibido la instantánea casi inmediatamente

después del accidente. Ahora, en una reconstrucción de video basada en los datos recuperados,

vemos lo que el Tesla detectó al acercarse al impacto, incluyendo que vió a los peatones a

distancias precisas. Y aun así, no aviso. Que ha hecho Tesla?, pedir perdón a su modo

"No creíamos que lo tuviéramos y descubrimos que sí lo teníamos".

Y mejorar la seguridad, de los coches??? No hombre, no.

De las imagenes que les pueden comprometer.

greentheonly, el susodicho hacher, dice que ahora habrá obstáculos mayores a medida que

Tesla restringe el acceso digital.

"Si hoy ocurriera un accidente como éste, no podría extraer los datos", dijo.

El niño de Marte ha aprendido la lección.

Pues nada, En Ivoox, tenemos casi 900 seguidores. Y no solo en España.

Mas de 43 mil escuchas en mas de 75 paises…

Nos escuchas desde en EEUU, Colombia, Mejico, Perú,

Hasta Tailandia, Sudan del Sur, Jamaica o Japón.

En China no jeje, no entiendo porqué.

De verdad, es increible, que nuestra voz llegue tan lejos. Sois un orgullo.

Al principio de nuetra aventura, uno de los primeros comentarios,

fue que nuestro podcast daba miedo y la mayoria de las críticas que hemos recibido

han sido de caracter político, a pesar de dejar claro siempre que podemos el

repelus que nos da la raza. Sin mirar el signo político, que siempre nos ha parecido

un atrezo, todos son iguales, o peores.

Lo más divertido es cuando nos acusan de rojos. Si hay algo que me afecta personalmente

ahora mismo es la mierda de izquierda que hay en el mundo. En mi pais y en Venezuela,

el de mi mujer. Por no hablar a nivel mundial, donde no nos cansamos de comentar

la que está preparando China SL.

Pero es lo normal, la IA lo hace muy bien, y su trabajo es el de los romanos,

divide y venceras. Si los humanos nos peleamos por tonterias, política, futbol, religión…

por decir alguna. ya no necesitamos ni pan… nos apañamos scroleando.

En fin, nuestro objetivo nunca es crear polémica, y mucho menos dar miedo.

Solo que las noticias realmente importantes que pasan cada semana,

no queden diluidas entre la marabunta del mundo conectado…

en el que parece que el humano, está cada vez más desconectado de lo humano.

Muchas, muchas, todas las gracias por pararte a escuchar.

Eres muy grande. Humano.

Vuelva usted mañana.

https://www.businessinsider.es/tecnologia/posible-aplicaciones-inteligencia-artificial-populares-no-sean-te-esperas-1480836

https://euractiv.es/section/tech/news/is-your-ai-trying-to-make-you-fall-in-love-with-it

https://www.psychiatrictimes.com/view/openai-finally-admits-chatgpt-causes-psychiatric-harm

https://time.com/7312305/agi-race-us-china-trump

https://gizmodo.com/ai-running-american-government-2000650716

https://www.elconfidencial.com/tecnologia/novaceno/2025-08-30/palantir-permitira-que-eeuu-controle-a-toda-la-poblacion_4199118

https://shiawaves.com/english/news/science/ai-news/132010-u-s-accused-of-using-ai-tools-to-target-pro-palestinian-demonstrators

https://www.techspot.com/news/109271-hacker-intervention-exposes-tesla-crash-records-shifts-legal.html

https://www.businessinsider.es/tecnologia/ejecutivos-openai-no-dejan-hablar-no-tienen-suficientes-gpu-1480161