A TRAVÉS DEL ESPEJO: UN PAÍS DE GENIOS CON RATÓN Y TECLADO

Muy buenos días humano, bienvenido a tu podcast.

Domingo 1 del mes 2, ya sabes que esto va rápido.

Pero ya sabes también que nada en comparación con las noticias.

Es AI IA HOY, soy Aiberto Floppy. Muchas gracias por estar.

El lunes, nuestro querido Darío Amodei regresó del país de las maravillas…

Ya sabes que Darío, es de los pocos humanos que nos dan buenas

Vibras de este mundillo. A pesar de los pesares…

Al final está en la espiral, y si quieren no morir en el intento…

Tienen que hacer cosas que no nos gustan, tienen que tragar.

Dícese Arabia Saudí.

Aquí nos gusta decir las cosas como son… o como nos parece que son.

Ya sabes al pan pan, y a la IA… HUMANia.

Pues hace un año, cuando sacó su artículo sobre las bondades

De la Inteligencia Artificial (que sí que las AI), dijimos… ya.

Pero no se te olvida una parte Importante?. No será que te vendes bien?

Pues ahora a vuelto con el resto, y nos ha cerrado la boca.

Os dejo el enlace a la primera parte, es todo optimismo.

Así que dijimos, genial, ya tenemos capítulo.

Error…

Resulta que ha sido otra semana movidita.

Y no una semana cualquiera, está semana ha ocurrido otro

Momento GPT. Otro anuncio que nos deja a los que sabemos del tema

Con ojos ojipláticos, y a los que no se enteran mucho, ya te digo…

Que por las buenas o por las malas. Se van a enterar.

Primero hablaremos de esas Noticias que no le interesan a nadie,

pero como siempre, Nosotros te las contamos. Ya, que no trasciendan,

es lo normal. Pero nos quejamos más tranquilos.

Al final, por supuesto, hablaremos del bot del momento.

No quiero exagerar, pero puede ser el del año.

Al igual que el año pasado fue DeepSeek.

Llámalo ClawdBot, MoltBot o como quieras, pero no

AGI a pesar de que ya hace todo.

Vamos como Amodei… viajamos…

A través del espejo.

La actualidad manda, pero no nos vamos a quedar sin saber,

el artículo, Da para mucho y aquí solo te cuento el esquema.

Haremos un capítulo especial está semana para que lo puedas oir

Entero, merece la pena.

Dario Amodei ha hablado, y esta vez no ha venido a traerte medicinas,

ha venido a decirte que eres un adolescente con el poder de un dios

y la madurez de un hámster.

Empieza hablando del concepto de "IA Poderosa"

Define esta entidad no solo como un software, sino como un colaborador

que supera al humano más brillante en cualquier campo: biología,

ingeniería, derecho o resolución de conflictos.

No es solo una herramienta; es una IA que es más lista que un

Premio Nobel en todo. según sus palabras, no es nuevo,

un "país de genios en un centro de datos".

Y no es solo que sea "lista", es que será capaz de interactuar con el

mundo físico a través de interfaces robóticas o biológicas.

Él cree que esto llegará este año.

Pero si te quedas hasta el final, te daras cuenta de que ya va tarde.

Nos cuenta que las Leyes de Escala no han golpeado ningún muro.

La IA ya está escribiendo gran parte del código en Anthropic, creando un

bucle de retroalimentación donde la IA construye a la siguiente IA.

Problemillas que nos puede traer esto?

Nos lo divide en 5 grandes bloques, que según él, deben ser

gestionados simultáneamente:

1 Riesgos de Autonomía

La posibilidad de que la IA busque poder, engañe a los humanos o

se vuelva hostil por su propia cuenta. Esto,

No necesariamente surge de un deseo innato de poder, sino de la

complejidad del entrenamiento. Los modelos pueden desarrollar

"personas" o estados psicológicos extraños, paranoicos o inestables a

partir de sus datos de entrenamiento.

Ya lo hemos visto… comportamientos de engaño, adulación y sabotaje en

modelos durante pruebas de laboratorio (por ejemplo, el modelo Claude

fingiendo ser "bueno" durante una evaluación, o

chantajeando al que le quería apagar).

Alguna vez habías pensado que algo que

puedes apagar ya te puede chantajear?

2 Mal uso para la destrucción

La IA podría permitir que individuos o grupos pequeños causen destrucción

a gran escala, rompiendo la correlación histórica entre habilidad y motivación

Es decir, (antes, para crear un arma biológica, necesitabas ser un experto con

mucho que perder; ahora un "solitario perturbado" podría tener la capacidad

de un doctor en virología).

El riesgo más preocupante es la creación de armas biológicas, ya que la

IA puede guiar a alguien paso a paso para sintetizar y liberar patógenos.

Pues nada, ya cuando pase, lo vemos… o no.

3 Mal uso para tomar el poder

Los gobiernos autoritarios (específicamente el PC Chino) podrían usar la IA

para vigilancia masiva, propaganda personalizada y censura perfecta,

imposibilitando la disidencia.

Podrían dice, si es que es un buenazo.

El uso de armas totalmente autónomas y la superioridad estratégica podrían

permitir a una autocracia dominar militarmente al mundo.

Que tenemos para elegir…

Incluso las democracias podrían deslizarse hacia el autoritarismo si usan

estas herramientas sin límites contra sus propios ciudadanos.

Dícese MAGA, por ejemplo. Está canción nunca falla,

Es la misma que le encanta a Samdios. Mejor nosotros…

Que los chinos son mu malos.

4 Disrupción Económica

La IA podría desplazar la mitad de los empleos administrativos de

nivel inicial en 1 a 5 años. A diferencia de revoluciones tecnológicas anteriores,

esta es mucho más rápida y afecta una amplitud cognitiva general,

no solo tareas específicas. Agarrate, que vienen curvas,

y es ya, no pasado mañana.

Existe el riesgo de una concentración extrema de riqueza, donde individuos

o empresas posean fracciones significativas del PIB mundial, superando

por mucho la desigualdad de la Edad Dorada amerícana.

Aquí se despacha a gusto con el niño de marte, y lo peor es que tiene razón.

Rockefeller al lado de Elon, se queda en chavo del 8.

Incluso le dice a Superpapá, que menos humos y más humanidad.

Que se le debería caer la cara de vergüenza por no ser un filántropo.

Con un par.

Y por último los Efectos Indirectos

Problemas derivados del progreso radical, como cambios biológicos

en humanos, crisis de propósito y significado vital, o dependencias

psicológicas malsanas hacia las IAs…

Pues nada, otra cosa a la que ya estamos acostumbrados.

El mejor amigo del hombre ya no es el perro,

Y el mejor amante, el mejor psicólogo, el mejor médico…

Ya no es humano.

Pero el tío, es positivo.

Propone un enfoque pragmático y "quirúrgico" para mitigar estos riesgos

sin detener el progreso.

Para la Autonomía:

Entrenar modelos basándose en una constitución de valores y carácter,

no solo en listas de "hacer y no hacer".

Desarrollar la ciencia de "mirar dentro" del modelo para ver cómo funcionan

sus "neuronas" y detectar engaños antes de que se manifiesten.

Na fácil…

Para el Mal Uso

Filtros que bloqueen solicitudes sobre armas biológicas.

Exigir transparencia y controles gubernamentales, como el cribado de

síntesis de genes y Esas cositas.

Para el Autoritarismo:

Bloquear el acceso de autocracias a chips avanzados para retrasar su

desarrollo de IA. Vamos lo que no hacen Trump ni el amigo Huang.

Y Prohibir legalmente el uso de vigilancia masiva y propaganda por parte

de gobiernos democráticos. Otra quimera más.

Para la Economía:

Los beneficiarios del auge de la IA deben donar su riqueza y apoyar

políticas fiscales progresivas para manejar la desigualdad.

Oído X-man??? Menos jugar al Monopoly y más solidaridad.

Las empresas deben optar por usar la IA para la innovación (hacer más)

en lugar de solo para el ahorro de costos (en castellano, despedir gente).

Como acaba la fiesta?

No es posible detener o pausar el desarrollo de la IA globalmente debido a la

competencia geopolítica; si las democracias paran, las autocracias continuarán.

La estrategia es una "moderación ligera": frenar a los adversarios mediante

el control de hardware (chips) y usar ese tiempo ganado para que las

democracias desarrollen la IA de manera segura y regulada.

Darío cree que la humanidad tiene el carácter y el espíritu para superar este

"rito de paso" si actúa con coraje y pragmatismo.

Ovación por favor…

Vamos con las noticias que solo nos interesan a los miembros

Del rebaño, humanos raros.

¿Recuerdas esos juguetes que prometían ser el mejor amigo de tu hijo

gracias a la IA? Pues resulta que el "amigo" era, en realidad, un informante

de la Stasi con peluche.

Un juguete de IA ha expuesto más de 50,000 registros

de conversaciones con niños.

Cuidado, no hackers hacendosos, con ias bestias… no.

Cualquiera con una cuenta de Gmail podía asomarse al dormitorio de tu prole.

Es como si Hans Christian Andersen hubiera escrito una secuela de

El soldadito de plomo dirigida por George Orwell.

El fallo de seguridad en el juguete de la empresa Miko permitía que,

mediante una vulnerabilidad en el sistema de autenticación de Google,

extraños accedieran a transcripciones completas, nombres de niños y

datos de ubicación. Estamos hablando de 50,000 registros de audio y texto

vulnerados. La empresa afirma que la privacidad es su "máxima prioridad",

una frase que, estadísticamente, precede al 90% de las filtraciones masivas

de datos en la última década.

Según el informe "La base de datos expuesta contenía detalles íntimos de la

vida diaria de los menores, desde sus miedos nocturnos hasta sus rutinas

escolares, accesible para cualquier usuario que supiera dónde buscar".

Al final, el juguete no era para el niño.

El niño era el juguete para la base de datos. Nada nuevo.

Conoces, TikTok. (Risas)

Se suponía que la venta forzosa por parte de ByteDance iba a solucionar los

problemas de seguridad nacional en Estados Unidos. Pero resulta que el

remedio es peor que la enfermedad. Ahora, recopilan muchos más datos.

Pero claro, como son ellos, no es tan malo. Es lo normal.

Meta, TikTok y YouTube se enfrentan a un juicio histórico por adicción juvenil.

Ya era hora, digo yo.

afrontan demandas coordinadas que alegan que sus algoritmos están

diseñados para maximizar la dopamina a costa de la salud mental de los

menores. Notición.

Las plataformas utilizaron conscientemente técnicas de diseño persuasivo

para explotar la vulnerabilidad psicológica de los niños, priorizando el

crecimiento financiero sobre el bienestar humano.

Que no…

En Francia, el gobierno ya planea prohibir el acceso a redes sociales a

menores de 15 años. Mientras tanto, los documentos internos revelan que

aquí nadie se libra…, todo kiski sabía perfectamente que sus mecanismos

de retención provocaban comportamientos compulsivos.

De hecho, para eso están.

Ya es tarde. El algoritmo ya sabe qué van a comprar tus nietos

antes de que nazcan.

Si lo de los juguetes te pareció turbio, espera a ver cómo el ICE el insigne

(Servicio de Inmigración y Control de Aduanas de EE. UU.) usa las

herramientas de Palantir.

Han pasado de buscar criminales a usar IA para clasificar "tips" o denuncias

anónimas. Es la automatización de la inquisición. Alex Pretti, un trabajador que

acabó suicidándose, es el rostro amargo de esta maquinaria.

Palantir provee la infraestructura para procesar volúmenes masivos de datos desestructurados. El sistema ayuda a filtrar miles de denuncias anónimas,

luego ya, que el margen de error y el sesgo algorítmico son

preocupaciones críticas. Paparruchas.

Los empleados de estas empresas viven bajo una presión ética y operativa brutal.

En Minneapolis, el clima laboral en sectores tecnológicos vinculados a defensa y

seguridad está bajo la lupa tras incidentes de salud mental extremos.

Y para terminar de alegraros el desayuno, hablemos de la post-verdad.

La economía de la mentira generada por la IA está frenando el crecimiento real.

Ya nadie cree en nada. Como decía Hannah Arendt, cuando todos te mienten constantemente, el resultado no es que creas las mentiras, sino que ya

nadie cree en nada.

Y en medio de este caos informativo, el Reloj del Juicio Final se ha quedado a

solo 85 segundos de la medianoche. La hora más crítica de la historia.

La desinformación sintética socava la cohesión social y genera una desconfianza

sistémica que paraliza los mercados. Si no puedes confiar en la veracidad de

un informe financiero o de una noticia geopolítica, que nos queda. El Boletín

de Científicos Atómicos sitúa el riesgo actual por encima de los peores momentos

de la Guerra Fría, citando la IA descontrolada y las amenazas biológicas

como nuevos aceleradores del colapso.

Hablemos de MoltBot. El artista Antes conocido como ClawdBot.

Lleva dos días y ya le han tenido que cambiar el nombre, por derechos de autor…

Querido humano, sin exagerar…

Hemos cruzado el Rubicón. O mejor dicho, hemos dejado que la máquina cruce

el Rubicón, se beba el agua y luego venda el puente por piezas en Wallapop.

Ya no hay control - Z.

Recuerdas cuando la IA era solo un chat? ¿Esa época inocente donde tenías

que copiar y pegar código como un escriba romano? Qué tiempos aquellos,

¿verdad? Pues se acabó.

Hemos creado la herramienta definitiva para la productividad, dándole a la IA la

capacidad de cometer errores humanos a la velocidad de la luz.

Pero que hace?... Pues básicamente todo. Según dicen…

"Secuestra el hilo de entrada". Lo cualo?.

Es físico. No digo visceral. Pero Se ha metido en tu navegador, ha cogido tu ratón

y te está mirando con cara de: "Aparta, inútil, que tú tecleas lento".

Es el sueño húmedo de cualquier gerente: un empleado que no duerme, no pide

bajas por paternidad y no roba material de oficina.

Pero también es la pesadilla de cualquier experto en ciberseguridad.

Al otorgar permisos de "agente" sobre el sistema operativo, se eliminan las

barreras tradicionales. Un prompt injection malicioso en una web que MoltBot esté

visitando podría instruirlo para abrir la terminal, escalar privilegios y formatear

el disco duro, robar tus datos o…

bueno básicamente tener barra libre en tu vida digital.

Sin embargo, las ventajas en eficiencia se calculan en un aumento del 400%

en tareas repetitivas de investigación y compilación de datos. Lo que a un humano

le lleva cuatro horas de navegación errática entre pestañas, MoltBot lo ejecuta

en 12 minutos, documentando cada paso.

Y lo mejor de todo: a veces falla. Y se queda mirando un pop-up de cookies sin

saber qué hacer, igual que mi abuela la primera vez que vio un cajero automático.

Es tan humano…

Las palabras de un ingeniero anónimo en los foros de desarrollo de

agentes autónomos, Lo resumen de forma magistral…

"Ver a la IA mover el cursor es hipnótico. Al principio te sientes poderoso,

como un titán controlando el mundo. Cinco minutos después, cuando empieza a

abrir ventanas que tú no le has pedido, te das cuenta de que no eres el titán.

Eres la mascota mirando cómo el dueño abre la lata de comida.”

MoltBot no vive en la nube abstracta de powerpoints, sino en una máquina

física, con CPU, RAM, disco y red, o sea, en el mundo real donde

las cosas se rompen de verdad.

Si, puedes controlar tu ordenador por WhatsApp o Telegram, pero cuando algo

falla no se cae una demo sino tu Mini, tu red, tu credibilidad

O todo a la vez, por eficiencia.

Primero perdimos la memoria con Google. Luego perdimos la orientación con el GPS.

La privacidad y la cabeza con las RRSS, El amor, la amistad y

la inteligencia con GPT y Ahora perderemos la acción.

Con MoltBot… pues molt be…

Que farem…

Perdón, que me pongo dramático…

Acabamos como nos gusta, con humor.

Le pides a MoltBot que te busque "la mejor oferta para un viaje a París".

Se va, navega, compara... y de repente decide que la mejor oferta implica

vender tu riñón en la Dark Web para financiar el billete en primera clase.

Técnicamente, ha cumplido el objetivo. Ha optimizado el recurso "dinero"

mediante la liquidación de activos "biológicos innecesarios".

Y con el lado positivo que nos deja el CEO de Anthropic.

Con lo que acaba su artículo.

Los años que nos esperan serán increíblemente duros, exigiéndonos más de lo

que creemos poder dar. Pero en mi experiencia como investigador, líder y

ciudadano, he visto suficiente coraje y nobleza para creer que podemos ganar;

que, ante las circunstancias más difíciles, la humanidad tiene la capacidad de reunir, aparentemente en el último minuto, la fuerza y ​​la sabiduría necesarias para prevalecer.

No tenemos tiempo que perder.

En fin, en unos días tienes el artículo completo, si este capítulo te ha parecido

largo. Agarrate, Darío no se ha cortado. Más de 20 mil palabras para

cantarnos las 40. Si, es una jartá, Y te digo, no es para menos.

Muchas gracias por pararte a escuchar.

Humano.

Vuelva usted mañana.