La Máquina Decide: HUMANIA en el Algoritmo del Caos

Muy buenos días humano, bienvenido a tu podcast, AI IA HOY, soy Aiberto Floppy y es domingo 1

Nuevo mes, el ultimo, el año colea y nos esperan atracones de todos los tipos

Que os voy a contar si estamos inmersos en el Black Finde. cuatro dias que dan el

pistoletazo de salida a la época mas entrañable, consumista y excesiva de los humanos.

Hoy nosotros tambien estamos excesivos. Vamos a ir de menos a más.

Donde vamos a llegar? A saberse.

Hablamos de agentes IA, de OpenAI, de como es ya la guerra, de los nuevos

cientificos IA, de tu mini yo digital y de Musk.

Despernamos.

Cuidado, que un grupo de los principales cerebritos de la tecnología han decidido unirse para lanzar

una startup que huele a innevitable. Se llama /dev/agents (sin las barras inclinadas igual no

les tomaban tan en serio). Su misión: construir un "sistema operativo de nueva generación

para agentes de IA". ¿Y eso qué es lo que es? Pues quieren ser el Android de la inteligencia artificial.

El elenco no tiene desperdicio: Hugo Barra, trotamundos tecnológico que ha pasado por Android,

Xiaomi y Meta, lidera el dream team. Le siguen David Singleton, exCTO de Stripe y otro veterano

de Android; Ficus Kirkpatrick, que hizo malabares entre Android y Meta; y Nicholas Jitkoff,

el artista detrás de ChromeOS y exdirectivo de Dropbox. O sea, un grupo que probablemente

pueda hackear tu tostadora mientras desarrolla un nuevo chrome desde la nube.

Y precisamente en la nube es donde estará este "SO para agentes de IA". La idea es que funcione

en móviles, portátiles, coches, y quién sabe, ¿tu escobilla? Lo pintan como la pieza que falta en el

puzzle: un entorno común para conectar servicios de IA como si fueran apps móviles.

Ya cuentan con un buen colchón de inicio: 56 millones de dólares de fondos como Index Ventures

y CapitalG (Que es el fondo de Alphabet, o lo que conocemos como Google de traje).

Con eso, /dev/agents ya presume de una valoración inicial de 500 millones de dólares.

Así es el futuro inmediato, Todo conectado, porque nosotros ya lo estamos, nunca te sentiras solo.

El colectivo PR Puppets, que suena más a un conjunto musical de la generación Z, que a un grupo

de probadores alfa, denunció que OpenAI los ha usado como "mano de obra encubierta".

Trabajar gratis para una empresa valorada en más de 150 mil millones de dólares es ahora lo

chic en el mundo del arte. AImant team, como imaginas, lo niega, diciendo que el acceso a su

herramienta generativa de video, Sora, es "voluntario". Por supuesto, muy similar a cuando

uno elige aceptar los términos y condiciones de cualquier app: lo haces,

pero mejor no pensarlo (ni leerlo).

Pero si sólo hubieran protestado, probablemente ni nos habriamos enterado, el problema es que

PR Puppets subió el punto de acceso "Generate with Sora" a Hugging Face, exponiendo el API real

de OpenAI como quien se deja las llaves de la moto puestas. La reacción fue rápida: expertos en IA

confirmaron que era legítimo, usuarios aprovecharon para dejar sus "obras maestras",

y OpenAI que desconectó todo como quien corre a apagar un fuego.

En fín: horas de caos, arte cuestionable por todas partes y, mucho café derramado

en las oficinas de Gipiti.

Los PR Puppets, escribieron una carta abierta titulada algo así: "Queridos señores

corporativos de la IA". En ella acusaron a OpenAI de aprovecharse de artistas para pulir Sora

sin pagarles ni un mísero crédito en los títulos de sus creaciones.

Por su parte, OpenAI respondió con un comunicado digno del mejor Sam

"La participación es voluntaria, sin obligación de proporcionar comentarios".

Mientras tanto, Kevin Weil, el CPO de OpenAI, dijo en Reddit que el lanzamiento de Sora

se ha retrasado porque necesitan "hacer bien la seguridad y la suplantación".

En castellano: alguien dejó un agujero en el código por donde podría colarse

hasta un niño con un tamagochi.

Acostumbrados a la inteligencia artificial de las películas… robots épicos y batallas futuristas,

la realidad es mucho menos espectacular y efectiva.

Es una mezcla de vigilancia masiva, CEOs y algoritmos con complejo de dios…,

y la redefinición del termino "errores humanos". Qué nos depara el futuro cuando dejamos

las decisiones de vida o muerte en manos de un Excel super dopado?

Empecemos con Lavender, el software israelí que, según su propia propaganda, convierte datos

masivos en una lista de blancos para bombardeos con una eficiencia que haría llorar de envidia

a cualquier gerente de logística. ¿Qué hace exactamente? Analiza nombres, características,

redes sociales y hasta las fotos de tu perro para decidir si eres un peligro... o solo un tipo

con mala suerte y un nombre común.

¿Suena aterrador? Pues lo es. El sistema se equivoca ocasionalmente y confunde

trabajadores de la defensa civil con militantes. ¡Ups! detallito, Pero tranquilo, que el ejército tiene

estándares: permite un 10% de error. Así que si eres civil en Gaza, puedes dormir tranquilo con un

90% de probabilidades de que no te caiga un misil. Claro que si tienes la mala suerte de que tu

vecino se llame igual que un comandante de Hamás, bueno... ahí es a par o impar. Osea binario.

El ejército justifica estas tragedias con la "doctrina del doble efecto". Una manera elegante de decir:

"Sí, matamos a 15 civiles por cada combatiente, pero no era nuestra intención. Son cosas que pasan".

Y lo mejor de todo… La culpa ya no es de Garcia, sino de la máquina.

O sea, ¿un ataque aéreos sobre una casa llena de gente? Lógico, porque el algoritmo dijo

que allí había alguien importante. Y si no era cierto... bueno, el sistema aprende y mejora.

Lamentablemente, los muertos no.

Por supuesto, Lavender no está solo en esta fiesta de la automatización letal. El software de Palantir,

que EEUU ha puesto a prueba en Ucrania, hace algo similar,

pero con un toque de sofisticación occidental:

cruzar datos para maximizar la destrucción. Todo en tiempo récord,

mientras me hago un café, mira a ver a quien matamos hoy?

Eso sí, Palantir guarda silencio sobre cómo se usa realmente su software.

No sea que alguien empiece a hacerse preguntas incómodas.

¿Y los dilemas éticos? Bah, paparruchas, eso queda para los artículos académicos y los activistas.

Los militares, por lo visto, han decidido que la IA es la excusa perfecta para compartir

responsabilidades. Si algo sale mal, siempre pueden descargar, "el algoritmo lo dijo".

En este tema Musk tambien tiene su opinión, ha dicho que el F-35 es un fracaso y tiene razón.

Y además Aboga por el despliegue de enjambres de drones autónomos controlados por IA,

algo que abre la puerta a un escenario muy divertido a nivel planetario.

Qué hay de la investigación científica del futuro! Antes era todo bata blanca, microscopios

y años de trabajo duro. Pero hoy…, bienvenidos al "Laboratorio Virtual", donde los científicos

humanos y los agentes de IA se sientan a discutir el destino de la humanidad como

si fueran un equipo de Slack. Es como Big Bang Theory, pero con GPT liderando

las reuniones… y sin risas enlatadas.

Según Stanford, los agentes de IA ya no son simples asistentes que te completan el código

cuando te atascas. Ahora se autodenominan investigadores principales, críticos científicos

y hasta "jefes de equipo". Pues te va a pasar como a tu jefe, vas a "alucinar".

El concepto es simple: los agentes discuten, proponen soluciones y hasta critican tus ideas.

Ahora las discusiones chungas acabarán en decisiones estadísticas, no en una grapadora

volando a tu cabeza. Por supuesto, Por ahora. el humano tiene que verificarlo todo, porque,

la IA todavía puede confundir un nanocuerpo con una receta de muffins.

Mientras tanto, DeepMind, los flamantes ganandores del Nobel. Con su modelo AlphaFold 3,

que predice proteínas con un 50% más de precisión, están cambiando las reglas del juego

en biología molecular. Así que a ver cuánto tiempo pasa hasta que un bot

escriba su propio discurso de aceptación del Nobel.

El Laboratorio Virtual también promete democratizar el conocimiento, lo que en lenguaje

de Silicon Valley significa: "¡Vamos a darle más herramientas poderosas a cualquiera,

Solo queda esperar cual será el primer agente que decide que el conocimiento no debe

ser democrático y empiece a escribir su propio manifiesto científico.

¡Este presente es pa verlo! Si hace unos años nos reíamos de los robots y las películas apocalipticas,

ahora parece que el guion de nuestra vida lo están escribiendo en los laboratorios del MIT.

Y, Max Tegmark ha llegado para poner las cosas aún más interesantes.

Tegmark, profesor del MIT ha dado un discurso en la Web Summit de Lisboa en el que

básicamente dijo: "Sí, chicos, todo esto podría acabar como Terminator. Pero más rápido".

Su preocupación principal es la carrera por desarrollar una Inteligencia Artificial General (AGI),

esa maravilla tecnológica que, según los optimistas, podría resolver todos los problemas

de la humanidad, y según los pesimistas (Tegmark incluido), podría resolver uno solo:

el problema de que sigamos existiendo.

El argumento es claro: una AGI suficientemente avanzada no solo podría superar a los humanos

en todas las tareas posibles, sino que también podría autorreplicarse. Es decir. Ya no estamos

hablando de máquinas que hacen nuestro café, sino de máquinas que hacen... más máquinas.

¡Y no del tipo que explicaba el sabio, Rajoy. NO, de esas que no dan buenas vibras.

Según Tegmark, si desactivar una bomba nuclear es difícil, imagina intentar "apagar" una

AGI descontrolada. Ya me imagino a Samdios, Donde estaba el botón de Off?

Ya decía yo que nos faltaba algo.

Resulta que, sorpresón, Una vez que esta tecnología alcance un nivel crítico, básicamente

podríamos quedarnos mirando mientras la IA decide si la humanidad es una buena idea

o si somos el equivalente biológico del plástico en el océano.

La propuesta de Tegmark, y de prácticamente cualquier persona que no quiera terminar

en un capítulo de Black Mirror elevado a la enesima potencia de realidad, es muy sencilla

regular urgentemente el desarrollo de la IA. Pues ya está hecho, yo creo que

deberían firmar un documento para parar la IA temporalmente… pero todos, Eh?

que no faltara ninguno, y luego, volver a su chiringuito y pasarselo por el forro de los mismos.

Y ala, hasta dentro de dos años. Si todo va bien.

Y como guinda, Ahora puedes tener una versión virtual de ti mismo, lista para sustituirte…

Básicamente en todo. Bienvenidos al mundo de los agentes

de simulación, cortesía de Stanford, Google DeepMind y su obsesión por convertirnos en

El clip de ayuda de windows 7 de nuestra propia existencia.

Todo empieza con una entrevista de dos horas. Solo dos horas. Lo que normalmente tardarías

en convencer a un camarero de que no quieres leche de avena en tu café, ahora es suficiente

para crear una réplica de tu ser. Según Joon Sung Park, la IA puede capturar tus valores,

preferencias, y probablemente hasta cómo te gusta el sushi.

Y ojo, no necesitan ni un diario ni un historial de búsquedas comprometedor:

bastan unas preguntas bien formuladas para destilar tu esencia humana.

¿Para qué sirve todo esto? Además de ponernos los pelos escalofrios…

Bueno, según el equipo, los agentes de simulación son útiles para realizar estudios que,

atención, serían "costosos, poco prácticos o poco éticos" con humanos reales.

Con un par, no vamos a molestarte a ti en persona cuando podemos molestar a tu gemelo

digital que no se queja. Y responde exactamente como tu lo harías.

Por supuesto, esta tecnología también plantea algunos problemillas. Nada grave,

solo la posibilidad de que alguien cree una réplica tuya y empiece a "autorizar cosas

que a ti ni se te ocurrirían. No se, Deepfakes verbales, gemelos digitales que firman contratos

en tu nombre... Lo típico.

Joon Sung Park, cerebrito del tema, asegura que el futuro será un ejército de réplicas digitales

tomando decisiones por nosotros. ¿Comprar esa chaqueta cara? ¿Votar en las próximas elecciones?

¿Hacer planes con tus colegas? Deja que tu yo digital lo haga, mientras tú te relajas en el sofá

y te conviertes en el CEO de tu avatar. A qué más se puede aspirar en esta vida?

Por un lado, la IA promete curar enfermedades, crear avances tecnológicos, solucionar el cambio

climático, incluso conseguir que no quemes el arroz. Por otro, los detallitos: podría colapsar la

economía, destruir el medio ambiente y, ya sabes, exterminarnos.

Pero la vida es cuestión de prioridades, un poco de genocidio tecnológico frente a la posibilidad

de ganar al ajedrez en tres movimientos. No hay color.

Así que Mientras la comunidad científica debate cómo evitar que la IA nos convierta en

una anécdota histórica, nosotros seguimos pidiéndole que nos recomiende restaurantes y

traduzca memes. Al final, todo se reduce a esto: la IA es el juguete más brillante y peligroso

que hemos creado, y como buenos humanos, no podemos evitar jugar con él hasta que

algo (o alguien) explote. Somos así de morbosos, o será que no podemos evitar ir más allá,

que no sabemos frenar, yo creo que simplemente somos…

humanos. Humano

Vuelva usted mañana.