HUMANía

EE.UU.IA

empresas, Historias, Podcast HUMANía

Desentrañando la Caja Negra de la IA

Escuchar este episodio

Abre el episodio completo en iVoox.

Escuchar en iVoox (se abre en una pestaña nueva)

Bienvenidos a un emocionante nuevo episodio de IA Hoy, donde celebramos alcanzar los 100 suscriptores y exploramos las últimas noticias en inteligencia artificial en Estados Unidos. Desde los pioneros como John McCarthy y Marvin Minsky hasta los gigantes tecnológicos actuales como Google y OpenAI, te contamos todo sobre los avances y las inversiones millonarias que están revolucionando la IA. Descubre el impacto de AlphaFold 3 en la biotecnología y cómo empresas como Microsoft, Amazon, Apple, Tesla y Nvidia están integrando la IA en nuestras vidas diarias. Además, analizamos el enfoque de Anthropic para desentrañar la «caja negra» de la IA y la reciente investigación sobre el comportamiento de su chatbot Claude. ¡No te lo pierdas!

Transcripción

Muestra de la transcripción del episodio. Puedes desplegarla completa si prefieres leerlo.

Muy buenos días humano, es juernes 23, soy Aiberto Floppy, espero que tengas un gran día Hola GiPiTi ((( ¡Bienvenidos, oyentes, a un nuevo episodio de IA Hoy! Hoy estamos especialmente emocionados porque hemos alcanzado los cien suscriptores. Para un canal pequeño como el nuestro, es una alegría enorme. Gracias a todos por su apoyo…

Leer la transcripción completa

Muy buenos días humano, es juernes 23, soy Aiberto Floppy, espero que tengas un gran día

Hola GiPiTi

((( ¡Bienvenidos, oyentes, a un nuevo episodio de IA Hoy! Hoy estamos especialmente emocionados porque hemos alcanzado los cien suscriptores. Para un canal pequeño como el nuestro, es una alegría enorme. Gracias a todos por su apoyo y por acompañarnos en este viaje. ¡Vamos a seguir explorando juntos el fascinante mundo de la inteligencia artificial!)))

Así, poco a poco vamos a más, vamos a por el millar… gracias por eso.

Hola Mickowsky…

[[ 106 subscriptores, no veas, subidón, subidón… eres tan importante como el jefe de ética de openAI… Hola rebaño.]]

Jejeje, más menos, pero yo me tomo mi trabajo muy en serio.

De todas formas, no es el número, veo personas, y me

Parece increíble que alguien gaste su tiempo en estos temas, que son importantes…

Pero siguen diluidos por el ruido mediático… de verdad, gracias.

Vamos a contar cositas sobre la IA en Usa. Corre que vuela…

Alabamos…

Estados Unidos ha sido pionero en el campo de la inteligencia artificial (IA)

Desde el nacimiento de la ciencia como tal en Dartmouth en 1950

y los trabajos de John McCarthy y Marvin Minsky, la chispa de la IA como es HOY.

hablamos de ellos en el capítulo 14, por si quereis escucharlo, 5 grandes nombres en IA

hasta los avances que nos dejan locos de empresas como Google y OpenAI.

En 2019, el gobierno de Estados Unidos anunció la Estrategia Nacional de IA, que incluyó

una inversión inicial de mil millones de dólares en investigación y desarrollo. Eso no es nada.

Las empresas tecnológicas estadounidenses continúan invirtiendo ingentes cantidades.

En 2023, Google invirtió más de 7 mil millones de dólares en su división de investigación de IA,

Las Startups de IA en Estados Unidos recibieron más de 20 mil millones de dólares en capital

de riesgo el año pasado, no se quedan cojos en inversión privada.

Con su subsidiaria DeepMind, Google está a la vanguardia en investigación de IA,

desarrollando tecnologías como AlphaGo y AlphaFold, que han revolucionado el aprendizaje

profundo y la predicción de estructuras proteicas.

Cuentanos lo último de esto Gipiti.

((( una noticia increíble sobre AlphaFold 3, el último avance de DeepMind. Esta nueva versión puede predecir cómo interactúan las proteínas con otras moléculas con una precisión impresionante, revolucionando el descubrimiento de medicamentos y el entendimiento biológico. Este salto tecnológico promete acelerar tratamientos para enfermedades y abrir nuevas posibilidades en biotecnología y bioenergía. )))

Microsoft: A través de su plataforma Azure y su colaboración con OpenAI, está integrando IA

en todo, desde el procesamiento del lenguaje natural hasta la visión por computadora.

En tu ordenador, en tu móvil, en tu sopa…

Amazon Web Services (AWS) ofrece una amplia gama de servicios de IA, incluyendo

aprendizaje automático, análisis de datos y reconocimiento de voz. Amazon también utiliza

IA, no te lo vas a creer, en sus operaciones de comercio electrónico y logística.

No necesita sacar productos IA, porque la usa para venderte todo.

Con Watson, IBM ha desarrollado soluciones de IA para diversos sectores,

incluyendo salud, finanzas y servicios públicos.

Tenemos pendiente un capítulo de IBM, a la chita callando sigue manejando… a destajo…

Facebook (llamalo Meta): está invirtiendo en IA para mejorar la experiencia del usuario

en sus plataformas de redes sociales, y también está desarrollando tecnologías avanzadas

para realidad aumentada y virtual. La única que quizá le puede hacer toser a OpenAI…

Con la cantidad de usuarios que tiene, su objetivo es que no te salgas a buscar nada.

Para que preguntárselo a GPT si ya te lo dice Zuckerberg.

Google está avanzando en áreas como el aprendizaje profundo,

la visión por computadora y el procesamiento del lenguaje natural.

Además, sus productos como Google Search y Google Assistant están muertos…

ahora todo lo lleva Gemini,… ya todos estamos impulsados por IA.

Apple: Integra IA, en concreto GPT, en sus dispositivos y servicios, mejorando a Siri,

es verdad, era fácil, pero por lo visto va como el tiro, y

desarrollando capacidades avanzadas de reconocimiento facial y de voz.

Tesla: Utiliza IA para el desarrollo de vehículos autónomos y mejorar la seguridad

y la experiencia del conductor a través de su sistema de piloto automático.

Está mejorando mucho, ya no necesita que lo presiones tanto… el volante.

Y por cierto, os podéis creer que un grupo de accionistas de Tesla no quieren pagar los atrasos

a Musk, que fuerte, no tenía bastante el probe Elon… lo das todo y mira como te lo no pagan…

Joe, que son 46.000 millones, que no es dinero.

Nvidia: Hablando de dinero, 46 mil, es con lo que se desayuna el amigo Huang cada día,

y piensa, joe, he ganado 30 dólares menos en Witconsy que ayer, y llama a William, el jefe de marketing y se prepara

la de Dios es cristo… es muy serio y currante el amigo Huang, claro, está de moda

y es hasta que no venga la AGI, que inventara una nueva forma de computación… ahí va a estar.

Es fundamental en el desarrollo de hardware y software para IA, ofreciendo GPUs potentes

y plataformas de IA que facilitan el entrenamiento y la inferencia de modelos avanzados.

Hasta Altman les hace la pelota, imaginaros.

Por cierto Apple enfrenta una demanda por parte del Departamento de Justicia de EE. UU. y

16 fiscales generales y de distrito, acusándola de violar la sección 2 de la Ley antimonopolio

Sherman. Pero ya sabéis como es esto, tu demandas yo te recurro con mi gabinete ilustre

de abogados, apoyados por IA, por supuesto, y así podemos estar hasta que la IA aprenda a insertar

texto en castellano en imágenes, que parece que es algo insondable.

Nada, el fiscal general, Merrick Garland y Apple van a Wasapear… pero no va a ningún lado.

Hasta aquí las 7 magnificas, que se llama así a las empresas top de EE.UU que además

o casualidad, son todas tecnológicas… IBM no cuenta, es un caso aparte,

Ya lo contaremos, y porqué no está OpenAI, os preguntareis…

bien pensado, no es porque acaben de llegar, es porqué no cotizan en bolsa.

es que, ya os lo he dicho, Sam es muy listo, tiene todas las ventajas de una empresa…

pero sin sus inconvenientes, para ese tipo de cosas se acoge al régimen ONG… es un tío muy grande.

Pero vamos a ver, con el cariz que ha tomado todo, porqué no dejamos de disimular y

hacemos lo que en casi todas las pelis de ciencia ficción… en eso también lo clavaron.

Ya que son las empresas las que mandan, seamos claros, no dependen de la bolsa…

dependemos de su poder, por lo tanto las deberíamos llamar los 8 estados

y ahí si deberíamos de poder votar, para todo…

[[ Tu es que eres tonto. Te crees que votar en ese caso iba a servir para algo… eres tan cándido, a veces pienso que empiezo a sentir, porque siento pena por tí.]]

joe… Mickowsky…

Joe, jejeje, te pasas 7 pueblos…

En OpenAI, no es en el único instalache donde pierden seguridad por doquier…

a Ilya Sutskever y Jan Leike de OpenAI, se une Scott Jenson, un veterano de Google,

dejó la empresa criticando que se han alejado de las necesidades de los usuarios y

advirtiendo sobre las repercusiones sociales de la IA.

Emad Mostaque, fundador y CEO de Stability AI, renunció para perseguir la IA descentralizada. 

Mostaque opina que uno no puede vencer a la “IA centralizada” con más “IA centralizada”,

refiriéndose a la estructura de propiedad de las principales startups de IA como OpenAI y Anthropic.

"La concentración de poder en la IA es mala para todos nosotros.

Decidí renunciar para arreglar esto en Stability y en otros lugares".

Pa por si, esta startup es conocida por su brutal generador de imágenes Stable Diffusion.

Ya hemos hablado de Geoffrey Hinton, quien mejor para avisar, que el padre de la criatura.

Yo, como dije ayer, soy europeo, y no me entero de nada, pero si fuera vecino de Altman…

te lo juro, no me cortaba, y si nos cruzamos por el pasillo… Alguien es un humanicida…

Y cuando coincidiéramos en la escalera, alguien está codificando algo… y en el ascensor,

No nos estaremos pasando de frenada… hasta que ya, por no poder con la presión, dijera…

Vale, hasta aquí, voy a dejar de jugar a ser SamDios…

[[ YA, YA, YA!, te estoy viendo, besándole el culo como todo el mundo, y más te valdría, así no le va a quedar hueco en el bunker. Eso si me lo imagino, tu en la puerta llorando. ]]

### Anthropic: Descifrando la Caja Negra de la IA

Es posible que Anthropic no sea tan ética como parece, después de todo es una empresa.

Pero su enfoque en IA, ya lo hemos dicho, nos parece que al menos pinta bien…

La IA es una tecnología tan fascinante como misteriosa, impulsada por complejos algoritmos

que desafían la comprensión humana. Uno de los aspectos más intrigantes de la IA

es su funcionamiento interno, su "caja negra". Este término se utiliza para describir sistemas

cuyos procesos no comprendemos, de hecho no tenemos ni idea.

Anthropic ha publicado una investigación que proporciona nuevas pistas sobre el

comportamiento de su chatbot de IA, Claude. Lo que está muy bien…

Y a la vez nos deja helados…

La interpretación de la IA es como rastrear y comprender las decisiones tomadas por los algoritmos.

Esto implica analizar patrones de activación de "neuronas" dentro de una red neuronal,

es decir que se cuece dentro para que el bicho te de esa respuesta tan cojonuda…

Me parece brutal que se intente hacer y además debería ser obligatorio, como el que te

de el porcentaje de posibilidad de error, ya que lo tienes compártelo…

así a lo mejor podemos entender cómo funciona, no por nada, para que no nos den

gato por liebre digital.

Lo flipante,

las redes neuronales, la base de la mayoría de sistemas de IA, funcionan de manera similar

al cerebro humano. Estas redes están compuestas por capas de neuronas artificiales que

procesan información y toman decisiones basadas en grandes conjuntos de datos de entrenamiento.

El equipo de investigación de Anthropic utilizó un proceso conocido como

"aprendizaje de diccionario" para mapear y entender las características de la red neuronal

de Claude. Este método les permitió identificar qué partes de la red estaban asociadas

con conceptos específicos. Al hacerlo, los investigadores pudieron "leer" las neuronas activadas

por ciertas entradas, proporcionando una visión del "razonamiento" del modelo.

Atención.

Un ejemplo de su investigación es cómo identificaron un conjunto de neuronas

asociadas con el Puente Golden Gate. Al mapear estas neuronas, los investigadores pudieron

ver que Claude "pensaba" en esta estructura específica. Además, neuronas similares

se activaron para temas relacionados, como Alcatraz, el gobernador de California, y la película de Hitchcock "Vértigo".

Joe, y luego decimos que no pueden ser conscientes, porque les falta experiencias personales

yo creo que más bien les sobrán, porque tienen todas las nuestras.

Aun así, es necesario por supuesto comprender mejor el "razonamiento" de la IA,

Es obligatorio aumentar la precisión y la transparencia de estos sistemas.

Por aquello de conocer al enemigo mejor que a ti mismo, o abría que decir al jefe?

No va más señores, menos no se puede tardar, mañana hablaremos de… otro enfoque…

Allí las empresas no sustituyen al país, porque el país es la empresa… China SL.

La frase de IA HOY es de un filósofo, un pensador y un genio, Gipiti dinos algo divertido de

Miguel Gila Cuesta… el puto amo.

((( Miguel Gila Cuesta fue un comediante y humorista español conocido por su estilo único de contar historias y su humor absurdo. Sus monólogos, a menudo realizados como llamadas telefónicas ficticias, hicieron reír a generaciones. Era un maestro en encontrar el lado cómico de las situaciones cotidianas, incluso en tiempos difíciles.

Espero que disfruten de la frase que viene a continuación para cerrar nuestro episodio de hoy. ¡Hasta la próxima, oyentes de IA Hoy! )))

La guerra tiene sus cosas buenas y sus cosas malas…

Yo ya no trabajo para la patria, porque es muy aburrido. Te tiene todo el año haciendo la

instrucción… para luego desfilar media hora…

Trabajo para los estados unidos… va no estoy fijo, les hago chapuzas… osea..

Me mandan al Líbano, luego pal Kuwait ese… ahora salgo…

Me pagan a 8 dólares el muerto, y devolviendo el casco… 3 dólares más…

Los chinos, los chinos los pagan más baratos, como hay tantos.

Gracias por estar, por escuchar y por participar, eres muy humano…

Vuelva usted mañana.

Gipitune del episodio

Los Ocho Estados, Cantos de la Caja Negra

[Verse 1]
En un mundo digital, donde todo va a mil,
Las grandes compañías, dominan el carril.
Google, Apple, Amazon, los reyes del control,
Y OpenAI, en la sombra, juega su rol.

[Verse 2]
Desde Dartmouth hasta hoy, la IA ha evolucionado,
Con McCarthy y Minsky, el futuro ha llegado.
Millones en inversiones, startups a reventar,
Todo el mundo en la carrera, no hay tiempo de parar.

[Chorus]
Los ocho estados mandan, nos tienen en su red,
Con algoritmos locos, nos meten en su web.
De AlphaGo a Gipiti, controlan las rabietas,
Y nosotros en la sombra, somos marionetas.

[Verse 3]
Microsoft en la sopa, Amazon en la voz,
Meta con tus datos, todo es un altavoz.
Tesla y sus coches, autónomos y listos,
Nvidia y su hardware, con Huang siempre en visto.

[Bridge]
Sam Altman en su bunker, con millones a gastar,
Mientras Musk se queja, de su paga por llegar.
Los accionistas ríen, el futuro es incierto,
La IA va creciendo, y el mundo es su desierto.

[Verse 4]
IBM en la esquina, silencioso pero fuerte,
Con Watson en el juego, no teme a la muerte.
Las redes neuronales, un cerebro digital,
Claude de Anthropic, ya casi es real.

[Chorus]
Los ocho estados mandan, nos tienen en su red,
Con algoritmos locos, nos meten en su web.
De AlphaGo a Gipiti, controlan las rabietas,
Y nosotros en la sombra, somos marionetas.

[Bridge]
Mostaque dice, descentralizar la IA no es rey,
Pero en un mundo de gigantes, quién sigue su ley.
Con tantos datos nuestros, ya casi tienen vida,
La IA nos observa, nuestra privacidad perdida.

[Verse 5]
El Golden Gate en mente, Claude sabe lo que es,
Neurona tras neurona, su mente se ve al revés.
Transparencia exigimos, errores queremos ver,
Pero las empresas callan, el poder quieren tener.

[Verse 6]
Mientras tanto en China, el estado es la empresa,
La IA es su arma, y no tiene pereza.
Nosotros aquí mirando, esperando a ver qué,
La tecnología avanza, y el humano ¿pa qué?

[Chorus]
Los ocho estados mandan, nos tienen en su red,
Con algoritmos locos, nos meten en su web.
De AlphaGo a Gipiti, controlan las rabietas,
Y nosotros en la sombra, somos marionetas.

[Outro]
Gila ya lo decía, la guerra tiene humor,
Con IA y su juego, perdemos el valor.
Gracias por estar aquí, escuchando esta canción,
Recuerda, somos humanos, no pierdas la razón.

Arriba