Round de cálculos: Hinton, LeCun, Altman y Musk

Miércoles 29 principio

Geoffrey Hinton

Buscan estructura común y comprimen información usando esa estructura. Esto permite creatividad al encontrar analogías entre cosas aparentemente diferentes.

El uso de datos multimodales ayudará a comprender mejor el espacio y las interacciones físicas.

La idea de que una red neuronal grande y aleatoria puede aprender cosas complejas solo con datos ha sido validada. No necesitamos tanta estructura innata.

Estoy preocupado por el uso de IA para la manipulación de la opinión pública, vigilancia masiva y robots asesinos.

No creo que podamos ralentizar el avance de la IA debido a la competencia internacional. Sin embargo, creo que es importante ser conscientes de los riesgos y tratar de mitigarlos.

Creo que hará la investigación mucho más eficiente. Los asistentes de IA pueden ayudar a programar, pensar y resolver ecuaciones, lo que aumentará la productividad de los investigadores.

Los límites entre las personas y los robots son cada vez más difusos. A medida que estas tecnologías avanzan y se integran más en nuestras vidas, las consideramos entidades sociales independientes que pueden comprender y responder a nuestros deseos y requisitos.

Este cambio afecta nuestra comprensión de nosotros mismos, las relaciones con los demás y la forma en que nos relacionamos con la tecnología.

Un estudio de 2023 sugiere que los rostros generados por IA se han vuelto indistinguibles de los rostros humanos. Estas indicaciones ayudan a las personas a sentirse más conectadas con la IA y a verla como más humana. Además, la IA transmite con frecuencia señales de género e ideas preconcebidas culturales sobre la ayuda humana, que pueden resultar entrañables y familiares.

Los seres humanos se sienten inherentemente atraídos por otras personas y su comprensión. La presencia real, percibida, sugerida y atribuida de los demás da forma a las percepciones, comportamientos y experiencias humanas.

Los desarrollos recientes en robótica e inteligencia artificial han cambiado fundamentalmente la forma en que percibimos los orígenes y mecanismos de estos impactos sociales.

París acoge en estos días la conferencia tecnológica VivaTech, y uno de sus participantes, Yann LeCun (jefe de IA en Meta y profesor de la Univ. de Nueva York), acaba de iniciar allí un acalorado debate al aconsejar a la próxima generación de desarrolladores que no dediquen sus esfuerzos a desarrollar modelos de lenguaje grandes (LLMs), como GPT-4 y similares.

"Esto está en manos de grandes empresas, no hay nada que puedan aportar", afirmó LeCun, instando a los desarrolladores a enfocarse en sistemas de IA de próxima generación que superen las limitaciones de los LLMs.

> "Yo mismo estoy trabajando en sistemas de inteligencia artificial de próxima generación, no en LLMs. Así que, técnicamente, te estoy diciendo 'compite conmigo', o más bien, 'trabaja en lo mismo que yo, porque
>
>
> ese es el camino a seguir, y cuanto más seamos, mejor
>

# Las limitaciones de los LLMs

LeCun se ha mostrado crítico a la hora de valorar la capacidad de los LLMs para alcanzar un nivel de inteligencia similar al humano. De hecho, en declaraciones recientes al Financial Times, señaló que estos modelos

# "no entienden el mundo físico, no tienen memoria persistente, no pueden razonar de manera lógica y no pueden planificar de manera jerárquica".

Todas ellas limitaciones que, según él, convierten a los LLMs en inadecuados para el objetivo de alcanzar una inteligencia artificial avanzada. En su lugar, Meta ha estado trabajando en una tecnología denominada V-JEPA (siglas en inglés de 'Arquitectura Predictiva de Inserción Conjunta de Vídeo'), que promete detectar y entender interacciones de objetos con gran detalle.

# Opiniones divididas

Las declaraciones de LeCun han provocado reacciones de todo tipo. Algunos desarrolladores y científicos de datos consideran que, por el contrario, ahora es el momento perfecto para trabajar en LLMs debido a su potencial no explotado en áreas como la generación de prompts, el jailbreaking y la accesibilidad.

Geoffrey Hinton, otro pionero de la IA (y ganador junto a LeCun del Premio Turing 2018), ha expresado una opinión contraria a su colega, defendiendo que el cerebro artificial está muy cerca del cerebro humano y abogando por una mayor inversión en LLMs. Sin duda, una discrepancia fundamental entre dos gigantes de la IA.

Pero otros expertos del sector se sitúan junto a LeCun para denunciar una "obsesión manifiesta" de la industria tecnológica por unos LMM que realmente, constituyen "un callejón sin salida para lograr un verdadero progreso", poco más que un "tejido conectivo que agrupa sistemas" de manera rápida y eficiente, pero no un verdadero ejemplo de IA.

Además, también se alzan voces que sugieren que la concentración de poder en unas pocas grandes empresas es perjudicial, y apoyan la postura de LeCun sobre la necesidad de sistemas abiertos y descentralizados.

De hecho, él sostiene que el hecho de que unas pocas entidades controlen el desarrollo y despliegue de la IA "será extremadamente peligroso para la diversidad de pensamiento, para la democracia, para casi todo", más aún cuando se muestra convencido de que "con el tiempo, todas nuestras interacciones con el mundo digital estarán mediadas por asistentes de IA".

# Alternativas a los LLMs

La discusión sobre alternativas a los LLMs ha sido recurrente. LeCun y otros expertos sugieren enfoques como:

- La IA multimodal: integra múltiples formas de datos (texto, imágenes, video) para una comprensión más holística.
- La IA general: La AGI busca dotar a las máquinas de capacidades de razonamiento y adaptación similares a las humanas.
- El aprendizaje no supervisado: permite que los modelos descubran por sí mismos patrones sin depender de datos etiquetados.

Mufeed VH, creador de Devika, se ha sumado al debate abogando por alejarse de los modelos basados en transformadores (como la actual generación de LLMs) y atreverse a explorar nuevas arquitecturas, como RWKV, que ofrecen ventanas de contexto ilimitadas y una inferencia más eficiente.

YoEn un acalorado intercambio en las redes sociales, el CEO de Tesla y SpaceX, Elon Musk, y Yann LeCun, científico jefe de IA de Facebook AI Research (FAIR), discutieron públicamente sobre la investigación de IA y la ética de la empresa. La disputa comenzó cuando Musk invitó a sus seguidores a unirse a su startup de IA, xAI, con un mensaje audaz.

Elon Musk tuiteó: "Únete a xAI si crees en nuestra misión de comprender el universo, lo que requiere una búsqueda rigurosa de la verdad, sin tener en cuenta la popularidad o la corrección política".

Yann LeCun, una figura prominente en la investigación de IA, respondió con una dura crítica, burlándose del estilo de gestión de Musk: "Únete a xAI si puedes soportar a un jefe que:

- Afirmaciones de que lo que estás trabajando se resolverá el año que viene (sin presión).
- Afirmaciones de que aquello en lo que estás trabajando matará a todo el mundo y debe detenerse o pausarse (¡sí, vacaciones durante 6 meses!).
- Afirma querer una 'búsqueda máximamente rigurosa de la verdad', pero vomita teorías de conspiración locas en su propia plataforma social".

Otro usuario intervino, sugiriendo que los comentarios de LeCun eran poco profesionales: "No se ve bien... ¿Podrías explicar lo que tienes contra Elon?

LeCun aclaró: "Me gustan sus autos, sus cohetes, sus paneles solares y su red satelital. No me gusta mucho su política vengativa, sus teorías conspirativas y su exageración".

Video relacionado: Elon Musk predice que "ninguno de nosotros tendrá trabajo" si la IA toma el control (Firstpost

El intercambio se intensificó cuando Musk replicó: "¿Qué 'ciencia' has hecho en los últimos 5 años?".

LeCun respondió: "Más de 80 artículos técnicos publicados desde enero de 2022. ¿Y tú?

Musk respondió: "Eso no es nada, te estás ablandando. ¡Esfuérzate más!"

LeCun respondió: "Ahora estás actuando como si fueras mi jefe".

Musk luego comentó: "Yann 'solo está siguiendo órdenes'".

LeCun terminó diciendo: "Parece que no entiendes cómo funciona la investigación".

El argumento ha provocado un amplio debate dentro de la comunidad de IA. Las redes sociales son un hervidero de reacciones y la mayoría de la gente en X se pone del lado de Elon Musk, dado su gran número de seguidores en la plataforma.

LeCun ha sido un defensor de la IA generativa. Recientemente afirmó que la IA nunca podrá reemplazar a los humanos. LeCun dijo que a pesar de que estos grandes modelos de lenguaje (LLM) como GPT de OpenAI son buenos en algunas tareas, tienen grandes limitaciones y nunca podrán pensar y planificar como los humanos.

Señaló varios problemas: no entienden la lógica, tienen una comprensión deficiente del mundo físico, carecen de memoria a largo plazo, no pueden razonar bien y son incapaces de hacer planes complejos.

Tener miedo a tu propia creación es un mito clásico en decenas de culturas. Del Golem judío a Frankenstein, pasando de forma más tecnológica por la invención de la bomba atómica. Ahora, Sam Altman, el líder de OpenAI y el rostro más reconocible en cuanto a inteligencia artificial, también cree que nadie se está tomando tan en serio como merece los efectos que la tecnología que propone pueden traer al mundo.
En una conferencia reciente en la *Brookings Institution*, Altman expuso su visión y sus temores con una claridad meridiana poco días antes de que OpenAI presentara su último avance, GPT-4o:

"El impacto de la IA en la economía debería ser una preocupación prioritaria global para las personas", dijo, afirmnado tajante que tiene miedo de que "no nos lo estemos tomando lo suficientemente en serio".

Esta llamada a la reflexión no es baladí ni es la primera vez que la realiza.

La perspectiva de Altman sobre la inteligencia artificial siempre ha sido dual: por un lado, reconoce su potencial para transformar la economía y la sociedad de maneras que apenas comenzamos a entender; por otro, alerta sobre su capacidad de acelerar desigualdades y desplazar puestos de trabajo.

La llegada de modelos como GPT-4, tras crear cierto revuelo, ha sido sucedidos por una menor preocupación pública. Una calma que a Altman le resulta tanto sorprendente como alarmante. "Lo que más me preocupa es...", dejó la frase en el aire, en una clara invitación a que quienes le escucharan reflexionaran más profundamente sobre hacia dónde nos dirigimos.

# "Hay puestos de trabajo que van a desaparecer. Y punto"

En una entrevista el año pasado Altman ahondaba en esto. "Mucha gente que trabaja en IA pretende decir que solo va a ser buena, que solo va a ser un apoyo y que nunca se va a sustituir a nadie", dijo Altman al medio. "Hay puestos de trabajo que van a desaparecer. Y punto".

Aunque esta noticia no sería bien recibida por la mayoría, Altman no parece estar demasiado estresado por ello. En su opinión, un mundo con inteligencia artificial será mejor, aunque parece que no está muy seguro de cómo será ese mundo.

"No creo que queramos volver atrás", dice Altman. Uno de los puestos en los que cree que la IA tendrá menos peso será en la educación, porque opina que los humanos preferimos tratar con otros tutores humanos, aunque dice que ChatGPT da la posibilidad de dotar "a cada niño una educación mejor y más adaptada que la que recibe el mejor, más rico y más inteligente niño en la Tierra hoy en día".

# Entre la innovación y el escepticismo: El balance de Altman

El desarrollo de la IA, como la ha presentado OpenAI bajo la dirección de Altman, ha sido una carrera hacia la creación de herramientas cada vez más sofisticadas y accesibles. La empresa no solo se ha enfocado en mejorar la precisión y la utilidad de sus modelos, sino también en democratizar el acceso a estas tecnologías, como evidencia el lanzamiento a usuarios gratuitos de GPT-4o, que ofrece respuestas conversacionales y puede entender audio y vídeo.

Sin embargo, Altman no es ajeno a las críticas y a los estudios que contraponen su visión. Instituciones como el MIT y la ONU han sugerido que la inteligencia artificial, contrariamente a desplazar trabajos, podría crear más empleo del que destruye. Estos argumentos plantean un escenario menos apocalíptico pero igualmente desafiante, donde la clave será la adaptación y la formación en nuevas habilidades.

# La urgencia de una ética IA y la incoherencia de Altman

Uno de los puntos que Altman ha subrayado con particular énfasis es la necesidad de desarrollar una ética robusta alrededor de la IA. La autenticación de la IA y la implementación de marcas de agua en el contenido generado son medidas que considera cruciales para proteger al público de fraudes y manipulaciones, especialmente en contextos tan sensibles como las elecciones democráticas.

Pese a esto, no falta quien pone en tela de juicio la propia visión e interés de Altman, un hombre que, recordemos, en diciembre fue el centro de un culebrón en torno a la dirección de OpenAI por, al parecer, haber apostado sin ningún miramiento por avanzar en los modelos a pesar de que otros jefes científicos de la organización le advirtieran de los peligros.

El mayor exponente de este grupo de críticos, Ilya Sutskever, por cierto, acaba de salir de OpenAI de forma definitiva.