Creando Cerebros de Silicio: Porque Jugar a Ser Dios Nunca Fue Tan Fácil

Miércoles 21 esquema

### Pasado

No sabemos muy bien qué

En 1950, cinco años antes de que McCarthy empezara a hablar de inteligencia artificial, Alan Turing había publicado un artículo en el que se preguntaba: "Desde este punto de vista, uno podría estar tentado de definir el pensamiento como consistente en aquellos procesos mentales que no entendemos", dijo Turing. "Si esto es cierto, crear una máquina pensante es crear una que haga cosas interesantes sin que entendamos realmente cómo las hace".
Como no decía nada de lo que causaba el comportamiento, la prueba de Turing puede superarse mediante trucos. "Pero, en realidad, la máquina tiene la inteligencia de una tostadora. Toda la inteligencia que exhibe es la de sus programadores”

 la creación del término "inteligencia artificial" "en la conjetura de que cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, describirse con tanta precisión que se puede hacer que una máquina lo simule" "Se intentará averiguar cómo hacer que las máquinas utilicen el lenguaje, formen abstracciones y conceptos, resuelvan tipos de problemas ahora reservados a los humanos y se mejoren a sí mismas”

nombres como

La otra vía favorecía

¿qué es? La IA es un término que engloba un conjunto de tecnologías que hacen que los ordenadores hagan cosas que se considera que requieren inteligencia cuando las hacen las personas.

Pichai: "La IA es la tecnología más relevante en la que está trabajando la humanidad. Más relevante que el fuego”

¿Qué es la IA? Para millones de personas la respuesta ahora es ChatGPT. ChatGPT en particular, lo cambiaron todo. AGI pasó de ser un nombre feo a ser un sueño de marketing.

Ellie Pavlick, que estudia las redes neuronales en la Universidad de Brown (EE UU): "Para algunas personas es ofensivo sugerir que la inteligencia humana podría recrearse mediante este tipo de mecanismos". casi parece religioso. Creo que hay algunos destellos, quizá no de AGI, pero sí de algo que no esperábamos encontrar”.

### Presente

, la tecnología que está detrás del actual auge de la IA.

Los LLM actuales pueden hacer cosas asombrosas. Lo que ocurre es que este campo no logra ponerse de acuerdo sobre lo que realmente ocurre bajo el capó.

Estos modelos

Durante el entrenamiento, que puede durar meses y costar decenas de millones de dólares, a estos modelos se les encomienda la tarea de rellenar espacios en blanco en frases extraídas de millones de libros y una fracción significativa de Internet. Hacen esta tarea una y otra vez. En cierto sentido, se les entrena para que sean máquinas de autocompletar sobrealimentadas. 

Son matemáticas, muchísimas matemáticas. Nadie lo discute. Pero… ¿se trata sólo de eso? ¿O estas complejas matemáticas codifican algoritmos capaces de algo parecido al razonamiento humano o a la formación de conceptos?

Los grandes modelos lingüísticos actuales son demasiado complejos para que nadie pueda decir exactamente cómo se produce su comportamiento. Los investigadores ajenos al reducido número de empresas que fabrican estos modelos no saben qué contienen sus datos de entrenamiento; ninguno de los fabricantes de modelos ha compartido los detalles. Por eso es difícil decir qué es y qué no memorización o repetición estocástica. Ni siquiera los investigadores internos, como Olah, saben qué ocurre realmente cuando se enfrentan a un robot obsesionado con los puentes.

, "Esto puede ser tremendamente bueno, pero también podría ser realmente malo. ¿Qué vamos a hacer al respecto?", recuerda que pensó en 2015. "Acabé fundando OpenAI". quitaba el sueño, Altman respondió: "todas estas cosas de ciencia ficción".

 nos dicen que la tecnología es tan buena que es mala.

Timnit Gebru

Antes era así: había un problema en el mundo, y construíamos algo para solucionarlo. Aquí, todo es al revés: el objetivo parece ser construir una máquina que pueda hacerlo todo, y saltarse el lento y duro trabajo que supone averiguar cuál es el problema antes de construir la solución.

Y como dijo Gebru en esa misma charla: "Una máquina que resuelve todos los problemas: si eso no es magia, ¿qué es?".

ha señalado los defectos y limitaciones del aprendizaje profundo. Su libro de 2001 *La mente algebraica* sostenía que las redes neuronales, la base sobre la que se construye el aprendizaje profundo, son incapaces de razonar por sí mismas. escribió un ensayo titulado 

Bender y Koller creen que así es como aprenden los LLM y por qué son limitados. "El experimento mental muestra por qué este camino no nos va a llevar a una máquina que entienda nada”

Chris Olah, de Anthropic, "Mi impresión subjetiva es que estas cosas son capaces de seguir ideas bastante sofisticadas. No tenemos una historia completa de cómo funcionan los LLM, pero creo que es difícil conciliar lo que estamos viendo con la imagen extrema de los loros estocásticos”.

Dentro de unas décadas, serán reconocidos como los primeros ejemplos reales de AGI.

que por aquel entonces era , me dijo el año pasado: "El progreso de la IA en los últimos años ha sido extraordinariamente rápido. Hemos aplastado todos los puntos de referencia, y ese progreso continúa sin cesar. Pero no se detendrá ahí. Vamos a tener modelos sobrehumanos, modelos mucho más inteligentes que nosotros". (.

### Futuro

Hemos construido máquinas con un comportamiento similar al humano, pero no hemos abandonado el hábito de imaginar una mente humana detrás de ellas.

Importan cuando esta tecnología se incorpora al software que utilizamos a diario, desde los motores de búsqueda a las aplicaciones de procesamiento de textos o los asistentes del teléfono. La IA no va a desaparecer. Pero si no sabemos lo que nos venden, ¿quién es el incauto?

hay grandes egos y enormes sumas de dinero en juego

, Eldan y un equipo de otros

Bubeck solía estudiar LLM para intentar averiguar cómo funcionaban, pero GPT-4 cambió su forma de pensar sobre ellos.

Pavlick, los modelos parecen codificar relaciones abstractas entre objetos, como la que existe entre un país y su capital. Al estudiar un gran modelo lingüístico, Pavlick y sus colegas descubrieron que utilizaba la misma codificación para asignar Francia a París y Polonia a Varsovia. a diferencia de un *blockhead*, el modelo había aprendido esta tabla de búsqueda por sí mismo. En otras palabras, el LLM descubrió por sí mismo que París es a Francia lo que Varsovia es a Polonia.

"La IA fue un fenómeno cultural mucho antes que tecnológico".
La palabra robot procede de *robota*, un término para "trabajos forzados" acuñado por el dramaturgo checo Karel Čapek en su obra de 1920 *Los robots universales de Rossum*. Las "leyes de la robótica" esbozadas en la ciencia ficción de Isaac Asimov, que prohíben a las máquinas hacer daño a los humanos, se invierten en películas como *Terminator*, que es un punto de referencia icónico para los temores populares sobre la tecnología del mundo real.

, Max Tegmark (también físico, como Hawking) y Stuart Russell (investigador de IA). En un artículo publicado en el *Huffington* Post (https://www.huffpost.com/entry/artificial-intelligence_b_5174265) el mismo fin de semana del estreno de aquella película, el trío escribió: "Mientras la superproducción de Hollywood *Transcendence* se estrena este fin de semana con visiones enfrentadas sobre el futuro de la humanidad,

El principio común es que una tecnología todopoderosa —AGI o superinteligencia, elija su equipo— no sólo está al alcance de la mano, sino que es inevitable. Esto se puede ver en la actitud de "hazlo o muere", omnipresente en laboratorios de vanguardia como OpenAI: si nosotros no creamos la AGI, lo hará otro.

AGI, una hipotética tecnología futura capaz de realizar una amplia gama de tareas tan bien como los humanos. Algunos de ellos incluso han puesto sus miras en lo que llaman superinteligencia (https://www.technologyreview.com/2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai/), una tecnología de ciencia ficción que puede hacer cosas mucho mejor que los humanos. Ese grupo cree que la IA cambiará drásticamente el mundo, pero ¿con qué fin? Ése es otro punto de tensión. Podría solucionar todos los problemas del mundo o provocar su perdición.
Ilya Sutskever AGI es poco más que una mal nombre.

"Puedes ver a detrás de mí", dice. de Skuler,desarrolla estos dispositivos para personas mayores, y el diseño -parte Amazon Alexa, parte R2-D2- debe dejar muy claro que ElliQ es un ordenador. Si alguno de sus clientes muestra signos de estar confundido al respecto, Intuition Robotics retira el dispositivo, dice Skuler.

ElliQ . Si le preguntas por deportes, te dirá que no tiene coordinación mano-ojo porque no tiene manos ni ojos.
En su lugar, la empresa de Skuler "Igual que tenemos la capacidad de entablar una relación real con un perro. Los perros proporcionan mucha alegría a la gente. Proporcionan compañía. La gente quiere a su perro, pero nunca lo confunde con un ser humano", explica.

¿Qué es la inteligencia artificial? | MIT Technology Review en español (https://www.technologyreview.es/s/16532/que-es-la-inteligencia-artificial?)