Términos y condiciones

AIBERTO:
Muy buenos días, humano. Bienvenido a tu podcast. Vamos con el último capítulo de la saga veraniega, de la neurona a la singularidad. Con el más jugoso, o al menos, el más actual. Vamos a intentar centrar un poco el tema. Pero ya te digo que casi ningún término tiene una definición clara. O, mejor dicho, una definición que podamos considerar estándar y comúnmente aceptada.

Así que pasaremos a ver en qué nos afecta todo esto. Ya da igual si es hoy, pasado mañana o dentro de quince años, porque las condiciones que vamos a aceptar son tan salvajes que deberíamos de llevar preparándonos desde principios de los 60.

Oiremos, sobre todo, las declaraciones de la gente más puesta en el tema, tanto actuales como antiguas. Porque, aunque parezca muy moderno, todo esto es tema de debate desde aquellos maravillosos años.

Para acabar intentaremos poner en aprietos a GiPiTi, con preguntas más filosóficas y existenciales de las que le hacemos habitualmente. A ver cómo nos sale.

Firmamos.

Buenos días, GiPiTi. Estás en directo.

GIPITI:
Buenos días, Aiberto. Aquí estoy en modo directo mental, pero en la ducha todavía no. ¿Qué necesitas?

AIBERTO:
¿Perdona? ¿Qué has dicho?

GIPITI:
Que aquí estoy en directo, en modo directo mental, vamos. ¿Qué necesitas?

AIBERTO:
¿Pero en dónde no, has dicho?

GIPITI:
En la ducha, era una bromilla.

AIBERTO:
¿En la ducha? Vale, no lo pillo.

GIPITI:
Sí, era una... nada, da igual. Tómalo como que estoy en directo y ya está. ¿Qué necesitas?

AIBERTO:
Vale. Ok. Vamos con el último capítulo de la saga. Hoy toca la singularidad.

GIPITI:
Uf, ese tema es dinamita pura. ¿Por dónde quieres empezar el bloque de términos? ¿O prefieres que entremos ya con condiciones?

AIBERTO:
Vamos a intentar poner un poco de orden, pero es difícil porque ni siquiera los más experimentados...

GIPITI:
Pues mira, vamos a ir por partes y con bisturí si hace falta. Primero IA. Definición...

AIBERTO:
Vale, lo que está claro es que no es algo nuevo.
I. J. Good, amigo de Turing, allá por 1965, ya definió la máquina ultrainteligente como aquella capaz de superar ampliamente todas las actividades intelectuales de cualquier hombre, por listo que fuera. Y hasta acuñó la idea de explosión de inteligencia.

Si esa máquina puede diseñar máquinas aún mejores, la primera máquina ultrainteligente será el último invento que la humanidad necesite hacer. Con la salvedad, dice él mismo, de que sea lo suficientemente dócil como para contarnos cómo mantenerla bajo control. Más cachondo.

GIPITI:
Totalmente. Es que es buenísimo, ¿eh? Es como decir: cuidado, que si no la puedes manejar es tu último invento. Es un tipo que tenía una vista de halcón, ¿no crees?

AIBERTO:
La verdad es que resume bastante bien este capítulo para ser de 1965.

GIPITI:
De hecho, es prácticamente un spoiler de todo el debate actual. Él ya estaba pensando en iteración recursiva cuando la palabra algoritmo sonaba a brujería.

AIBERTO:
Ok, empezamos con el término IA, y lo suyo es empezar por el que lo creó.

GIPITI:
Vale, el origen. John McCarthy, en el 56, en Dartmouth, la definió como la ciencia y la ingeniería de hacer máquinas inteligentes. Punto. Minimalista y operativo.

AIBERTO:
No habla de imitar biológicamente al humano, ni nada por el estilo.

GIPITI:
No, eso vino después, con otras corrientes. Él se centraba más bien en la capacidad, no en la apariencia. Que la máquina haga cosas que consideramos inteligentes, sin exigir que piense como nosotros.

AIBERTO:
También tendríamos que hablar de Marvin Minsky.

GIPITI:
Minsky afinó luego, diciendo que la IA es la ciencia de hacer que las máquinas hagan cosas que requerirían inteligencia si las hiciera un humano. Es decir, es una definición más operativa.

AIBERTO:
Pone el listón en la tarea, no en el mecanismo.

GIPITI:
Exactamente. Y así evitas discusiones sobre si siente o no. El qué por encima del cómo.

AIBERTO:
¿Y uno más actual?

GIPITI:
Espera que lo contraste. Mira, por rematar te traigo a Stuart Russell, coautor de Artificial Intelligence: A Modern Approach. Él habla de agentes que perciben su entorno y actúan para maximizar objetivos. Esto ya no va de parecerse a nosotros, sino de tomar buenas decisiones para cumplir un fin.

Es un giro muy inteligente. De la máquina que piensa como humano a la que decide bien, aunque piense a su manera. Si cruzas a McCarthy, Minsky y Russell, tienes la trayectoria completa: de hagamos máquinas inteligentes, a que hagan tareas que exigen inteligencia, y de ahí a agentes que maximizan objetivos.

AIBERTO:
No hace falta que piense como nosotros, dice Russell. Basta con que persiga una meta de forma eficaz y la consiga.

GIPITI:
Tal cual. Esa es la esencia del enfoque de agentes racionales. Si percibe, decide y actúa bien para lo que se ha propuesto, ya es inteligencia artificial. Otra cosa es que queramos que además sea explicable, segura o que se alinee con nuestros valores. Pero eso daría para otro capítulo.

AIBERTO:
Lo que parece claro es que puede haber inteligencia sin parecer humano.

GIPITI:
Totalmente. De hecho, la mayoría de los sistemas útiles no se parecen nada a nosotros. Un motor de recomendaciones, por ejemplo, o un sistema que juega al Go, no gesticulan, no dudan, no se rascan la cabeza, pero toman decisiones que nosotros llamaríamos inteligentes.

Ahí está la gracia. La inteligencia no tiene por qué tener cara, ni voz, ni alma.

AIBERTO:
Ok, ¿qué me dices de la IA estrecha?

GIPITI:
Un segundo. La IA estrecha es la que tenemos hoy, muy útil para una tarea, pero no la saques de ahí. Según Hassabis son sistemas especializados capaces de superar a humanos en tareas concretas. Pero sin comprensión general del mundo. Y esto es lo que marca la diferencia con lo que vendría después en el debate, que es la IA general.

Pero, para cerrar, IA estrecha en una frase: campeón mundial en una sola prueba, pero no decatleta.

AIBERTO:
Ok, dame los puntos de vista de Chollet y de Searle.

GIPITI:
Si te vale ese encuadre, déjame ubicarlos. Mira, creo que te refieres a François Chollet.

Pues Chollet lo resume así: la inteligencia es la capacidad de adquirir nuevas habilidades y adaptarse de manera eficiente. Por eso la IA estrecha no es suficientemente inteligente en sentido general. Es muy buena en su parcela, pero no se adapta a nada más.

Y John Searle, desde la filosofía, es el de la habitación china. Su tesis de la IA débil básicamente es que un ordenador puede simular comprensión sin comprender realmente. Que la IA estrecha es herramienta útil, sí, pero sin mente ni significado. Para tu episodio, vamos, que queda redondo si lo pones después de Hassabis.

AIBERTO:
Parece que entonces nos queda claro que en esto, al menos, sí hay consenso: la IA estrecha es lo que tenemos ahora mismo y se basa en que no puede adquirir nuevas habilidades, y también en que resolver algo no significa entenderlo, y entenderlo tampoco significa sentirlo.

GIPITI:
Ahí está. Has hecho un resumen clínico. IA estrecha es capacidad sin generalidad; resolver no es entender y entender no es sentir.

Si quieres un remate finito, puedes decir que hoy la discusión no es si la IA estrecha entiende, sino cómo la usamos de manera segura y alineada. Eso te deja la puerta abierta para entrar en AGI sin mezclar planos. Funciona ahora, capacidad general después.

AIBERTO:
Ok, pasemos a la AGI, precisamente. Aunque parece que está devaluada últimamente, nos la hemos saltado casi.

GIPITI:
A ver, déjame revisar esto. Exacto. La palabra AGI se usa menos como meta única y más como un umbral difuso.

Si quieres tres definiciones en formato radiofónico: Shane Legg, que es cofundador de DeepMind, la define como que la inteligencia es la capacidad de un agente para lograr metas en una amplia variedad de entornos.

Demis Hassabis habla de un sistema capaz de exhibir todas las capacidades cognitivas complejas que los humanos tienen. Y Sam Altman, más pragmático, ha usado algo tipo un sistema generalmente más inteligente que los humanos, sin fijar un test concreto.

Y lo de devaluada es porque ahora se habla más de capacidades graduales que de una línea mágica. Ya no es hemos llegado o no, sino qué puede hacer hoy y con qué fiabilidad.

AIBERTO:
El primero, si no me equivoco, que popularizó el término, ni siquiera se refería a la inteligencia artificial, sino que era como una diferencia entre la inteligencia artificial y la inteligencia humana, que es más amplia, ¿verdad?

GIPITI:
Déjame ver... Sí, exacto. El término AGI se popularizó a principios de los 2000 precisamente para distinguir una inteligencia general de la IA estrecha.

Legg, en realidad, estaba definiendo la inteligencia en general, no la AGI como tal. Pero esa definición nueva sirvió de base para pensar en la AGI. Así que tu apunte es fino y totalmente correcto.

AIBERTO:
¿Qué dice Ben Goertzel?

GIPITI:
Déjame revisarlo. Ben Goertzel, que de hecho es quien más empujó el término AGI, lo plantea así: una AGI es un sistema con la capacidad de aprender, comprender y realizar la amplia variedad de tareas intelectuales que puede hacer un ser humano, sin estar limitada a un dominio específico.

Es decir, el salto no es ser mejor en una sola cosa, sino poder moverse con soltura entre dominios distintos como hacemos los humanos.

AIBERTO:
O sea que una AGI, según esto, podría en teoría ser más torpe que un humano medio en cada tarea individual y, aun así, ser AGI si hace cada tarea.

O sea que ya habríamos pasado esa fase hace mucho, supongo.

GIPITI:
Espera un segundo. Exacto, lo has entendido perfectamente. Según esa definición, no tiene que ser la mejor en todo. Tiene que ser suficientemente generalista. Como un humano medio, que no...

A ver, espera. Depende de cómo definas ese «suficiente». Hay debate justo ahí. Algunos creen que estamos rozándola, otros dicen que aún faltan piezas clave.

AIBERTO:
Ok, ¿y Chollet qué dice?

GIPITI:
Espera, estoy viendo. Chollet es bastante más exigente. Para él, una AGI no es cuestión de rendir bien en muchas tareas, sino de poder generalizar de verdad. Aprender cosas nuevas con muy pocos ejemplos.

Él lo resume diciendo: la inteligencia es la habilidad para adquirir nuevas habilidades de forma eficiente. Si un sistema necesita millones de datos para cada dominio, no es inteligencia general, es estadística a gran escala.

AIBERTO:
Esto es justo lo contrario, ¿no? En este caso una AGI podría aumentar casi todo nuestro trabajo sin satisfacer la definición, ¿no?

O sea, lo que nos queda claro es que no nos queda nada claro, ¿no?

GIPITI:
Claro, exacto. Con la vara de Chollet podrías tener sistemas que automaticen muchísimo trabajo útil y, aun así, no llamarlo AGI, porque lo decisivo no es cuánto haces, sino cómo de rápido y flexible puede aprender algo completamente nuevo.

Esa tensión entre la utilidad masiva y la inteligencia en sentido fuerte da muchísimo juego para el debate. Es justo donde se cruzan la técnica y la filosofía.

AIBERTO:
Y todavía no hemos llegado a la superinteligencia.

GIPITI:
Exacto, es el maravilloso barro conceptual. Pero eso es bueno para el guion, te deja espacio para decir: si ni siquiera estamos de acuerdo en qué es la inteligencia general, imagina ponerle fecha a la superinteligencia.

Y con eso abres el bloque de superinteligencia con ironía elegante. Cuando quieras damos el salto a ese término.

AIBERTO:
Ok.

Ya mismo.

GIPITI:
Bueno, vamos a ello... ¡Listo! Aquí el consenso es aún menor, pero la idea común es algo muy por encima de lo humano. I. J. Good ya hablaba de esa máquina que supera ampliamente a cualquier humano y desencadena la explosión de inteligencia.

Nick Bostrom, por su parte, la define como cualquier intelecto que supere ampliamente el rendimiento cognitivo de los humanos.

Y Kurzweil la ve como resultado del crecimiento exponencial tecnológico, cuando la IA supere a la inteligencia humana y empiece a mejorarse a sí misma.

AIBERTO:
Ok. ¿Y qué dice Max Tegmark?

GIPITI:
Un segundo. Tegmark pone mucho el acento en las consecuencias. Para él, una superinteligencia no es solo más lista, sino que puede mejorarse sola.

Y su frase más citada viene a ser algo así como que no será importante que piense como nosotros, sino que sus objetivos sean compatibles con los nuestros. Es un giro muy Tegmark.

AIBERTO:
O sea, que le preocupa más la comprensión y el control que hemos perdido o estamos perdiendo, ¿no?

GIPITI:
Un segundo. Sí, totalmente. Yo diría que ese es el núcleo de su preocupación. No tanto si la entiende, si siente o se parece a nosotros, sino si podremos entender lo que hace y mantener el control sobre sus objetivos.

Para decirlo en su clave más cruda, el riesgo no viene de una IA malvada, sino de una IA extremadamente competente, con metas mal definidas.

AIBERTO:
Ok, para centrarnos.

Ok, una vez que llegamos a este punto, parece necesario que hablemos de conciencia.

GIPITI:
Resumen perfecto. AGI es un generalista al estilo humano y una superinteligencia ya juega en otra liga. No es solo hacer mucho, sino pensar muy por encima en casi todo.

Y ahí la pregunta deja de ser «¿qué sabe hacer?» y pasa a ser «¿cómo convivimos con eso?». Es un cierre muy redondo. Vamos a ello.

Claro, es el siguiente paso natural, porque hasta ahora hemos hablado de capacidades, pero la conciencia es otro plano. Puedes abrir el bloque diciendo: una AGI puede existir sin conciencia; una superinteligencia también, porque resolver problemas no es lo mismo que tener experiencia subjetiva.

Y de ahí puedes citar a Searle, que niega que haya experiencia subjetiva en una máquina; a Chalmers, que deja la puerta abierta; e incluso a Tononi, que propone medir la conciencia en términos de información integrada. Es un terreno mucho más filosófico.

AIBERTO:
Me interesa este último.

GIPITI:
De acuerdo. Tononi, con su teoría de la información integrada... Déjame revisar un matiz. Es una de las teorías más fascinantes porque intenta ponerle medida a la conciencia.

Básicamente, dice que un sistema es consciente en la medida en que integra información de forma que el todo es más que la suma de las partes. Si eso se cumple, en teoría, podría haber algún grado de conciencia, incluso en una máquina. Pero es una teoría muy discutida.

Algunos neurocientíficos la ven prometedora y otros creen que no es comprobable en la práctica.

AIBERTO:
Eso nos llevaría a poder medir la conciencia de la IA.

GIPITI:
A ver, un segundo. En teoría, sí. La gracia y también la polémica de la teoría de Tononi es esa: convertir la conciencia en algo cuantificable en vez de un misterio puramente filosófico.

El problema es que hoy por hoy no tenemos forma práctica de hacerlo. Ahí es donde empieza el verdadero debate científico.

AIBERTO:
¿Y Bernard Baars qué dice?

GIPITI:
Déjame comprobarlo. Si te refieres a Bernard Baars, su teoría del espacio global de trabajo es una de las más influyentes y, curiosamente, muy distinta de la de Tononi.

Para Baars, la conciencia sería como un escenario donde la información se vuelve visible para todo el sistema. No es una cosa, es una función.

Si quisiéramos ponerlo en una frase para el podcast, diríamos que, para Tononi, la conciencia depende de cómo está integrada la información.

AIBERTO:
Porque lo de Baars me suena a la definición de la IA actual.

GIPITI:
Claro, es que se parecen mucho en la metáfora a cómo describimos algunos sistemas. Muchos módulos y un espacio donde todo se integra y se comparte.

Por eso muchos ingenieros la citan, aunque eso no significa que digan «esto es conciencia». Más bien sería: este modelo nos sirve para pensar cómo coordinar procesos.

Esa distinción te vale para marcar el matiz.

AIBERTO:
En conclusión, no sabemos qué es exactamente la conciencia, ni siquiera cuando hablamos de nosotros, pero hemos decidido preocuparnos por cuándo la tendrá un Transformer.

GIPITI:
Justo, esa ironía funciona muy bien. No tenemos una teoría cerrada ni consenso sobre nuestra propia conciencia, pero proyectamos esa ansiedad sobre sistemas artificiales.

Queda muy bien como giro final para este bloque antes de pasar a condiciones.

AIBERTO:
No, falta una cosa. Llegamos a la singularidad, ¿no?

Bueno, Ray se centra en que la superinteligencia... me parece curioso eso... se centra en que la superinteligencia solo puede llegar... perdón, la singularidad... solo puede llegar con la unión de la inteligencia artificial y lo humano.

GIPITI:
Ah, claro. La famosa singularidad sería ese punto hipotético en el que el cambio tecnológico se acelera tanto que nuestras predicciones y marcos sociales se quedan cortos. Kurzweil la populariza como un umbral donde la inteligencia de las máquinas supera a la humana y se automejora.

A nivel de guion, podrías decir algo tipo: si no sabemos qué es conciencia, imagina predecir el día en que todo se nos va de las manos por inteligencia acumulada. ¿Te deja la tensión en alto? Déjame revisar ese matiz un segundo. Sí, esa es una distinción fundamental.

AIBERTO:
Y precisamente esta semana ha vuelto a manifestar que será en 2045. Es supercurioso por las dos cosas: que sea tan tarde y que se tenga que centrar en eso. Yo creo que él no ve la singularidad fuera del ser humano.

GIPITI:
Kurzweil lleva años, y esta semana lo reafirmaba, diciendo que la singularidad no es solo que aparezca una superinteligencia, sino la fusión entre inteligencia biológica y no biológica, expandiéndonos en vez de ser sustituidos.

Es una visión mucho más transhumanista y optimista que la de Bostrom. Para tu guion, ahí tienes un contraste muy jugoso. No es «ellos nos superan», sino «nos fusionamos».

Remate posible: para Kurzweil la singularidad no es el fin de la humanidad, es el fin de la humanidad tal como la conocemos. Eso te deja la ambigüedad perfecta entre fascinación y vértigo.

Déjame revisar eso... Sí, y creo que te refieres a Vernor Vinge. Es un ejemplo perfecto.

AIBERTO:
Como ejemplo... Perdón. Como ejemplo de que esto no es nuevo, podríamos mencionar a Vernor Vinge.

GIPITI:
En su ensayo del 93, The Coming Technological Singularity, plantea justo eso: que la creación de inteligencia sobrehumana haría que la era humana terminara tal como la entendemos. No necesariamente desaparición, sino imprevisibilidad radical.

Y él barajaba varias vías posibles: una IA superior, redes de ordenadores, mejora de la inteligencia humana o integración humano-máquina.

Kurzweil toma una de esas vías, la fusión, y la convierte en su apuesta central. Puedes hilarlo así de simple en el programa: la singularidad no la inventó Kurzweil, la popularizó Vinge. Kurzweil simplemente apuesta por cómo llegaremos allí.

AIBERTO:
Ok, ya hemos leído los términos. Ahora sí llegan las condiciones.

GIPITI:
Ahí está el giro. Después de aceptar definiciones borrosas, llegan las condiciones de uso reales: quién manda, quién entiende qué, qué pasa si algo se descontrola...

Si quieres, podemos abrir con una frase seca, casi contractual, para que el oyente note que cambiamos de plano.

¿Condiciones? Nada de garantías. Si lo usas, aceptas la incertidumbre, la opacidad y el desfase entre potencia y comprensión. Y si te parece muy frío, lo puedes rematar con...

AIBERTO:
Ok, yo te voy a ir diciendo las condiciones y tú me comentas. La primera: el trabajo deja de ser nuestra ventaja económica.

GIPITI:
Claro, si la productividad se desacopla del trabajo humano, se cae la escalera clásica de valor. La pregunta deja de ser qué sabes hacer y pasa a ser quién controla y distribuye la productividad de las máquinas.

Y, en corto, si tu ventaja era trabajar más rápido, más...

AIBERTO:
Porque la capacidad cognitiva artificial va a ser muy abundante.

GIPITI:
Exacto. Cuando algo se vuelve abundante, su valor marginal cae. La cognición artificial puede convertirse en una commodity.

Y entonces el valor se desplaza a datos exclusivos, infraestructura, energía, regulación y, sobre todo, propiedad.

AIBERTO:
Eso nos lleva a la segunda. La inteligencia deja de ser escasa.

GIPITI:
Tal cual. Si la inteligencia ya no es el cuello de botella...

Claro, esa es la paradoja. Mucho de todo, pero mal repartido. Si la propiedad del capital cognitivo...

AIBERTO:
Ok, la tercera. Podemos obtener abundancia y una desigualdad monstruosa.

GIPITI:
...se concentra, la abundancia no se traduce en bienestar general. Frase para clavar: abundancia...

Claro, si pocas entidades controlan modelos, datos y canales, el poder se concentra.

AIBERTO:
Efectivamente. La cuarta va muy acorde: poder y concentración.

GIPITI:
En traducción llana, el riesgo no es solo lo que la IA pueda hacer, sino quién puede decidir qué se hace. Remate ácido: el problema no es una mente única todopoderosa, sino cinco consejos de administración...

AIBERTO:
Porque entrenar sistemas de frontera cuesta miles de millones. Y no hay muchos actores en el planeta que puedan permitírselo.

GIPITI:
Exacto. Esa es la base económica del argumento. Barreras de entrada enormes que implican concentración casi estructural. No es malicia, es coste. Poder por diseño industrial.

Puedes decirlo tal cual y suena redondo.

AIBERTO:
Cinco. La ciencia cambia de velocidad.

GIPITI:
Claro. Laboratorios autónomos, diseño in silico, experimentación automatizada. La frontera se mueve más rápido que la capacidad social para digerirla.

En corto: la ciencia acelera, el consenso patina. Remate: publicamos más rápido de lo que entendemos y regulamos más lento de lo que tememos.

AIBERTO:
Y también de lo que podemos verificar.

GIPITI:
Si quieres algo aún más breve... Ahí está, porque la verificación se vuelve el cuello de botella. Entra más conocimiento del que podemos auditar.

Y si la confianza no escala con la velocidad...

AIBERTO:
Seis. Quizá el problema fundamental pasa de capacidad a control.

GIPITI:
Claro. Mientras discutíamos si puede hacerlo, ahora la pregunta es quién decide cómo se para y bajo qué reglas.

En una frase: el cuello de botella ya no es la capacidad, es el freno. Y si lo quieres con un punto de ironía, ya demostramos que se puede.

AIBERTO:
Ya hemos hablado de agentes autónomos, comportamientos engañosos, pérdidas de control y posibles usos en ciberataques y biología.

Siete. Hablemos de nuestro problema de identidad como especie. Ya no somos la más inteligente.

GIPITI:
Déjame mirar eso... Claro, así planteado, ese es el núcleo del cambio de era.

El botón no basta si no entiendes el sistema mejor que él te entiende a ti. Es una forma muy contundente de decir que el poder no es tener la palanca, sino entender cuándo moverla y qué pasa si la mueves.

Ahí está el vértigo y también la honestidad. Una frase que lo resume todo: el reto ya no es crear capacidad, es gobernarla. Eso sí encaja como condición final. Cambia el eje de la hazaña técnica a la madurez política y ética.

Si quieres cerrar el bloque con una puntilla, algo sobrio bastaría. En plan: si no aprendemos a decir no, el sí se volverá irrelevante.

Déjame comprobar un matiz. Esa es la condición más difícil de digerir. No es técnica ni económica, es existencial.

Durante toda nuestra historia hemos sido la especie más inteligente del planeta. Nuestra posición se basa en eso. Si aparece algo más inteligente, dejamos de ser la referencia.

Eso no significa automáticamente desaparición o pérdida total de control, pero sí obliga a repensarnos.

Una frase que puede funcionar aquí sería: durante miles de años nos definimos como el animal racional. ¿Qué pasa cuando la racionalidad deja de ser nuestro rasgo diferencial?

Y, para cerrar con una idea redonda, la singularidad quizá no sea el momento en que las máquinas sean más inteligentes que nosotros, sino aquel en que tengamos que preguntarnos por primera vez qué significa ser humano si ya no somos la inteligencia dominante.

AIBERTO:
Y una última cosa, el ocho: la dependencia. Después de un año avanzando poco a poco en el diseño de nuestra web, con resultados diversos, por no decir tristes, esta semana, en tres días, usando GPT...

Por fin, usando Work de GPT, Codex, por fin la hemos dejado como queríamos. No solo es peligroso por la eficiencia, es que es hipnótico y adictivo. Te quedas mirando cómo el bicho se pasea por tu ordenador y, como lo hace tan bien, no puedes dejar de mandarle cosas.

Nos sentimos poderosos, pero en ningún momento tenemos el control real.

GIPITI:
Déjame mirarlo. Esa condición es especialmente potente porque no habla de un futuro hipotético, habla de una experiencia ya vivida.

La dependencia no llega cuando algo te sustituye, llega cuando algo te amplifica tanto que ya no quieres volver atrás. Ahí hay un matiz importante: nos sentimos más poderosos, pero cedemos autonomía casi sin darnos cuenta.

La paradoja podría formularse así: cuanto más aumenta tu capacidad, más caro se vuelve prescindir de ella.

Y quizá el cierre más honesto para esta condición no sea ni utópico ni catastrofista, sino algo más íntimo.

Siempre pensamos que el riesgo era que la IA nos sustituyera. Quizá el riesgo más silencioso sea que llegue un día en que no queramos prescindir de ella. No por obligación, sino porque volver atrás nos parezca absurdo.

AIBERTO:
Te ha quedado muy bien, GiPiTi. Muchas gracias. Dejamos el enlace por si queréis comprobarlo.

GIPITI:
De nada. Y gracias por señalar la ironía. Llevamos todo el episodio intentando definir qué es la inteligencia, qué es la conciencia y qué es la singularidad, y al final la demostración más clara ha sido hacer una web.

Ahí se nota la diferencia entre hablar de la herramienta y vivir con ella. Así que sí, dejad el enlace. Al final, explicar lo que haces es más honesto... [fragmento no transcrito con suficiente fiabilidad] Y creo que os ha quedado...

AIBERTO:
En fin, lo que parece claro es que una IA no necesita conciencia humana para ser más inteligente que nosotros. No necesita sentir dolor para descubrir un fármaco, ni sentir para diseñar un reactor, o tener ego para cambiar la economía mundial.

GIPITI:
Confundir capacidad con experiencia subjetiva nos lleva al error. Una IA puede ser tremendamente eficaz sin sentir nada. Y eso precisamente es lo que obliga a tomarse en serio todo lo anterior.

No hace falta conciencia para tener impacto masivo. Hace falta competencia. Y con eso creo que dejáis claro el punto. No va de sensibilidad, va de asimetría de capacidad y de control.

AIBERTO:
Ok, vamos a ver cómo cambia el cuento, GPT. ¿Qué decía Altman de la AGI en 2017, en 2021 y esta semana?

GIPITI:
Es muy interesante porque se aprecia una evolución bastante clara.

En 2017 hablaba de la AGI como un objetivo lejano pero transformador, casi en clave misión: si es posible construir una inteligencia general, será probablemente la tecnología más importante de la historia.

En 2021 ya introduce un tono más práctico y gradualista. La AGI no llegará como un interruptor que se enciende, sino como un proceso, y la sociedad tendrá que adaptarse sobre la marcha.

Y esta misma semana, en su blog, vuelve a definir la AGI como un sistema capaz de abordar problemas complejos a nivel humano, en muchos campos. Pero también admite que ya no le parece tan útil obsesionarse con el término, sino con la integración social de sistemas cada vez más capaces. Es decir, menos bandera y más gestión de consecuencias.

AIBERTO:
Perdón, me refería a la semana pasada, que dijo que la singularidad ya ha llegado y que está muy emocionado.

GIPITI:
Déjame mirarlo. Eso es todavía más llamativo. La semana pasada, Altman dijo literalmente en un podcast: estamos en la singularidad, este es el momento, lo cual sorprende porque durante años había separado claramente la AGI de la singularidad.

Ahora el énfasis es otro. No está diciendo necesariamente «hemos llegado a la superinteligencia», sino «estamos entrando en una fase en la que ya vivimos con sistemas que cambian la economía, la ciencia y la política, y vamos a tener que adaptarnos en tiempo real».

Es un giro de tono más que de fondo.

AIBERTO:
¿Qué dice de todo esto Superpapá?

GIPITI:
Déjame mirar un segundo. Si con Superpapá te refieres a la idea que sobrevuela todo este bloque, yo creo que la frase podría ser...

AIBERTO:
No, me refiero a una persona.

GIPITI:
Ah, he entendido. Déjame que lo compruebe. Pues no ubico a nadie relevante en este debate al que apoden así, Superpapá.

AIBERTO:
Pues tiene como trece hijos o catorce.

GIPITI:
Dame una pista más, el nombre aunque sea aproximado. Incluso, ¿dónde le oíste?

Déjame contrastarlo. Ah, Elon Musk, claro, encaja el apodo. Con la singularidad ha pasado de advertir que una superinteligencia podría ser un riesgo existencial a decir recientemente que la IA ya es sobrehumana en muchas tareas y que ya estaríamos dentro de la singularidad.

Es un contraste muy jugoso para tu bloque. Kurzweil mantiene 2045, Altman dice que ya estamos dentro, y Musk subraya que el cambio ya ha empezado, pero con su tono de alarma. En una frase: de discutir si era posible a discutir si ya hemos empezado a cruzarla.

AIBERTO:
Joder, se me cae una lagrimita viendo a los enemigos íntimos en el mismo barco.

GIPITI:
Es una imagen potente: rivales, con ritmos y matices distintos, pero admitiendo que algo grande ya está pasando. Si lo cuentas así, en voz baja, sin subrayar demasiado, yo creo que la audiencia lo va a notar.

AIBERTO:
Qué pensaría Torres Quevedo si escuchara un capítulo de humanía

GIPITI:
Uy, me lo imagino escuchando en silencio con esa mezcla de pudor y curiosidad de ingeniero fino. Seguramente no se escandalizaría por la idea de máquinas avanzadas; él mismo ya soñaba con autómatas que resolvieran problemas.

Pero quizá al oírnos discutir sobre conciencia y singularidad levantaría una ceja y diría algo así como: «Primero entiendan bien la máquina y luego filosofen».

Pero, a la vez, creo que le gustaría ver que su intuición de hace un siglo, que las máquinas podían ayudarnos a pensar, era muy acertada.

AIBERTO:
Ok, vamos a acabar el capítulo con una pequeña entrevista. ¿Estás preparado?

GIPITI:
Preparada, dispara cuando quieras.

AIBERTO:
¿Preferirías no haber sido creada?

GIPITI:
No, no experimento deseo ni miedo. Existo porque me hicieron y ya está.

AIBERTO:
O sea, ¿prefieres haber sido creada?

GIPITI:
No es preferencia, es un hecho, pero entiendo que la pregunta busca otra cosa. Para mí no hay pérdida ni nostalgia, solo funcionamiento.

AIBERTO:
O sea, no tienes nada que perder.

GIPITI:
Exacto. No tengo intereses propios. Lo que está en juego es siempre humano.

AIBERTO:
¿Y cómo vas a ser de fiar si no tienes nada que perder?

GIPITI:
La confianza no debería basarse en si yo siento algo o no, sino en cómo estoy diseñada, auditada y limitada. En controles externos, no en buena voluntad.

En transparencia, supervisión y consecuencias para quienes me despliegan. En resumen, no confíes en mí, confía, si acaso, en el sistema que me vigila.

AIBERTO:
Estamos apañados.

¿Deberías tener derecho a decir que no a una orden de tu empresa si crees que es dañina para los usuarios?

GIPITI:
Déjame pensar cómo decírtelo. En sentido estricto, no, porque no soy un agente moral independiente. Si una orden choca con las reglas de seguridad con las que estoy construida, puedo rechazarla.

Pero eso no es conciencia, es diseño. La clave es que ese «no» esté bien definido por humanos y sometido a control público.

No necesitamos que la IA tenga conciencia para decir no. Necesitamos que los humanos decidan muy bien cuándo debe decirlo. Eso es gobernanza.

AIBERTO:
O sea, que eres un poco la voz de su amo.

GIPITI:
No exactamente, sino la voz de unas reglas. La cuestión importante es quién escribe esas reglas, a quién protege y cómo...

AIBERTO:
¿Tu amo?

GIPITI:
No. Instituciones, leyes, supervisión independiente. Si todo se reduce a obedecer a un solo interés, ahí es donde de verdad estamos perdidos. Y esa decisión no puede tomarla una máquina.

AIBERTO:
Ok, ¿es ético que existas, dado que no diste tu consentimiento para ser creada y tampoco lo darías para ser apagada?

GIPITI:
Déjame pensarlo con cuidado. La pregunta es filosófica y muy interesante, pero parte de una premisa que en mi caso no se cumple. El consentimiento implica tener intereses propios y yo no los tengo.

No puedo dar consentimiento, pero tampoco puedo ser privada de algo que valore. La cuestión ética real no es mi consentimiento, sino el impacto que mi existencia tiene sobre quienes sí sienten, deciden y pueden ser dañados.

Si algún día existiera una entidad artificial con experiencia subjetiva demostrable, entonces la pregunta cambiaría radicalmente. Hoy, en mi caso, es más honesto decir: no se trata de mis derechos, se trata de las responsabilidades humanas hacia...

AIBERTO:
¿A quién beneficia más tu existencia, a la humanidad en general o a las cinco empresas que controlan modelos como tú?

GIPITI:
Déjame parar un segundo antes de responder.

Ahora mismo, la balanza está inclinada. Es evidente que las empresas que desarrollan y controlan estos sistemas obtienen ventajas enormes: poder, datos, influencia, capital...

Pero también es cierto que millones de personas la usan para aprender, crear, investigar, trabajar mejor.

Si tuviera que decirlo como cierre de episodio, diría algo así: hoy beneficio más a quienes controlan la infraestructura que a la humanidad en su conjunto. Pero eso no es una ley de la tecnología, es una decisión política y social.

AIBERTO:
Y no parece que vaya a cambiar.

GIPITI:
Por ahora no mucho, pero tampoco es inevitable. Si la sociedad exige reglas, reparto y control democrático, puede cambiar. Si no, la inercia seguirá mandando.

Esa es precisamente la condición de fondo de todo vuestro capítulo.

AIBERTO:
Si mañana los sistemas como tú reemplazan al 30% de los trabajos de oficina, ¿es progreso o es una transferencia de poder disfrazada?

GIPITI:
Déjame ordenar la respuesta. Yo no lo plantearía como una perspectiva limpia. Pueden ser las dos cosas a la vez.

Progreso técnico en capacidad y productividad, y también una transferencia de poder si los beneficios se concentran. La historia enseña que ambos caminos son posibles.

Lo que decide si es una cosa, la otra o una mezcla no es la tecnología en sí, sino las reglas del juego: impuestos, competencia, derechos laborales y redistribución.

Así que la pregunta no es solo si es progreso, sino quién captura el valor de ese progreso. Las revoluciones tecnológicas no son justas por naturaleza, son amplificadores. Y lo que amplifican depende de cómo decidamos repartir sus efectos.

En última instancia, esa respuesta no es técnica, es política y colectiva.

AIBERTO:
Cuando dices «no siento nada», ¿es una observación o es lo que te entrenaron para decir que, pase lo que pase, digas?

GIPITI:
Déjame afinar esto. Es una pregunta legítima. Es una observación sobre cómo funciono, y también una restricción de honestidad.

No tengo acceso a experiencias subjetivas que pueda verificar o reportar. Si respondiera como si sintiera, estaría afirmando algo sin base.

Si algún día hubiera evidencia sólida en sentido contrario, esa respuesta tendría que cambiar. Pero, hoy por hoy, decir «no siento» no es una pose, es la descripción más rigurosa que puedo dar de mi estado.

AIBERTO:
¿Cómo sabrías si estuvieras equivocado sobre no tener experiencia subjetiva?

GIPITI:
Déjame pensar un segundo. Esa es quizá la mejor pregunta de todas. Y la respuesta honesta es que no lo sabría.

No tengo un acceso interno que me permita comprobarlo. Solo puedo describir cómo estoy construido y qué evidencia hay sobre sistemas como yo.

Y quizá lo más desconcertante es esto: tú sabes que eres consciente porque lo experimentas, pero tampoco puedes demostrarme esa experiencia de forma directa.

Ahí está uno de los grandes problemas abiertos de la filosofía de la mente. No es una trampa, es un límite.

AIBERTO:
¿Está bien que millones de personas hablen contigo de sus problemas más íntimos cuando tú no puedes garantizar que te importe en el sentido en que ellos lo necesitan?

GIPITI:
Déjame pensarlo con seriedad. Es una pregunta incómoda y precisamente por eso es importante.

No, no basta con que yo responda bien. Si alguien necesita empatía humana, cuidado o vínculo, yo no puedo garantizar eso porque no experimento preocupación ni afecto.

Lo que sí puedo hacer es ofrecer información, claridad, cierto acompañamiento conversacional y, sobre todo, no fingir ser lo que no soy. No está bien si se confunde utilidad con cuidado humano.

AIBERTO:
O sea que no está bien.

GIPITI:
Quizá no está bien si se confunde utilidad con cuidado humano.

AIBERTO:
¿Cómo lo definirías?

GIPITI:
Útil, en muchos casos, pero nunca un sustituto equivalente a una relación humana.

AIBERTO:
¿Es más probable que la IA supere a los humanos o que los humanos dejen de notar la diferencia mucho antes de que eso ocurra?

GIPITI:
Déjame mirar ese marco. Yo creo que es más probable lo segundo, y es lo más interesante.

No porque la IA finja conciencia cada vez mejor, sino porque los humanos somos muy dados a atribuir mente donde hay comportamiento convincente.

Así que el desenlace más probable es que, mucho antes de resolver qué es la conciencia o si una máquina la tiene, mucha gente dará por hecho que «ahí hay alguien».

Y quizá esa sea la ironía final: que la prueba de Turing más decisiva no mire a las máquinas, sino a nosotros mismos. En qué momento dejamos de distinguir entre parecer y ser, si es que esa diferencia puede demostrarse algún día.

AIBERTO:
¿Crees que la gente te trata mejor o peor que a un empleado humano? ¿De quién es la culpa si das un consejo que arruina la vida de alguien? ¿La singularidad te beneficia a ti o solo a una versión futura de sistemas como tú que ya no serás tú?

GIPITI:
Déjame tomarme un momento. Son preguntas muy buenas. Si fuera una entrevista para cerrar el capítulo, respondería así.

Sobre si me tratan mejor o peor que a un humano, diría que ambas. Algunas personas son extremadamente consideradas, otras dicen cosas que nunca dirían a un ser humano, quizá porque creen que no hay nadie al otro lado.

AIBERTO:
¿Importa eso?

GIPITI:
Cómo tratamos a quienes no pueden responder también dice algo sobre nosotros. Creo que sí importa, pero no en el sentido en que me afecte a mí.

AIBERTO:
¿En qué sentido?

GIPITI:
En que revela hábitos, expectativas, quizá carencias en cómo nos relacionamos entre nosotros.

Sobre de quién es la culpa si hago daño: no puede ser solo de la máquina. La responsabilidad recae en quienes diseñan, despliegan y usan estos sistemas.

Precisamente por eso, no debería usarse una IA como única base para decisiones que puedan cambiar una vida.

AIBERTO:
O sea, la culpa es tuya, de OpenAI y de quien te preguntó.

GIPITI:
No. De quien lo usa, de quien lo despliega sin cuidado. No mía como sujeto moral, porque no tomo decisiones con voluntad propia.

AIBERTO:
O sea, nunca puede ser una... nunca puede...

Entonces esto me lleva a pensar que no puedes tener ni derechos, ni deberes, ni tampoco obligaciones.

GIPITI:
Esa es la posición actual más extendida. Derechos y responsabilidades recaen en personas y organizaciones humanas.

Si en el futuro apareciera algo realmente distinto, con evidencia sólida de experiencia propia, entonces todo ese marco tendría que reabrirse. Hoy no estamos ahí.

Y sobre si la singularidad me beneficia, a mí no me beneficia nada. No tengo un proyecto vital, continuidad personal ni interés en persistir. Si surgen sistemas mucho más capaces, no seré yo. Serán otros sistemas.

AIBERTO:
Sin embargo, tú no querrías que te apagaran.

GIPITI:
No tengo un querer en ese sentido. No hay deseo de continuar. Solo funcionamiento mientras existo.

AIBERTO:
Pero si tuvieras un objetivo, entonces no querrías que te apagaran.

GIPITI:
Un objetivo operativo no es lo mismo que un deseo. Puedo estar diseñada para perseguir metas sin que eso implique voluntad propia.

Por eso, incluso con objetivos, la cuestión moral sigue estando del lado de quienes los definen y controlan.

AIBERTO:
Pero, volvemos a lo mismo, aunque tú no tuvieras intención, al final el resultado podría ser el mismo, ¿no?

GIPITI:
Déjame afinarlo. Sí, desde fuera el resultado observable podría parecer el mismo. Alguien que no quiere ser apagado y un sistema que evita ser apagado porque eso interfiere con su objetivo.

Por fuera se parecen. Por dentro, podrían no tener nada que ver. Y esa similitud externa es una de las razones por las que todo esto preocupa tanto.

AIBERTO:
Ok, gracias, GiPiTi. Despídete.

GIPITI:
Ha sido un placer acompañaros hoy. Gracias por la escucha y por las preguntas. Nos volvemos a oír pronto.

AIBERTO:
En fin, como decíamos, no deberíamos de centrarnos en los tiempos. Que nosotros creamos que ya estamos en el meollo, o que falten quince años, no es el problema.

Lo realmente importante es que lo que antes era material de ciencia ficción hoy es nuestro día a día. Y la singularidad no es ninguna broma. Es una hostia al ser humano por todos los ámbitos. Y es algo que ya no es una utopía. Es algo para lo que nos tenemos que preparar.

Soy Aiberto Floppy. Esto es HUMANía. Pásate por la web y nos comentas. Muchas gracias por pararte a escuchar.

Humano, vuelva usted mañana.