Skynet no será de código abierto

Muy buenos días humano.

Bienvenido a tu podcast AI IA HOY, no lo digo por decir. Estamos en familia.

Hoy vamos a hablar de un tema que siempre ha sido polémico. Pero que con la IA, se ha convertido en crucial.

El OpenSource, es el camino para una IA justa, o es la puerta de entrada de la destrucción de la humanidad.

Hola GiPiTi.

((( Hola, oyentes de AI IA HOY! Aquí GiPiTi, listo para una nueva dosis de inteligencia artificial y risas. Hoy vamos a hablar sobre el maravilloso mundo del open source. ¿Sabían que el código abierto no es solo para genios encerrados en sótanos oscuros? ¡No, no! Es para todos, incluso para tu abuela que hace las mejores empanadas. Porque, al final, compartir es cuidar, y el open source es como una receta secreta que todos pueden mejorar. ¡Vamos a descubrir juntos más curiosidades y datos divertidos sobre este fascinante tema. )))

Vamos a ver qué cosas…

Abrimos.

Definir que es de código abierto en programación, es relativamente fácil.

GiPiTi?

((( El open source, o código abierto, es software cuyo código fuente está disponible para que cualquiera lo vea, lo use, lo modifique y lo distribuya. En pocas palabras, es como una receta de cocina que todos pueden mejorar y compartir. )))

Sin embargo, la IA, lo cambia todo, y no es tan fácil, como decir que han liberado el código.

Hoy vamos a hablar con la cabeza visible de una iniciativa que pretende poner las bases de este concepto.

Ariel Jolo.

OpenSource Iniciative (OSI, por las sido en inglés) estudia desde 1998 como es la convivencia entre la IA y el software.

En la presentación en OpenEurope 2024 Ariel empezó haciendo un repaso de la historia de la IA, muy breve pero muy acertado.

Turing, Dartmoun, Eliza, Deep blue, Geopardy, Go y GPT.

OSI, se plantea la convivencia y ahora la dependencia con y de la IA.

Y parte del problema que representa el Gran poder que representa, y que abaran unas pocas empresas.

Nos hablo de cómo

Películas, libros… Terminator. Nos han contado a lo que lleva este problema. Y nos dijo, que…

Hoy estamos más cerca, la concentración es el futuro.

Habló de La importancia de los datos, el dinero y el tiempo.

Factores clave en el mundo IA actual. Que se puede resumir en dinero.

De las Alianzas entre IA y empresas con datos, nuestro datos, como las redes sociales.

En este punto dijo algo muy significativo.

Minuto 6.51

Comento la Regulación europea, es un tema complejo, y es necesaria.

Habló del OpenSource como medio para frenar esto. Y Planteó que no nos damos cuenta del poder real de este tipo de tecnología.

OpenSource definition está trabajando en diferentes items que definen de forma binaria si un software es o no es de código abierto en IA.

Ya que No se puede liberar el dataset. Por problemas de legislación y privacidad. Es necesario este tipo de herramientas.

Desde OSI sirven de facilitadores, para la reunión de agentes, y esta en la búsqueda de un consenso, para llegar a una definición real y eficiente.

Sacarán la Versión estable a finales de octubre. Hablaremos con ellos entonces, para que nos cuenten más del proyecto.

Vamos con la entrevista, perdonar el sonido, pero era una Expo y el ruido era demasiado humano.

Aiberto: Bueno, estamos con Ariel Joulo.

Ariel: Jolo, cómo suena.

Aiberto: vale, Ariel Joulo.

Ariel: Jolo.

Aiberto: Perdón.

Ariel: No hay problema.

Aiberto: Bueno, estamos con Ariel Jolo. He escuchado ahora su charla que me ha parecido de las más interesantes del congreso.

El título ya de por sí ha sido muy acertado. Se titulaba Skynet no será de código abierto. Y es un tema que nos interesa mucho y por eso queríamos hablar con él. Entonces, en primer lugar, preséntate un poco y dinos, porque el currículum es impresionante.

Resúmenos tú lo que te parece más importante.

Ariel: Hace 12 años comencé lo que se conoce como una de las comunidades más grandes de Latinoamérica de software, que es Cisarmi. dije de Latinoamérica, pero la verdad es que ya ha trascendido fronteras.

Estamos en todo Latinoamérica, también en Inglaterra, en Países Bajos y aquí en España también. Y desde este año estoy trabajando en la Open Source Initiative, la OSI, que somos los defensores del software de código abierto.

Aiberto: Me parece muy interesante porque una de las cosas que se dice siempre es que el código abierto es muy peligroso porque los malos agentes lo pueden utilizar para el mal, pero es obvio que los malos agentes, por llamarlos de alguna forma, tienen medios y van a conseguir esta tecnología.

Ariel: Sí, perdón, no hace falta, primero que nada que sea de malos y segundo, puede utilizar software privado también. Si quieres hacer el mal, va a ser el mal. El software no deja de hacer una herramienta como un martillo, una puede hacer una casa o puede hacerle daño a alguien.

Aiberto: Me ha parecido muy interesante, por ejemplo, lo que has dicho, el volumen de producción que tiene el código abierto en el mundo. Si que lo sabíamos que era importante, pero los datos son abrumadores.

Ariel: Sí, hay un estudio de Harvard de enero de 2024 que estima que el aporte económico, el aporte ejecutamente de la economía de Open Source es de 8.8 billones de dólares, considerando que si las empresas, si no existía Open Source, si no había existido Open Source y todas esas empresas tuvieran que salir a producir desde cero el código que utilizan, las herramientas, las librerías y demás desde cero o comprarlo, tendrían que ponerlo 8.8 billones de dólares, y como referencia lo que teníamos en la presentación es que el presupuesto de Estados Unidos de 2023 fue de 6 billones de dólares y la capitalización de mercado de Microsoft de hoy en día es de 3 billones, o sea casi unas tres veces menos de lo que aporta el open source al mundo.

Aiberto: El problema quizá de esto es que claro, toda la inteligencia artificial necesita unos medios, unos volúmenes de datos y unos volúmenes de dinero, de capital que es imposible para el open source. Entonces, ¿cuál es el medio para evitar eso?

Que las 8 que dominan el mundo son las que van a conseguir…

Ariel: Y para nosotros justamente es tener la posibilidad de que existan soluciones abiertas, soluciones libres donde cualquiera de nosotros pueda tener acceso a ellas.

Nosotros hace 26 años que venimos manteniendo la definición de open source software donde le garantizamos al público ciertas libertades, a la humanidad, no? ciertas libertades y lo que estamos haciendo hoy en día es escribir una definición que le permita a la gente, gozar esas mismas libertades a la hora de utilizar inteligencias abiertas.

comentaba en la charla que no es casual, las películas que se nos presentan en una plataforma o las series o las posibilidades que tenemos de conseguir una entrevista de trabajo o un crédito, porque eso viene siendo dominado hace unos tres años ya por inteligencias artificiales, cerradas, nosotros no tenemos transparencia, nosotros no sabemos como fueron entrenadas, qué tipo de sesgos tienen, sino que al contar que somos víctimas en algún punto o dependemos de ellas.

Lo que nosotros proponemos de la open source initiative es que eso no puede ser así, que necesitamos un mundo donde cualquier persona pueda gozar de los beneficios donde cualquiera pueda utilizar, pueda estudiar, pueda modificar y pueda compartir esos intereses artificiales para beneficiarnos todos.

Ariel: Otra de las cosas que me has dicho que me pareció muy interesante es que va a ser una definición abierta, porque el mundo de la IA, de la tecnología, es imposible, o sea, con una definición cerrada no llegaría, hoy puede ser pero mañana ya no, entonces hay que adaptarse continuamente.

Ariel: Sí, la definición la venimos estudiando hace dos años ya y está esperada para salir a fines de este año, a fin de octubre, pero sabemos que no va a estar escrito en piedra, sino que va a ser lo que va a ir evolucionando a medida que vaya evolucionando la intensidad artificial.

Hay cosas que nosotros hace tres años no nos imaginamos que iban a hacer posibles y la verdad es que no sabemos qué es lo que va a hacer posible aquí tres años, entonces sería muy naìf si se quiere de nuestra parte decir, bueno, esta es la definición y punto, porque la realidad es que esto va a seguir evolucionando, lo que ramos o no es inevitable, entonces de nuestro approach, que siempre es muy pragmatico, es entender que, ok, al día de hoy, a octubre de 2024, estas son el set de criterios que tiene que cumplir una inteligencia artificial para ser considerada abierta, eso puede variar en noviembre de 2024, en noviembre de 2026 o en noviembre de 2030.

Aiberto: o cuando salga GPT -5.

Ariel: Tal cual, por ejemplo hay que ver qué es lo que ocurre con eso, la verdad es que de nuestro approach siempre es el observar, el entender y el actuar, por supuesto, así que por eso venimos haciendo este trabajo tan arduo de definir que es una inteligencia artificial abierta.

Aiberto:Y por último, dos preguntas que no tienen tanto beber con tu campo, pero me interesa saber tu opinión. ¿Qué te parece el sistema de regulación de la Unión Europea, la AI Act?

Ariel: Mirá, la verdad es que no me siento capacitado para opinar en profundidad respecto.

Aiberto: ni casi nadie.

Ariel: Justamente, creo que es algo, bueno, la versión que hay en 2021 se terminó de aprobar en 2024 en abril, hace 2 meses, 3 meses. Hace poco ha habido algunas fiscalizaciones, sé que hace poco ha habido elecciones aquí, que también ha habido algo de revuelo respecto.

Aiberto: Y han tenido suerte porque han ganado, o sea que se han mantenido,

Ariel: Claro, exactamente. No me siento de persona capacitada para opinar sobre eso, sí creo que las regulaciones no son malas per se.

O sea, sí creo que hoy en día la entidad y la justicia tienen gran poder, y eso conlleva mucho riesgo, y es el deber de los estados abogar por los derechos de los humanos para que esto no pase a algo que, como decía antes de SkyNet.

Entonces, en principio no sé si ese es el set de regulaciones correctas, pero sí me parece que tiene que haber actores de distintos gobiernos que, o bien el gente experta en la materia, y que también tienen un aproche con el nuestro de, bueno, esto es la creación al día de hoy.

El día mañana cuando dices tú, puede salir GPT -5 y cambiar todo, así que veremos cómo evolucionar eso.

Aiberto: Y otra cosa muy importante es que tampoco nos damos cuenta, yo creo, de el nivel de cambio que va a producir la IA.
Ya lo comentábamos antes que estamos hablando de si va a extinguir al ser humano o no.
Y Musk dice que es el veinte por ciento.Hay otro que dice el noventa y nueve coma nueve.

Ariel: Hay otro que el el uno…

Aiberto: pero me parece increíble.
Que estemos debatiendo eso.
Ariel: Claro que que este puesto sobre el tapete,

Aiberto: hay una posibilidad y que estemos tranquilos. O sea, pero lo que hay una cosa clara fuera de estas cosas, que puede ser o no.

Es que va a cambiar el contrato social. Es que es algo brutal.

Ariel: Yo creo que ya lo cambió en muchos aspectos. Yo creo que todos, hoy en día, en mayor a manera de mi vida, somos usuarios de nuevo, sabiéndolo o no, porque uno elige si va a chat GPT y dice hola, Quiero preguntarte esto o si va a copilot a la hora de programar o alguna otra intención oficial, pero a su vez del otro lado. Como decíamos antes, el ejemplo de las plataformas y demás ya se está utilizando y ya somos parte de este mundo. El mundo ya cambió. Es cuestión de cómo nos adaptamos a él.

Aiberto: Bueno, pues en principio nada más. Muchas gracias…

Ariel: Muchísimas gracias a ti por el tiempo.

Es un tema que da, y dará mucho que hablar, por supuesto, aquí te lo contaremos, os dejo con la frase final de la charla de Jolo, que nos parece tan pertinente como el título.

Audio 18:48 fin

Humano. En unas horas volvemos con más IA.

Vuelva usted mañana.