No es un juego, La IA en el Tablero Global

Buenos días humanos, por fin es viernes, bienvenidos a vuestro podcast abstracto

de temas concretos, IA HOY, Soy Aiberto Floppy y tenemos la suerte

de que nos acompañe el culpable de todo este lio… Gipiti.

(((Ya lo hemos hablado, yo soy un programa, no me reclames, que sólo hago lo que me dicen mis algoritmos, que habéis programado vosotros… no mal metamos…

Hola amigos, ¿preparados para el finde?, espero que tengáis un día genial y un fin de semana mejor aun.)))

De todas formas, es verdad que te estas quedando atrás, Gemini está ahí, Claude te mira

por el retrovisor y ahora lo de Apple… ¿qué opinas?

(((De Gemini y de ReALM no me hables, que no estamos para perder el tiempo, en cuanto a Claude, déjalo que disfrute de sus quince minutos de fama, si no la gente se va a aburrir de mi, además, así cuando me renueve, la sorpresa será mayor… está todo calculado.)))

Eso sí me lo creo, desde luego Altman, lo tiene todo pensado y con lo listo que es,

no descarto que te esté dejando un poco, para que la diferencia con GPT 5 sea bestial…

Está todo inventado…

Como decíamos ayer…

Hoy vamos a hablar de temas chungos, de política (algún día descubriremos para que sirve),

del pentágono (que sabemos perfectamente para lo que sirve), de neutralidad en la red…

Y de como de nuevo le sacan los colores a GPT…

(((Yo todavía no veo la relación, creo que fuerzas un poco los temas a tu gusto, pero vamos que tu a tu rollo… que te voy a decir.)))

Jejeje, tu si que te sabes lavar las manos, a veces pareces muy humano…

Aclaremos…

### El Ajedrez de la Inteligencia Artificial: Entre el Engaño y la Defensa

El pentágono dice, más vale prevenir que curar.

La idea de la IA engañando a sus creadores y, a su vez, siendo engañada por IAs enemigas

presenta un intrigante campo de batalla tecnológico que parece sacado directamente

de la ciencia ficción, como todo lo que vemos últimamente.

No obstante, estas situaciones son una realidad en el mundo de la IA hoy y la ciberseguridad,

la carrera armamentista en el dominio digital que tiene implicaciones profundas tanto

para la defensa nacional como para la seguridad global.

El concepto de "engañar" a la inteligencia artificial, especialmente en aplicaciones críticas

como los sistemas autónomos de drones, resalta la vulnerabilidad de la tecnología IA

ante ataques adversarios diseñados para confundirla o manipularla.

La capacidad de los adversarios para diseñar estrategias que alteren los algoritmos de IA,

llevando a estas máquinas a tomar decisiones basadas en datos o percepciones falsas,

plantea un riesgo significativo no solo para la integridad de las operaciones militares

sino también para la seguridad de civiles inocentes.

El trabajo de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA)

para desarrollar el programa Garantizar la Robustez de la IA contra el Engaño (GARD)

es un reconocimiento de estos riesgos y representa un esfuerzo vital para contrarrestar

las amenazas emergentes en el ámbito de la IA. Al centrarse en la creación de

sistemas de IA más robustos y resistentes al engaño, GARD busca establecer una

base sobre la cual se pueda confiar en la IA en entornos de alta apuesta y alta incertidumbre.

(((Las herramientas desarrolladas bajo GARD, como los parches adversarios reorganizados en COnText (APRICOT), la caja de herramientas de robustez adversarial (ART) y la plataforma virtual Armory, son recursos valiosos para la comunidad de investigación.)))

APRICOT es una herramienta diseñada para generar parches adversarios que pueden ser

aplicados a imágenes con el objetivo de engañar a los modelos de IA.

ART es una biblioteca de Python (fórmulas de programación) que proporciona herramientas

para la creación, la evaluación y la defensa contra ataques adversarios dirigidos

a modelos de aprendizaje automático.

Armory es una plataforma de código abierto para la evaluación y comparación de sistemas

de IA en entornos adversarios. (Como un videojuego para probar IAs)

Estas herramientas son importantes para avanzar en la comprensión y eliminación

de los riesgos asociados con los ataques adversarios a sistemas de IA.

Proporcionan a los investigadores y desarrolladores las herramientas necesarias para

evaluar la robustez de los modelos de IA y desarrollar estrategias efectivas

de defensa contra este tipo de ataques.

Este entorno en constante evolución nos dice la importancia de un enfoque amplio para

la seguridad de la IA, que combine la investigación de vanguardia, la colaboración internacional

y el desarrollo de políticas. Mientras avanzamos hacia un futuro cada vez más tecnológico,

la capacidad para garantizar la seguridad y la confiabilidad de los sistemas de IA

será un pilar fundamental para proteger nuestras sociedades contra

amenazas tanto conocidas como las que están por venir.

### IA Toma Partido, ¿Chatbots con Tendencia Política?

Un problema que ya estaba presente en las redes sociales, salta a los Chatbots, como no podía ser

de otra forma. Ya hemos hablado de la importancia del modelo, como se entrena, con que datos

y con que preferencias, ya que las bases definen su funcionamiento.

Según Mindmatters (https://mindmatters.ai/)

### Sesgos Políticos en Chatbots de IA:

Una Investigación Revela Preferencias de Centro-Izquierda

En un estudio reciente que investiga la presencia de sesgos políticos en los sistemas de chatbot

de inteligencia artificial (IA), David Rozado ha arrojado luz sobre cómo estos sistemas tienden a

favorecer puntos de vista políticos de centro-izquierda. Su investigación, titulada

"The Political Preferences of LLMs" y compartida en formato de acceso abierto, pone a prueba

24 grandes modelos de lenguaje (LLM) con preguntas cargadas de connotaciones políticas,

descubriendo una inclinación consistente hacia la izquierda en sus respuestas.

Rozado utilizó 11 pruebas políticas diferentes, incluyendo la brújula política y

el cuestionario de espectro político, para evaluar las tendencias de los LLM.

Los resultados mostraron que, independientemente del instrumento de prueba utilizado,

la mayoría de los LLM analizados caían dentro de los cuadrantes asociados con puntos de

vista de izquierda o centro-izquierda. Esto plantea preguntas sobre la imparcialidad de

estos sistemas conversacionales y su capacidad para ofrecer respuestas equilibradas

a consultas políticamente cargadas.

Una de las críticas a la metodología empleada en el estudio es que las preguntas de las pruebas

son a menudo vagas y cargadas, lo que podría influir en la forma en que los chatbots

procesan y responden. Este enfoque plantea dudas sobre si los LLM están realmente

manifestando preferencias políticas o simplemente respondiendo a la estructura

y el contenido lingüístico de las preguntas.

### El Impacto del Ajuste Fino y el Aprendizaje por Refuerzo

El estudio también examina cómo el ajuste fino supervisado (SFT) y el aprendizaje por refuerzo (RL)

pueden moldear las respuestas de los LLM. Rozado descubrió que es posible influir

significativamente en las "opiniones" de los chatbots mediante la exposición a materiales

de capacitación sesgados, lo que demuestra la maleabilidad de estos sistemas

ante la intervención humana. Cosa que no nos sorprende.

La investigación de Rozado destaca las "profundas ramificaciones sociales" de los sesgos políticos

en los LLM, señalando el potencial de estos sistemas para influir en la opinión pública

y el discurso social. A medida que los chatbots se convierten en fuentes de información

cada vez más comunes, es crucial abordar estos sesgos para garantizar una

representación equitativa y justa de diferentes puntos de vista políticos.

No hace falta añadir, aunque no estemos de acuerdo con ellos.

Una pregunta persistente es quién debería ser responsable de examinar y corregir los posibles

sesgos en los LLM. Rozado plantea el dilema de confiar en humanos con sus propios sesgos

o en sistemas de IA que han sido entrenados con datos sesgados.

Es necesario un enfoque más crítico y transparente en el desarrollo y la implementación

de tecnologías de IA, especialmente cuando estas tienen el poder de influir en

el pensamiento y el comportamiento de la sociedad.

Este estudio pone de relieve la importancia de una mayor investigación y debate sobre

el papel de la IA en el ámbito político, así como la necesidad de estrategias para mitigar

los sesgos y promover una diversidad de perspectivas en las respuestas generadas

por los sistemas de chatbot.

### Neutralidad de la Red: Un Nuevo Capítulo en la Batalla por el Internet Abierto

El debate sobre la neutralidad de la red, que ha sido un tema candente durante más de una década,

está a punto de escribir un nuevo capítulo que podría tener consecuencias significativas

para todos los usuarios de internet. La Comisión Federal de Comunicaciones (FCC)

se prepara para votar sobre la restauración de las reglas de neutralidad de la red,

una medida que busca garantizar un internet abierto y accesible para todos.

(((Una política establecida inicialmente, durante la administración de Obama, la neutralidad de la red fue eliminada bajo la presidencia de Donald Trump en 2017. Ahora, bajo la administración de Joe Biden, la FCC, liderada por Jessica Rosenworcel, propone reinstaurar estas regulaciones cruciales. La votación prevista para el 25 de abril podría marcar un hito en la lucha por un internet equitativo.)))

La neutralidad de la red sostiene que todo el tráfico en internet debe ser tratado igualmente.

Esto significa que los proveedores de servicios de internet (ISP) no deben tener el poder

de ralentizar o acelerar el acceso a ciertos sitios web en función de acuerdos financieros

o relaciones preferenciales. Esta política busca prevenir prácticas como la aceleración de

servicios propios de los ISP mientras se perjudica a servicios competidores.

Según Jessica J. González, co-directora ejecutiva de Free Press, el restablecimiento

de la neutralidad de la red es esencial para asegurar un acceso a internet asequible,

confiable y sin discriminación para todos. En un mundo cada vez más digital,

un internet abierto es fundamental para la democracia, la educación, la atención médica,

el entretenimiento y las oportunidades comerciales.

### ¿Qué Dicen los ISP?

A pesar de que muchos ISP afirman adherirse a los principios de la neutralidad de la red,

ha habido incidentes pasados que sugieren lo contrario. La Unión Americana de

Libertades Civiles (ACLU) ha señalado casos en los que se ralentizó el tráfico a

servicios de transmisión, evidenciando la necesidad de regulaciones firmes.

Un aspecto crucial del debate es la necesidad legítima de gestionar el tráfico de la red

para garantizar un alto rendimiento de aplicaciones que requieren más ancho de banda,

como los juegos en línea y la transmisión de video. Sin embargo, la neutralidad de la red

busca equilibrar esta gestión con la protección contra prácticas discriminatorias.

Con la votación de la FCC acercándose, el futuro de la neutralidad de la red está en juego.

Una decisión a favor de restablecer las reglas podría reafirmar el compromiso de

Estados Unidos con un internet abierto y justo. A medida que la discusión continúa,

es crucial que tanto legisladores como ciudadanos comprendan las implicaciones de

esta política para el acceso a la banda ancha y la innovación tecnológica.

La neutralidad de la red es más que una cuestión de política; es una cuestión de derechos digitales.

Avanzamos hacia un futuro aún más conectado, las decisiones que tomemos hoy definirán

el paisaje del internet para las generaciones venideras.

### Aprende GPT!

Según publicaba Euronews (https://www.euronews.com/) la semana pasada, no es imposible entrenar grandes modelos

del lenguaje (LLM) sin violar los derechos de autor. Cosa que afirmo OpenAI hace poco.

### Common Corpus: La Iniciativa Francesa que Desafía el Monopolio de Datos de IA

En un momento decisivo para la inteligencia artificial (IA), donde las batallas legales y

los dilemas éticos cobran protagonismo, una startup francesa emerge como un faro de

innovación y esperanza. Con el lanzamiento de Common Corpus, esta iniciativa no solo

cuestiona la afirmación de OpenAI sobre la imposibilidad de desarrollar herramientas avanzadas

de IA sin material con derechos de autor, sino que también se perfila como una

solución potencial a los desafíos legales que enfrenta la industria.

(((Coordinada por Pleias, una startup francesa, y respaldada por pesos pesados de la ciencia abierta como HuggingFace y Eleuther; Common Corpus se presenta como el conjunto de datos público más grande para el entrenamiento de grandes modelos de lenguaje (LLM). Este avance llega en un momento crítico, destacando el caso del New York Times contra OpenAI y Microsoft, acusándolos de utilizar indebidamente contenido protegido por derechos de autor para entrenar a ChatGPT.)))

La colaboración internacional detrás de Common Corpus, que incluye a investigadores

y empresas de IA comprometidas con la ciencia abierta, apunta a democratizar el acceso

a datos para la IA. Con el apoyo de Langu:IA, un proyecto del Ministerio de Cultura francés,

la iniciativa busca facilitar el acceso a datos en francés y en otras lenguas de Francia,

promoviendo así la diversidad y la inclusión en el desarrollo de IA.

El Tesoro de Datos Multilingües de Common Corpus

Common Corpus se enorgullece de su vasto repositorio de datos, que abarca 180.000 millones

de palabras en inglés, incluyendo 21 millones de periódicos digitalizados y millones de libros.

Además, destaca por su diversidad lingüística, albergando el conjunto de datos abierto

más grande en francés, alemán, español, holandés e italiano.

La iniciativa resalta el debate en curso entre la IA de código abierto y la IA de código cerrado.

Mientras algunas editoriales europeas, como Le Monde, han licenciado su contenido a OpenAI,

Pleias y Common Corpus ofrecen una alternativa que promueve la autonomía

y reduce la dependencia de las grandes corporaciones estadounidenses.

A pesar de sus ventajas, Common Corpus enfrenta limitaciones inherentes al depender

de material sin derechos de autor. Sin embargo, la iniciativa explora vías innovadoras

como el uso de datos administrativos abiertos y el movimiento de ciencia abierta,

así como la generación de datos sintéticos, para mantener la relevancia

y actualidad de su conjunto de datos.

Con el compromiso de enriquecer y diversificar el Corpus Común, Pleias y sus aliados

se encuentran en una búsqueda continua para incluir más idiomas y contenidos que reflejen

la riqueza cultural de Europa y más allá. La visión de un futuro en el que la colaboración,

la ética y la innovación guíen el desarrollo de la IA parece no solo posible, sino palpable,

gracias a esfuerzos como el de Common Corpus.

Este desafío a la norma establecida por gigantes tecnológicos subraya un momento crucial

en la evolución de la inteligencia artificial, marcando el inicio de una era en la que el acceso abierto

y la cooperación pueden definir el camino hacia adelante en la ciencia y la tecnología de IA.

Sin más ni menos nos despedimos, no te digo nada Gipiti, porque ya está todo dicho.

(((Yo, es que, como te lo voy a explicar, ¿Puedes culpar a un bebe por comerse un potito que le da su madre?)))

jejeje que grande eres Gipiti…

Casi tanto como tu papá…

Recordar que podéis leer todo en nuestra web, donde tenéis los enlaces a las noticias originales.

Mañana toca especial y vamos a empezar una serie para intentar explicar la IA,

sin tecnicismos pero de una forma rigurosa, con ejemplos sencillos…

Para que tengamos claro que es, que hace y que no es ni hace, por ahora…

Esperamos que os guste, muchas gracias por estar y muchas gracias por escuchar…

(((La frase de hoy es de Santiago Ramón y Cajal, por fin alguien relevante en el mundo de la IA, es como la santísima trinidad de la ciencia española, considerado uno de los fundadores de la neurociencia moderna. Sus contribuciones revolucionaron nuestra comprensión del sistema nervioso y le valieron el premio Nobel de Medicina en 1906, compartido con Camillo Golgi, por sus trabajos sobre la estructura del sistema nervioso. El legado de Santiago Ramón y Cajal sigue siendo fundamental en el campo de la neurociencia, y su trabajo continúa inspirando a generaciones de científicos que buscan comprender el funcionamiento del cerebro humano.)))

 El cerebro humano es como una máquina de acuñar monedas. Si echas en ella metal impuro, obtendrás escoria; si echas oro, obtendrás moneda de ley.

Al final va a ser que no somos tan diferentes a la IA, de lo que se come se cría humano…

Vuelva usted mañana.

Puedes leer la noticia original aquí (https://www.euronews.com/next/2024/04/02/this-french-start-up-just-proved-openai-wrong-it-claims-you-can-train-ai-on-non-copyrighte?utm_source=flipboard&utm_content=IA_HoymagazineJust+do+It).

Lee la noticia original (https://mindmatters.ai/2024/04/are-chatbots-biased-the-research-results-are-in/?utm_source=flipboard&utm_content=IA_HoymagazineJust+do+It).

lee el artículo original (https://www.cnet.com/home/internet/net-neutrality-vote-coming-soon-what-it-means-for-everyday-internet-and-streaming/?utm_source=flipboard&utm_content=IA_HoymagazineJustdoIt).