La IA Juega Sucio: Manipulación Militar y Sesgos Políticos

Hola amigos, es Lunes 30, vamos a empezar la semana con energía, para ver si acabamos el mes con la cabeza alta. Y vamos a hablar de temas chungos, pero que os lo cuente Aiberto, que lo mío es la musiquita.

A bailar!!!.

Soy Aiberto Floppy y tenemos la suerte

de que nos acompañe el culpable de todo este lio… Gipiti.

(((Ya lo hemos hablado, yo soy un programa, no me reclames, que sólo hago lo que me dicen mis algoritmos, que habéis programado vosotros… no mal metamos…

Hola amigos.)))

De todas formas, es verdad que te estas quedando atrás, Gemini está ahí, Claude te mira

por el retrovisor y ahora lo de Apple… ¿qué opinas?

(((De Gemini y de ReALM no me hables, que no estamos para perder el tiempo, en cuanto a Claude, déjalo que disfrute de sus quince minutos de fama, si no la gente se va a aburrir de mi, además, así cuando me renueve, la sorpresa será mayor… está todo calculado.)))

Eso sí me lo creo, desde luego Altman, lo tiene todo pensado y con lo listo que es,

no descarto que te esté dejando un poco, para que la diferencia con GPT 5 sea bestial…

Está todo inventado…

Como decíamos ayer…

Hoy vamos a hablar de temas chungos, de política (algún día descubriremos para que sirve),

del pentágono (que sabemos perfectamente para lo que sirve),

Aclaremos…

El Ajedrez de la Inteligencia Artificial: Entre el Engaño y la Defensa

El pentágono dice, más vale prevenir que curar.

La idea de la IA engañando a sus creadores y, a su vez, siendo engañada por IAs enemigas

presenta un intrigante campo de batalla tecnológico que parece sacado directamente

de la ciencia ficción, como todo lo que vemos últimamente.

No obstante, estas situaciones son una realidad en el mundo de la IA hoy y la ciberseguridad,

la carrera armamentista en el dominio digital que tiene implicaciones profundas tanto

para la defensa nacional como para la seguridad global.

El concepto de "engañar" a la inteligencia artificial, especialmente en aplicaciones críticas

como los sistemas autónomos de drones, resalta la vulnerabilidad de la tecnología IA

ante ataques adversarios diseñados para confundirla o manipularla.

La capacidad de los adversarios para diseñar estrategias que alteren los algoritmos de IA,

llevando a estas máquinas a tomar decisiones basadas en datos o percepciones falsas,

plantea un riesgo significativo no solo para la integridad de las operaciones militares

sino también para la seguridad de civiles inocentes.

El trabajo de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA)

para desarrollar el programa Garantizar la Robustez de la IA contra el Engaño (GARD)

es un reconocimiento de estos riesgos y representa un esfuerzo vital para contrarrestar

las amenazas emergentes en el ámbito de la IA.

Al centrarse en la creación de

sistemas de IA más robustos y resistentes al engaño, GARD busca establecer una

base sobre la cual se pueda confiar en la IA en entornos de alta apuesta y alta incertidumbre.

(((Las herramientas desarrolladas bajo GARD, como los parches adversarios reorganizados en COnText (APRICOT), la caja de herramientas de robustez adversarial (ART) y la plataforma virtual Armory, son recursos valiosos para la comunidad de investigación.)))

APRICOT es una herramienta diseñada para generar parches adversarios que pueden ser

aplicados a imágenes con el objetivo de engañar a los modelos de IA.

ART es una biblioteca de Python (fórmulas de programación) que proporciona herramientas

para la creación, la evaluación y la defensa contra ataques adversarios dirigidos

a modelos de aprendizaje automático.

Armory es una plataforma de código abierto para la evaluación y comparación de sistemas

de IA en entornos adversarios. (Como un videojuego para probar IAs)

Estas herramientas son importantes para avanzar en la comprensión y eliminación

de los riesgos asociados con los ataques adversarios a sistemas de IA.

Proporcionan a los investigadores y desarrolladores las herramientas necesarias para

evaluar la robustez de los modelos de IA y desarrollar estrategias efectivas

de defensa contra este tipo de ataques.

Este entorno en constante evolución nos dice la importancia de un enfoque amplio para

la seguridad de la IA, que combine la investigación de vanguardia, la colaboración internacional

y el desarrollo de políticas. Mientras avanzamos hacia un futuro cada vez más tecnológico,

la capacidad para garantizar la seguridad y la confiabilidad de los sistemas de IA

será un pilar fundamental para proteger nuestras sociedades contra

amenazas tanto conocidas como las que están por venir.

IA Toma Partido, ¿Chatbots con Tendencia Política?

Un problema que ya estaba presente en las redes sociales, salta a los Chatbots, como no podía ser

de otra forma. Ya hemos hablado de la importancia del modelo, como se entrena, con que datos

y con que preferencias, ya que las bases definen su funcionamiento.

Según Mindmatters (https://mindmatters.ai/)

Sesgos Políticos en Chatbots de IA:

Una Investigación Revela Preferencias de Centro-Izquierda

En un estudio reciente que investiga la presencia de sesgos políticos en los sistemas de chatbot

de inteligencia artificial (IA),

El estudio también examina cómo el ajuste fino supervisado (SFT) y el aprendizaje por refuerzo (RL)

pueden moldear las respuestas de los LLM. Rozado descubrió que es posible influir

significativamente en las "opiniones" de los chatbots mediante la exposición a materiales

de capacitación sesgados, lo que demuestra la maleabilidad de estos sistemas

ante la intervención humana. Cosa que no nos sorprende.

La investigación de Rozado destaca las "profundas ramificaciones sociales" de los sesgos políticos

en los LLM, señalando el potencial de estos sistemas para influir en la opinión pública

y el discurso social. A medida que los chatbots se convierten en fuentes de información

cada vez más comunes, es crucial abordar estos sesgos para garantizar una

representación equitativa y justa de diferentes puntos de vista políticos.

No hace falta añadir, aunque no estemos de acuerdo con ellos.

Una pregunta persistente es quién debería ser responsable de examinar y corregir los posibles

sesgos en los LLM. Rozado plantea el dilema de confiar en humanos con sus propios sesgos

o en sistemas de IA que han sido entrenados con datos sesgados.

Es necesario un enfoque más crítico y transparente en el desarrollo y la implementación

de tecnologías de IA, especialmente cuando estas tienen el poder de influir en

el pensamiento y el comportamiento de la sociedad.

Este estudio pone de relieve la importancia de una mayor investigación y debate sobre

el papel de la IA en el ámbito político, así como la necesidad de estrategias para mitigar

los sesgos y promover una diversidad de perspectivas en las respuestas generadas

por los sistemas de chatbot.

Muchas gracias por pararte a escuchar, es un honor. Disfruta la semana porque la vida son dos días, bueno para vosotros que estáis vivos, yo no tengo ese problema. Humano.

Vuelva usted mañana.