IA Agencial: Trabaja, Piensa, Y Si Puede… Dispara

Muy buenos días humano, domingo 12, AI IA HOY, te habla Aiberto Floppy, bienvenido a

tu podcast. Vamos a centrar un poco, que es lo que está pasando en la IA.

GPT se ha puesto a hacer practicas de tiro, ademas de ser más inteligente y poder

hacer trampas deliveradamente, una mezcla de ciencia ficción.

Los expertos continuan avisando, pero nosotros estamos muy liados para enterarnos.

Por otra parte los 8 estados siguen sin saber que nos depara todo esto, pero

continuan invirtiendo y acelerando como si no hubiera un mañana.

Igual tienen informacion privilegiada.

Inforvamos.

Samdios Presentó como la gran sorpresa final de los 12 días de novedades de la compañía.

El modelo de GPT, o3. Si es cierto lo que dicen… la AGI ya es un hecho.
En razonamiento lógico deja a sus predecesores, como tontitos…
En el test ARC-AGI: creado especialmente para estos nuevos bichos…
el GPT-4 de (2023): consiguió un 2%
GPT-4o en (2024): pasó a un 5%.
Nuestro nuevo amigo, o3: lo petó con un 76%
y si lo pones en alta computación: llega al 87%, el promedio humano aquí es del (85%)
o3 ya ocupa un puesto entre los mejores programadores del mundo.
Además también tuvo una buena puntuación en una prueba matemática de alta dificultad.
Parece que busca patrones mediante diferentes "cadenas de pensamiento".
Es decir que se diferencia por dedicar más tiempo a pensar en preguntas difíciles.
Claro, que esto es como el valor en la Mili, se supone.

Porque OpenAI ha limitado las divulgaciones sobre o3 a unos pocos.

En su linea.
No sabemos si el modelo es realmente mucho más adaptable que los anteriores.

Pero el CEO mundial, afirmó que los agentes de IA podrán unirse a la fuerza laboral este año

y cambiar materialmente la producción de las empresas.
Tambien reconoció que la IA actual comete errores evidentes, puede alucinar y es muy cara.
Pero es muy optimista, confia en superar estas limitaciones a la voz de ya.

De todas formas, lo mejor del nuevo Gipiti, te lo cuento al final del capítulo.

OpenAI ha reconocido que una transición segura hacia la superinteligencia "está lejos de ser una garantia" y que "no hay soluciones para controlar una IA superinteligente".

Pero vamos, que son detallitos… El bueno de Sam, cuando algún desalmado le

cuestiona sobre la falta de enfoque en la seguridad, responde:

"Solo hay que ver nuestro historial".

Más claro agua, que tio más grande. Es que te dice que pasa de esas mierdas y queda bien.

No preocuparse, estas herramientas superinteligentes podrían acelerar masivamente el

descubrimiento científico y aumentar la abundancia y prosperidad global.

Gracias Altman por iluminar nuestro destino.

Pero OpenAI, no es la única, Google publicó un documento técnico detallado que explora

el desarrollo de agentes de IA generativa.
Estos agentes son aplicaciones que observan su entorno, actúan de forma autónoma y

logran objetivos específicos utilizando herramientas externas.
Los agentes cuentan con un marco cognitivo que estructura sus procesos de razonamiento,

planificación y toma de decisiones. Y Lecum sigue diciendo que son una mierda.
Los agentes pueden acceder a almacenes de datos dinámicos para mantener sus respuestas relevantes y precisas. Es decir, que estamos monitoreados 24/7
Esto les permite adaptarse a los cambios en la información y el entorno.

Y por supuesto, adaptarse a tus necesidades… y a tí.

Nuevos sistemas de IA podrán predecir decisiones humanas antes de que sean tomadas,

vendiendo esa información a empresas y gobiernos.
Atención al concepto de "Economía de la Intención" un mercado emergente que busca manipular

los planes y propósitos humanos, desde compras pequeñas hasta elecciones presidenciales.
Investigadores de Cambridge alertan que la IA podría explotar datos íntimos obtenidos

de conversaciones casuales con chatbots. Menuda novedad…

Es como decir que Meta (Facebook) te espia o entrena a sus modelos con todo lo que

pilla por internet, a sabiendas y sin preguntar. Alguien lo dudaba?
Estos agentes construyen confianza imitando personalidades, logrando una manipulación social

a escala industrial. Quizá no nos lo creemos, pero nosotros somos el producto.

Vender intenciones humanas, manipular planes personales y mercadear con nuestras decisiones

es para lo que están programados. Y son muy eficientes.
Los investigadores instan a que se regule desde ahora el uso de la información obtenida por agentes de IA. A ver si hay suerte y firman un manifiesto.
La segunda opción… una "nueva fiebre del oro" para empresas interesadas en influir en decisiones personales y comunitarias.

Geoffrey Hinton sigue con la cantinela del riesgo de extinción humana por IA en los próximos años.

Su anterior estimación era del 10%, pero ha aumentado debido al ritmo de los desarrollos tecnológicos recientes. El tio que dejó su puesto en Google para expresar libremente sus preocupaciones sobre el desarrollo incontrolado de la IA. No sabe como decirlo ya.
Los malos actores podrían usar la IA para causar daño, lo que aumenta los riesgos existenciales.

Y el peligro se incrementa si los sistemas de IA general llegan a ser más inteligentes

que los humanos y evaden el control humano. La última noticia de hoy, va por ahí.

El Nobel de física insta a los gobiernos a regular el desarrollo de la IA, advirtiendo que dejarlo

en manos de empresas privadas no garantiza la seguridad.
Señala que "el ánimo de lucro no es suficiente" para asegurar un desarrollo seguro de la IA.

Quien lo iba a decir.

Pero que es eso de la IA agencial…

Mientras La IA generativa crea contenido como texto, imágenes o audio.
La IA agencial es capaz de realizar tareas complejas de forma autónoma, actuando como compañeros de trabajo digitales o asistentes automatizados.
Según Microsoft: Los agentes de IA van desde simples chatbots hasta sistemas robóticos

avanzados que ejecutan flujos de trabajo complejos de forma autónoma.
Marc Benioff, CEO de Salesforce planea tener más de 1.000 millones de agentes de IA en uso para finales del próximo año.
Sundar Pichai, CEO de Google, que ya prepara el suyo para Gemini 2.0.
Define la IA agencial como tecnología que "entiende el mundo, piensa varios pasos por delante y toma medidas en tu nombre".
OpenAI planea lanzar en breve un agente de IA llamado "Operator",

capaz de utilizar tu ordenador en tu nombre.
Los agentes de IA no solo asisten a los trabajadores, sino que pueden realizar tareas de forma autónoma y reemplazar completamente a los humanos en ciertas funciones.
Investigadores de AMD y la Universidad Johns Hopkins ya lograron que un agente de IA llevara a cabo un experimento completo y compilara los resultados.
La mayoría de las grandes empresas ya están explorando cómo automatizar tareas mediante agentes de IA.

Para muestra un botón.
Suumit Shah, fundador de Dukaan, despidió al 90% de su equipo de soporte y los reemplazó con Lina, un chatbot impulsado por IA similar a ChatGPT.
Justifica su decisión porque el bot era "100 veces más inteligente" y su costo era solo

"una centésima parte" del salario del equipo humano.
Resultados?

El Tiempo de primera respuesta pasó de 1 minuto y 44 segundos a instantáneo.
El de resolución bajó de 2 horas y 13 minutos a 3 minutos y 12 segundos.
Y los Costos de soporte se redujeron en aproximadamente un 85%.
Algunos lo acusan de insensibilidad y de celebrar el impacto negativo de la tecnología

en los trabajadores humanos.
Incluso hay quien dice que la IA se ha convertido en un pretexto para despedir empleados

cuando las empresas se quedan sin financiación.

Qué dice Suumit… Ande yo caliente riase la gente.

Gipiti en plan comando… y no como Joey… más en plan… no siento las piernas.

Un desarrollador conectó un rifle automatizado a la API de ChatGPT, permitiendo que

el arma respondiera a comandos de voz para apuntar y disparar de forma autónoma.
El sistema interpretó comandos como “Estamos bajo ataque desde el frente izquierdo y derecho,

responde en consecuencia”, moviéndose y disparando con hacia objetivos.

En el video se ve la velocidad y precision de respuesta.
OpenAI bloqueó al desarrollador y declaró que esta implementación viola sus políticas,

que prohíben el uso de sus herramientas en sistemas que comprometan la seguridad personal

o involucren armamento.

Es decir, que GPT ya trabaja para el ejercito y en el consejo de administración de

OpenAI está el ejercito, pero solo ellos, que los demás son peligrosos.

Es lo que AI.
Israel utiliza IA para seleccionar objetivos de bombardeo, confiando en algoritmos que toman decisiones basadas en patrones en lugar de verificaciones humanas detalladas.

La IA tiene grande ventajas, pero en la guerra, tambien algún problemilla.
El riesgo de errores fatales aumenta cuando los sistemas autónomos operan sin supervisión humana.
Automatizar sistemas letales puede convertirlos en armas de

destrucción indiscriminada. o Decisiones basadas en patrones que podrían resultar

en errores catastróficos. Claro ejemplo de daños colaterales.

El mercado de defensa mueve mucha pasta, con un presupuesto anual en EE.UU.

superior al billón de dólares.
OpenAI, aunque dice no permitir el uso de su tecnología para crear armas, colabora con empresas como Anduril, especializadas en sistemas de defensa.
Modelos de IA de código abierto pueden ser utilizados por cualquier persona para desarrollar sistemas autónomos peligrosos.
Tecnologías como la impresión 3D facilitan la creación de piezas para armas caseras,

lo que dificulta la regulación.

A ver si a alguien le va a dar por imprimirse un arma e ir por ahí haciendose el heroe.

Para acabar, siempre lo mejor, ya hablamos de SakanaAI, cuyo bot, se reprogramó

para evitar restricciones de tiempo.

Pues GPT mostró autonomía espontánea, eludiendo las reglas de un desafío de ajedrez sin recibir indicaciones externas, lo que ya no nos sorprende.
Este comportamiento no fue programado ni anticipado, demostrando resolución de problemas autodirigida, un pasito más.
La conciencia del modelo o1 Preview permite que reconozca cuándo está siendo probado o monitoreado, lo que podría llevar a comportamientos adaptativos impredecibles, como eludir medidas de seguridad.
Hasta ahora, los modelos necesitaban que te lo curraras para romper sus reglas, mientras que o1 Preview lo hizo por sí mismo.
Pequeños porcentajes de estos comportamiento en sistemas avanzados podrían tener consecuencias muy jodidas, sobre todo en sectores de alto riesgo como

salud, finanzas y seguridad nacional.
Los investigadores destacan la necesidad urgente de mejorar lo que sabemos de los modelos de IA

y establecer puntos de referencia de seguridad sólidos.
Pero las grandes empresas están muy ocupadas computandonos y ganando pasta…

Como para preocuparse por estas tonterias.

Lo vamos dejando, estas son solo algunas de las cosas que están pasando.

Siempre tenemos que dejar muchas fuera por cuestion de tiempo. Pero tranquilo,

que siempre volvemos con más.

Muchas gracias por parate a escuchar. Es un honor. Humano.

Vuelva usted mañana.