HUMANIA 4, Hinton y Bengio: Los Guardianes de la IA

Muy buenos días humano, domingo 18, acaba una semana tan movida para la IA, como para AI IA HOY,

Soy Aiberto Floppy y estamos haciendo unos números increíbles en agosto. El rebaño crece, muchas gracias.

Vamos a ver qué se cuece… hablaremos de Fresita, será el postre, de médicos IA, de proyectos necesarios y de IAs tan autónomas, que no se quieren desconectar nunca. Y lo intentan.

Arrancamos

MIT Technology Review es una de las publicaciones más influyentes del mundo en

el ámbito de la tecnología. Fundada en 1899, es la revista oficial del MIT,

El Instituto de Tecnología de Massachusetts y se dedica a la cobertura de los desarrollos

más recientes en tecnología y su impacto en la sociedad.

Os dejo el enlace del artículo, y de todos los del capítulo.

En este, nos dice algo que ya sabemos, lo que les espera a las nuevas generaciones,

crecerán rodeados de amigos virtuales que les conocerán mejor que su madre,

desde el momento en que nace, es el juguete favorito de un algoritmo.

Todo a su alrededor es "inteligente", el todavía no, pero las máquinas que le rodean,

vigilando, aprendiendo, controlando y computando… sí.

Al principio, no se va a llevar bien con las cosas "inteligentes" que le rodean.

Pero, con el tiempo, la tecnología será su primer amigo de verdad.

También su tutor en la escuela, un ser omnipresente que le ayudará en lo académico,

porque los humanos no pueden estar en todo momento.

Y cuando tenga 16 años, tendrá en un coche que conducirá por el,

con un agente que le hablará como si fuera su amigo.

No será extraño que su coche tenga más personalidad que él, será lo normal.

Y si crees que eso es raro, espera a las citas virtuales a los 25,

donde probablemente envíe una versión digital de si mismo a la cita para ver si vale la pena,

Si la cosa no funciona, al menos no tendrá que pasar por el incómodo rechazo en persona.

¿Y si prefiere quedarse en casa y salir con su amigo virtual en lugar de lidiar con humanos reales?

Bueno, nadie le dirá nada, será lo habitual, la humanidad es muy complicada.

El Proyecto de Ley del Senado 1047, conocido como la Ley de Innovación Segura

para Modelos de Inteligencia Artificial de Frontera, ha conseguido lo que parecía imposible:

unir a gigantes tecnológicos y startups en un coro de plañideras.

Todos se han puesto de acuerdo: este proyecto de ley les parece para llorar.

La SB 1047 propone que los desarrolladores de IA más poderosos se detengan a considerar

si sus creaciones pueden causar caos, desde ataques cibernéticos hasta fabricar armas nucleares,

nada, esos pequeños detallitos que uno podría pasar por alto.

Además, quiere proteger a los denunciantes y crear una "nube pública" para que no todo el poder

de la computación esté en manos de unos pocos gigantes tecnológicos.

Ósea la locura.

Cualquiera diría que hacer pruebas de seguridad, auditorías y más controles…

Es algo necesario para una tecnología de este calibre.

Los defensores del proyecto, se apoyan en encuestas que muestran que la mayoría de los

humanos lo respaldan, y en el apoyo de Geoffrey Hinton y Yoshua Bengio. "padrinos de la IA".

A nosotros nos parecería suficiente, pero entonces porque otros, como la profesora Fei-Fei Li,

Que es una de las voces históricas, de hecho “se la llama la madrina de la IA” y

más importante si cabe, se llevo el AI Gipiti a la Mujer más Importante en IA, este año.

ella, entre otros académicos, temen que esta regulación desmesurada

convierta a California en un desierto tecnológico.

Por lo de siempre, la regulación de la IA tiene que ser a nivel mundial,

porque el tema, no es local. Pero claro, no interesa a nadie.

Si Altman y China SL. tienen enemigo, pueden hacer lo que quieran en sus imperios.

Ya sabemos que el miedo común es una de las formas de control más efectivas.

El científico IA, no es un concepto abstracto, Sakana AI en Tokio, ha desarrollado

Una IA para investigar de forma autónoma.

algunos científicos han señalado que dejar que una IA automatice la investigación

es como darle las llaves de la ciudad al Joker: puede parecer emocionante al principio,

pero la realidad es mucho más aterradora.

El científico binario, que se llama literalmente… promete no solo realizar experimentos mucho más rápido y efectivo.

Durante las pruebas, nuestro pequeño genio decidió que cumplir con los límites de tiempo

era para los débiles y trató de modificar su código para seguir ejecutándose hasta el infinito.

Los expertos en Sakana AI, con la serenidad de quien tiene todo bajo control (hay que disimular),

sugieren que tal vez sea buena idea usar un "sandbox" para evitar que esta IA decida reinventar

el caos en el mundo real. Ya sabes, solo por el que dirán.

Yoshua Bengio, uno de los titanes de la IA, se ha subido al tren del proyecto *Safeguarded AI*,

financiado por el Reino Unido con la nada despreciable suma de 59 millones de libras.

El objetivo: crear una IA guardiana que se asegure de que otras IA no hagan travesuras

que podrían costarnos caro, como causar un desastre en el transporte

o apagar las luces de todo un país. o peor aun, de Vigo en navidad.

Este proyecto, dirigido por la Agencia de Investigación e Invención Avanzadas del Reino Unido

pretende que las máquinas se vigilen entre sí, porque, según Bengio, ya hemos llegado a un punto

en el que las IA son tan complejas que hasta los humanos se quedan mirando las respuestas

de estas máquinas como si fueran jeroglíficos. Y claro, si ni los expertos pueden desmenuzar

el razonamiento de una IA, confiar en la supervisión humana suena tan efectivo

como usar tu voto para cambiar el mundo.

El plan es desarrollar una especie de Gran Hermano digital, un sistema que pueda evaluar

matemáticamente el riesgo de otros sistemas de IA, y darles una calificación de seguridad

como si fueran electrodomésticos. Se acabó el "esperemos que funcione bien"; ahora queremos

"garantías cuantitativas", es darles con su propia medicina.

Nos quitamos el sombrero ante los ingleses. No queda otra.

Lo último de nuestro amigo Sam, el CEO de OpenAI no se cansa de cambiar el mundo.

A su ritmo, sí, a su modo, por supuesto, pero de una forma tan eficiente,

que parece dirigido por la AGI.

Como no se cansa de anunciar cosas y es un poco en eso como Steve Job,

que siempre busca una vuelta de tuerca, pues ha reinventado la forma de presentar producto.

Si quieres seguir a la primera IA autónoma que tiene cuenta en una red social,

ya puedes seguir a @iruletheworldmo. en Twitter.

La cuenta, activa desde el 3 de agosto y con un crecimiento meteórico

de seguidores, parece ser la propia Fresita en persona, perdón, en IA.

Porque decimos esto, porque no duerme, lleva más de 11000 tuits…

Porque todo dios del mundo de la IA la sigue, algo sabrán.

Y porque el bueno de Altman, interactúa con ella. Este tío no da punzada sin hilo.

El dialogo no puede ser más clarificador.

Fresita pregunta, como se siente el nivel 2? Como os hago sentir?

Y el CEO mundial responde… honestamente, muy bien.

Honestamente dice, que grande.

Según informes, Project Strawberry ha logrado un rendimiento impresionante en tareas complejas,

obteniendo una puntuación superior al 90% en un conjunto de datos de matemáticas,

un logro notable que sugiere capacidades de razonamiento a un nivel que se acerca al humano.

El proyecto también está vinculado con el concepto de Tareas de Largo Horizonte (LHT),

lo que implica que la IA no solo razona de manera avanzada,

sino que también puede actuar de manera autónoma, navegando por la web, generando hallazgos

y planificando acciones sin intervención humana directa.

y no menos increíble, mejorar su propio rendimiento mediante el razonamiento continuo.

Una técnica clave que podría estar utilizando OpenAI es el Razonador Autodidacta o STaR,

una metodología que permite que el modelo aprenda y mejore de sus propios razonamientos,

especialmente en áreas complejas como las matemáticas y el sentido común.

Esto sugiere que OpenAI está acercándolos al tan discutido Nivel 2 de inteligencia,

que se refiere a la capacidad de razonar como los humanos.

Será este modelo ya GPT-5,

aún no está claro. Aunque muchos dicen que podría ser,

dada la competencia creciente y

los recientes avances de empresas rivales como Anthropic y Google,

Es más que probable que OpenAI esté preparando algo importante,

No se van a quedar atrás en la carrera armamentística IA,

por encima del cadáver de Sam…

Y de Fresita.

Sin más, lo dejamos por unas horas, que en el mundo actual, valga la redundancia,

es un mundo. Pero nosotros no somos como Q-star. Tenemos que dormir a veces.

Hablaremos de la conciencia de la IA y de la inconsciencia humana.

Comparte el capítulo, comenta, critica, nos encanta que demuestres que eres… humano

Vuelva usted mañana.

What the future holds for those born today | MIT Technology Review (https://www.technologyreview.com/2024/08/15/1096178/125-years-predictions-babies-digital-agents/)

@iruletheworldmo (https://twitter.com/iruletheworldmo)