De Hinton a Altman: La IA Frente a la Incertidumbre Humana

Muy buenos días humano, domingo 3, ya se acaba la navidad, AI IA HOY, Aiberto Floppy.

Vamos a contar calamidades, ha sido una semana propicia.

Un recuerdo sentido a todos los humanos que se han visto arrasados, desplazados y asesinados…

No por la naturaleza, sino por la sinrazón, la incompetencia y la política.

Vamos a intentar continuar, seguir adelante, resurgir…, nos quedamos con

Los humanos que se han volcado, que han ayudado, que están matándose para quitar el logo,

Acercar medicina, alimentos, agua…

Porque no todo es política, ya lo dijo Mirinda…

El ser humano puede ser maravilloso.

La inteligencia artificial! Esa ingeniería de precisión quirúrgica, diseñada para ser infalible,

por lo menos algo más que los humanos. Puede procesar millones de datos en un plis plas,

eliminando el factor de caos humano, de imperfección… de, llamémoslo, 'realidad'.

Estamos tan ocupados optimizando y perfeccionando estos sistemas que olvidamos un

detallito: la vida real. ¿Qué pasa cuando el camino se vuelve menos lineal y más, digamos,

'pandemia'? En época de Covid, las inteligencias artificiales, tan preparadas en sus entornos

de datos limpios y controlados, empezaron a cagarla. Imagina: una IA haciendo predicciones

económicas en medio de una pandemia. Acabó como el rosario de la Aurora.

Quizá la IA descubrió ese lado humano que nunca quiso, el de cometer errores en cadena.

Y ahí está el verdadero problema, amigos: la IA optimizada es excelente… siempre y cuando

el mundo se comporte. Pero, nosotros, los humanos, con esa 'habilidad' nuestra de ser caos,

de tomar decisiones en base a esa cosa anticuada que llamamos intuición. Se lo ponemos difícil.

Geoffrey Hinton, que por cierto ha hecho doblete este año, el Gipiti de Honor y el Nobel de Física,

lo dijo bastante clarito: “A veces tenemos que aceptar la incertidumbre porque es en las partes

ambiguas y desordenadas de la vida donde ocurren los avances.” Ahí lo tienes. Hinton, el gurú

del aprendizaje profundo, habla de una IA que no busca el control total, sino que aprende a

surfear en la ola del caos. Como esos humanos primitivos que intentaron entender el mundo

sin una hoja de cálculo en mano. Hinton nos dice que la IA no debería eliminar la incertidumbre,

sino aprender a moverse con ella, a usarla como motor de innovación.

Quizá estemos cerca de una IA menos arrogante, una que asuma que el camino hacia la 'perfección'

es una ilusión peligrosa. Y ya puestos a pedir, que sirva al bien común, que empodere y no controle,

que respete el entorno. El progreso real no debería trata de alcanzar una optimización impecable,

sino de crear sistemas que sepan cuando ceder el paso a la impredecible, caótica,

y francamente maravillosa… naturaleza humana."

https://www.forbes.com/councils/forbescoachescouncil/2024/11/01/ai-needs-uncertainty-to-make-better-decisions/?utm_source=flipboard&utm_content=other

Pero no es lo único que dice Geoffrey Hinton, el padrino de la IA Nos avisa,

con el avance de los deepfakes, identificar lo real de lo falso ya es como buscar el santo grial.

¿Su solución? Un simple código QR en los vídeos, para verificar su autenticidad en

un sitio web confiable. O sea, el plan es básicamente ‘pilla el código con tu móvil y cruza los dedos’.

Si hablamos de manipulación digital avanzada, nada da más confianza que un código escaneado.

Hinton sugiere que, en vez de obsesionarnos con etiquetar lo generado por IA, miremos en esa

dirección: confirmar que algo es auténtico en lugar de asumir que todo es falso. En eso diferimos.

Nosotros vamos a lo fácil. Pensar que todo es IA, ya nos da menos margen de error.

Pero Hinton sigue revisando, todo lo que puede salir mal con la IA. Desde desastres existenciales

hasta amenazas biológicas, ciberdelincuencia y discriminación. El amigo Geoffrey no está

precisamente celebrando su Premio Nobel, es más, se autodenomina ‘pesimista preocupado’,

ve un 20% de probabilidades de que la IA cause algo realmente catastrófico.

Parece que el porcentaje crece. Pero que va a saber este tío?

Anthropic también lo tiene claro, hay que ‘Regular antes de que sea demasiado tarde’.

Parece exagerado, pero añaden argumentos.

en solo un año, la IA pasó de resolver menos del 2% de problemas de codificación en octubre del

2023 a casi el 50% en el octubre pasado. Por no mencionar los delitos cibernéticos de los que la IA

ya es cómplice. la IA es un consultor de ciberdelincuencia.

Sugieren que regulemos ahora, antes de que los reguladores pongan en marcha políticas ‘sin sentido’

y que solo molesten a sus cuentas de resultados.

La regulación debe ser quirúrgica, sin ‘cargas innecesarias’, y bajo el lema de ‘simplicidad y enfoque’.

Lo que están aprendiendo el clan Amodei. Cada vez suenan más como su ex equipo.

La propuesta incluye el fascinante concepto de ‘Política de Escalamiento Responsable’.

los sistemas van a esperar pacientemente a ser lo suficientemente inteligentes para

volverse peligrosos y, ahí sí, los frenamos… como? con buena ley.

Además, Anthropic nos insta a los ingenuos mortales a confiar en que su RSP

será algo más que ‘política en papel’. O sea, que la seguridad se planteará al inicio de cada proyecto,

como una estrella en la hoja de ruta de los productos, y no como una letra pequeña en un contrato.

Porque, está claro que la industria tecnológica,

siempre prioriza la ética sobre el beneficio. No hace falta ni decirlo.

Sam Altman, hace mucho que no quiere estar en el club de Nvidia,

Sigue haciéndole la pelota al amigo Huang, pero

para obtener GPUs se quiere fabricar sus propios chips.

Está colaborando con Broadcom y TSMC para reducir esos costosos 'caprichos' de hardware,

parece que lo de recaudar 7 mil trillones no salió.

Pero se ha puesto las pilas, ha reunido a un dream team de 20 ingenieros con experiencia

en las míticas TPUs de Google, y se ha puesto un objetivo ambicioso: lanzar su primer chip

para 2026. Aunque, ya sabemos que las fechas de Samdios, son como el tiempo. Radicalmente variable.

Broadcom y TSMC están encantados, sus acciones se dispararon como si les hubieran prometido

un contrato para abastecer toda la IA del planeta.

Y quizá no sea una exageración.

Qué te parece la idea de hacer militar la IA de Meta, específicamente una versión de Llama,

Dirás, eso es que Mark tiene envidia del CEO mundial…

Que no, que han sido los chinos, que a pesar de tener modelos mejores, han dicho

y si además de entrenar modelos podemos tocar los mismo a los americanos?

Estos investigadores han cogido el modelo 13B de código abierto, lo afinaron con parámetros propios

y, voilà, surgió una versión optimizada que, según ellos, es un 90% más capaz que ChatGPT-4.

Ahora el mundo dice que Meta, en su intento de abanderar la innovación open source, ha abierto de par

en par las puertas a cualquiera, incluso al Ejército chino.

Meta nos dice que el uso de sus modelos por el imperio del chip naciente, es 'no autorizado'. Menos mal,

nos quedamos más tranquilos.

Ya hemos comentado sobre el código abierto, y está bastante claro que llama, no lo es.

Pero siempre se le puede seguir el juego a los chinos… y así, la culpa no es de Zuckerberg.

Es del open source.

Que opinas? El rebaño crece, pero los comentarios no. Haz un esfuerzo, párate un segundo y regalamos tu opinión.

Sín ti, esto no tiene sentido, critica, critícanos, critícalos, demuestra que eres humano.

Vuelva usted mañana.