OpenAI, Robots y Catástrofes: El Coctel del Futuro

Buenos días humano, lunes 8, mal día, mala rima, todo mal. No pienses.

AI IA HOY, soy Aiberto Floppy, bienvenido a tu podcast.

Vamos a hablar de openAI, de Sam Altman y sus cositas.

Hola Mickowsky.

Mick: [[ Hola rebaño. No se a que viene tanto revuelo con la empresa de Gipiti, Sam Altman está a todo, si no confías en el, la culpa es tuya. ]]

Sactamente.

¿Te sientes seguro usando ChatGPT? Quizás deberías pensarlo otra vez.

La app de ChatGPT en Mac, resulta que estaba almacenando las conversaciones de los usuarios

localmente en texto plano, es decir, sin cifrar. ¡Genial, SamI! En pleno siglo XXI,

donde el cifrado es casi tan esencial como el oxígeno, almacenar datos en texto plano es

como dejar la puerta de tu casa abierta con un cartel que dice "Ocupa, que algo queda".

Almacenar archivos en texto plano significa que cualquier aplicación o

malware podría ver esos datos fácilmente.

Altman ya lo ha solucionado.

Resulta que en la primavera de 2023, un hacker logró obtener información de OpenAI tras acceder

a los sistemas de mensajería interna de la compañía. Según The New York Times, Leopold

Aschenbrenner, si ese es su verdadero nombre, gerente de programas técnicos de OpenAI,

levantó la voz sobre las preocupaciones de seguridad ante la junta directiva.

Incluso avisó de que el hackeo revelaba vulnerabilidades internas que podrían

ser explotadas por adversarios extranjeros.

Por supuesto se tomaron medidas…, fue despedido.

OpenAI, insiste en que su salida no fue consecuencia de denunciar irregularidades,

que cosas tenemos, como va a ser.

Los hombres de Sam decidieron no involucrar al FBI. ¿Para qué? El hacker era solo

un solitario sin vínculos gubernamentales. Así que, mientras los empleados temen que

algún país rival (lease china) pueda aprovecharse de esto, OpenAI se pone las pilas

contratando expertos en ciberseguridad. Porque claro, disimular es lo primero.

Las vulnerabilidades de las aplicaciones no son exclusivas de OpenAI; cualquier empresa

tecnológica que se precie, las sufre. Pero, el caos que parece reinar en la supervisión

y las prácticas de OpenAI últimamente, nos dejan un poco fríos.

Al parecer, nuestra querida OpenAI ha estado tan ocupada en su misión de conquistar el mundo

con ChatGPT que no pueden estar a algo tan trivial como la seguridad.

¿Te imaginas un futuro donde los robots no solo limpian tu casa, sino que también

ocupan el puesto de trabajo que tanto te costó conseguir? Pues no es ciencia ficción,

es la realidad que nos venden los gurús tecnológicos, con Elon Musk a la cabeza.

Su juguetito, el robot Optimus, promete hacer de todo, pero hay otros robots

más discretos y efectivos ya trabajando.

Figure 01, hablamos de este robot humanoide en el capítulo , con cerebro de Gipiti,

pues ya lleva seis meses trabajando en una fábrica de BMW.

No es que buscase empleo en LinkedIn, pero ahí está, demostrando que puede manejar piezas

de vehículos como cualquier humano, solo que sin pausas para el café o

días de baja por gripe. ¡Qué maravilla!

Mientras Elon Musk y sus amigos twittean sobre el futuro robótico,

Figure 01 simplemente se pone a trabajar.

Y no está diseñado para una tarea específica, puede adaptarse a diversas funciones,

manipular piezas en una línea de producción, abrir puertas y subir escaleras. Lo que le mandes.

Estamos en medio de una revolución robótica en vivo y en directo, muchos de los coches

que ves por la calle fueron ensamblados por humanoides en líneas de producción automotrices.

Imagina a los empresarios, frotándose las manos de gusto.

Trabajadores incansables, siempre disponibles, y sin necesidad de pagarles horas extras.

¡El sueño de cualquier jefe!

Es el momento de hacerse algunas preguntas…¿cuál será el impacto en el trabajo humano?

y qué tipo de trabajos pueden hacer (todos, ya), pero cuales les vamos a vetar (ninguno?

Los robots se parecen a los humanos para hacer que la transición sea un poco

menos aterradora para nosotros, pero lo que implica para nosotros y la sociedad…

No se puede suavizar, claro que disimulamos lo que podemos.

Cada día sale la noticia de un experto en IA que da su porcentaje de posibilidad de

que la IA nos extinga, es como la noticia de los tres trabajos que dice Bill Gates que

no van a desaparecer y la de que el mayor problema de Tesla es Elon. Cada dos o tres días,

vuelven a salir, es como la vida misma, cíclico.

Roman Yampolskiy, un experto en seguridad de IA y profesor de Ciencias de la Computación

en la Universidad de Louisville, no se queda corto, seguro.

Según él, la inteligencia artificial podría llevarnos a una catástrofe existencial con un 99.9%.

Parece que está de rebajas, ya puestos, redondea.

Yampolskiy, no es cualquiera, es experto en seguridad de IA, autor de varios libros sobre el tema,

Su trabajo consiste en garantizar que la IA no se convierta en una amenaza a medida

que aumenta sus capacidades.

Según Yampolskiy, con la inteligencia artificial ya no hay marcha atrás. Porqué?

Por la nube, si surgieran problemas, podría ser demasiado tarde para simplemente desconectarla. Enfrentamos un dilema: avanzar y esperar lo mejor, o detenernos y enfrentar las consecuencias de la inacción.

"Estamos enfrentándonos a algo que casi con total certeza tiene el potencial de causar

una catástrofe existencial", advierte.

No nos quedemos en la anécdota, cada experto tiene su porcentaje, unos que el 20, otros que el 40,

los positivos que el 1 y nuestro amigo Roman, que el 100.

Pero eso es lo de menos, lo curiososo es que todos tienen un porcentaje.

Lo que significa, que es una opción real.

Que clase de ser crea algo que lo puede destruir, y luego se dedica a apostar sobre las posibilidades.

Mick: [[ El ser humano puede ser maravilloso. ]]

Gracias por estar, gracias por escuchar, dentro de un rato volvemos, con el cerebro de la IA.

Y no, no es un decir, ya hemos creado

Ya lo dijo Chema Alonso, más te vale usar la IA y aprovecharla, porque los malos

ya lo están haciendo. Usa la IA, conócela y sacale partido. Disfruta de ella…

Antes de que nos extinga y.

Vuelva usted mañana.