AGI: Ahora Gana el Interés

Muy buenos días humano, domingo 27, AI IA HOY, bienvenido a tu podcast.

Cuando empezamos, allá por febrero del año pasado, OpenAI estaba empezando

su nuevo proyecto. No es que acabaran de llegar, es que nuestro CEO favorito,

estaba diseñando el equipo a su imagen y semejanza.

En aquel momento la empresa de Gipiti no era nadie, pero ya se les notaban las costuras.

El primer especial que hicimos, por votación popular, fue Google tiene miedito…

El episodio, a muchos les pareció una alucinación.

Hoy nadie discute que Samdios les está comiendo la tostada y cada vez es menos

una ilusión y más un sorpaso real.

Hablaremos de ello, pero también de Anthropic, de como corren las maquinas,

de robots que aprenden como tu y de la conciencia de la IA…

Vamos, nuestros temas habituales, nuestros sospechosos habituales, nuestra vida,

que ahora nos parece lo normal. Pero es la ciencia ficción en tiempo real.

Friccionamos.

No vamos a repetir las peripecias del bueno de Sam, ya sabes,

algunos como Ilya Sutskever o Murati, le dijeron a la junta directiva que

el CEO mundial iba un poco a lo suyo, y quizá un pelín deprisa.

Pero sobre todo, que era un mentiroso, bueno, que no contaba la verdad.

Como no podía ser de otra forma, la junta le largó, pero fue por unos días, casi es

más lógico decir horas, porque el bueno de Altman, lo tenía todo pensado y

en seguida hizo rodar sus engranajes, y empezaron a salir apoyos en la empresa,

como si no hubiera un mañana. De hecho ese fue el argumento que usó.

O vuelvo o te quedas sin trabajo y para ti, no habrá un mañana.

Es tan convincente que convenció hasta a los que habían votado para que se fuera,

Y por supuesto, volvió no solo por todo lo alto, sino con todo el poder.

Ya no tenía que mentir a la junta, porque en unos meses, echó o se fueron

los disidentes, y formo un séquito, a su imagen y semejanza.

En esos momentos el objetivo de la empresa era el de garantizar que «la inteligencia

artificial general beneficie a toda la humanidad», jejeje

O bien hay un error de traducción o es que tiene una definición de humanidad muy

peculiar, quizá para OpenAI, la humanidad es la empresa y los accionistas.

El caso es que este es el objetivo, que todavía a día de hoy ponen en su web.

Sam ayúdame, estoy un poco Lost in translation.

El caso es que una empresa que vale 500.000 millones de dólares, un inciso,

cuando alcanzó los 100.000 millones de valoración dijimos que ya serían 300 mil,

ahora ese es su valor, pero cuando salga a bolsa, estamos seguros de que estarán

mas cerca del medio kilo de billón, tiempo al tiempo.

Lo dicho, si recibe dinero a cascoporro y se preocupa por vender, donde queda

eso de proteger a la humanidad… en que se diferencian de una empresa?

Pues el papi de Gipiti nos lo explica muy bien. La parte sin fines de lucro da un

pequeño paso a un lado, y la empresa se convierte en una corporación de

beneficio público. Y eso que es lo que es?

Pues te acuerdas de lo que dijo Sam Altman en 2017?

«No queremos tomar decisiones que beneficien a los accionistas», 

«Solo queremos rendir cuentas a la humanidad en su conjunto».

Pues eso no, más bien lo contrario.

Que no es que haya cambiado de idea, es que está madurando y evolucionando.

Con una entidad de este tipo, atención, si la empresa no beneficia al público…,

imagina que en lugar de al ser humano, se dedica a ganar dinero para la junta…

únicamente…

pues se la puede denunciar, porque es su obligación.

Entonces que?, les ponemos un pleito?

Que no, que no puedes, eso solo lo puede hacer la junta directiva.

No es Sam el tío más grande jamás contado.

Y porqué contamos todo esto?, te acuerdas de nuestras secciones que especialista en

seguridad se ha ido de OpenAI hoy? y la otra, quién ha avisado esta

semana sobre los peligros de la IA? Pues hace unos días salió una carta que

nos serviría en las dos secciones. Varios premios Nobel, algunos expertos en IA y

extrabajadores de OpenAI, han mandado una misiva a los fiscales generales de

California y Delaware, pidiendo auxilio.

Dicen que no tiene sentido que la junta directiva de la organización sin fines de lucro,

que se supone que es la que dirige la empresa, sea comprada por la parte empresarial.

“El control de las organizaciones sin fines de lucro sobre el desarrollo y la gestión de la AGI,

dicen, es tan importante para la misión de OpenAI que eliminarlo violaría el deber fiduciario

especial que se le debe a los beneficiarios de la organización”,

Es decir, que nos están vendiendo la moto, pero parece que lo que vamos a perder es el alma.

Pero no es una pataleta, según ellos es totalmente ilegal.

La organización sin fines de lucro de OpenAI no tiene derecho a ceder su control sobre OpenAI.

Su obligación es con la humanidad.

Que bonico, lastima que no sea verdad.

La empresa insiste en decir que, estamos comprometidos, tanto legal como personalmente,

con nuestra misión”, lo que no queda claro es si se refieren a la que aparece en la web

o a la que tiene en mente el niño de los bunkers.

Según dijo Altman en 2015, «El desarrollo de inteligencia artificial superhumana es

probablemente la mayor amenaza para la continuidad de la humanidad».

Ahora lo que viene diciendo, es dejadme solo…

Un exingeniero de la empresa nos cuenta que…

“OpenAI podría algún día desarrollar tecnología que podría llevarnos a la muerte a todos”,

Te acuerdas de como empezó; con un grupo de científicos, empresarios, intelectuales y Musk…

Que pensaban que el público se vería perjudicado si la IA general fuera desarrollada por una

entidad comercial con fines de lucro”, Es más, dejaron claro, que les preocupaba que fuera Google.

Y tanto se ha preocupado nuestro CEO favorito, que ahora el quiere ser más que los de palo alto.

Si dividen al buscador, el se quiere quedar con los restos.

Y ha puesto sus ojitos en Chrome, el navegador web.

Y esto, dirás, no es desvestir un santo para vestir a otro?

Pues la verdad, la palabra monopolio ya pega con OpenAI, y ni siquiera ha salido a bolsa.

Y parece que OpenAI planea avanzar hacia un ecosistema propio de navegación

potenciado por GPT.

Sabes aquello de si no puedes con el enemigo únete, pues Sam tiene su versión,

si no puedes con el gigante, divídelo en partes, y quédate con sus restos.

Los humanos parecemos cada vez más inconscientes, y la IA cada vez más consciente.

la generación Z, es la que está más preparada, no solo la usan para sus fines,

para su productividad, es que además son críticos, y por eso unos le tienen miedo,

y otros respeto, y casi la mitad, piensa que ya es consciente.

Por eso dicen gracias y por favor, por lo que pueda suceder.

Y no te lo pierdas, que esto le está costando ‘decenas de millones de dólares’

en electricidad a OpenAI. Por no hablar del agua que se bebe, unos 2 litros de agua potable

por entre 10 y 50 consultas, todo para enfriarlo.

Así que aquí no pierde la empresa, perdemos todos.

La semana pasada 12,000 atletas corrieron la media maratón de Pekín. Pero lo curioso

es que no compitieron contra Verdelis, sino contra 21 robots humanoides.

Es la primera vez, pero acostúmbrate, porque todo va a ser así.

Por ahora corren en pistas separadas, hay que cambiar las pilas durante la carrera,

muchos se caen y la mayoría no llegó ni al primer kilómetro,

ademas, No corrieron solos. Los operadores iban con correas, mandos a distancia,

spray refrigerante, cinta adhesiva… y el coche escoba tubo mucho trabajo.

pero esto es solo el comienzo. Y ya sabes que estos no paran de mejorar.

Por ahora, están en el calentamiento.

Anthropic esta semana, nos habla de los agentes autónomos. Que pueden ser muy

útiles, pero pueden ser un gran dolor de cabeza.

Qué pasará cuando tengan "sus propias memorias", "sus propios roles en la empresa" e

"incluso sus propias cuentas y contraseñas corporativas".

Respuesta: "hay muchos problemas de seguridad en torno a los empleados virtuales que

la empresa no ha resuelto y que necesita solucionar". Sorpresón.

Si ya tenemos dificultades para controlar accesos y defendernos de contraseñas robadas;

imagina cuando el tema lo lleven las máquinas…

De hecho, si hay algún problema, ¿quién es responsable el agente o el humano que

lo puso ahí? Todo son preguntas, algunas realmente complejas,

pero no te preocupes, que en un par de años estarán todas resueltas.

Y para acabar, como siempre, lo mejor.

Investigadores de la Universidad de Cornell (En New York) han desarrollado un sistema

de IA que permite a los robots aprender tareas viendo un único video de como se hace.

Con solo 30 minutos, los robots lograron un éxito en las tareas superior al 50 %

en comparación con otros métodos anteriores.

RHyME (asi se llama el sistema) permite que el robot use su propia memoria

y conecte acciones similares que ya ha visto. dicen que es como traducir,

traducimos cualquier tarea dada de un humano a un robot.

Os dejo el estudio, que se llama "Imitación de una sola vez bajo ejecución desigual".

En fin, no creemos que la IA sea consciente, bueno, quizá un poco como dijo Ilya,

pero de lo que estamos muy seguros, es de que nosotros, no lo estamos siendo

mucho en este tema, porque crear algo que nos supera, que será más inteligente y

que no vamos a poder entender, para luego dejarle que dirija el mundo, es pa nota.

No nos cansamos de avisar que son muchos los que lo dicen, que no somos nosotros,

es gente que sabe mucho y ha visto por dentro el tema.

Da igual, nosotros estamos a otras cosas, y no prestamos atención.

Nos dejamos temas, para variar.

Que Altman, como prometió, va a abrir el modelo, pero no veas que guasa tiene,

será un modelo que utilice las IAs de la competencia, si es que es el más listo.

Y os dejo tambien otro artículo que habla de su mochila nuclear, siempre la lleva

consigo, nunca la deja en el bunker.

No va más, muchas gracias por estar, humano.

Vuelva usted mañana.

https://futurism.com/openai-staffers-court-nonprofit

https://www.vox.com/future-perfect/410261/openai-non-profit-transition-letter-sam-altman-artificial-intelligence

https://www.thestandard.com.hk/world-news/article/301022/

https://futurism.com/openai-chrome-google-antitrust

https://www.elconfidencial.com/tecnologia/2025-04-23/openai-quiere-comprar-google-chrome-1qrt_4114363/

https://futurism.com/gen-z-thinks-conscious-ai

https://www.genbeta.com/actualidad/ser-educado-cuesta-decir-favor-gracias-a-chatgpt-no-sale-gratis-decenas-millones-dolares-sam-altman

https://es.wired.com/articulos/la-carrera-de-pekin-con-robots-humanoides-nos-dejo-multiples-ensenanzas-sobre-la-tecnologia-y-sus-limitantes

https://www.genbeta.com/actualidad/mayores-empresas-ia-alerta-que-ano-habra-empleados-virtuales-ia-no-ven-bueno-para-ciberseguridad

https://neurosciencenews.com/ai-robot-visual-learning-28691

https://techcrunch.com/2025/04/24/openai-wants-its-open-ai-model-to-call-models-in-the-cloud-for-help/

https://www.eleconomista.es/tecnologia/noticias/13334520/04/25/la-leyenda-tras-la-mochila-nuclear-que-sam-altman-chatgpt-lleva-por-si-la-ia-se-vuelve-contra-nosotros.html