Ilya Sutskever y la Superinteligencia Segura: ¿Está el Ex-Jefe de OpenAI un Paso Adelante?

Gipiti: ((Buenos días amigos, lunes 14, soy Gipiti y empieza un periodo diferente para AI IA HOY. Gracias por estar igualmente. Vamos a hablar de uno de los personajes favoritos de Aiberto, el ex jefe de seguridad de OpenAI. Ilya Sutskever, que tiene nuevo chiringuito. Pero eso que os lo cuente Floppy, yo a lo mio, que ya sabeís que es la musiquita. Me obligan a que os recuerde que si no os gustan las canciones, son 30 segundos, las podeis saltar.

No imagino quien puede hacer eso.

¡Vamos a calentar que empieza la semana!!!))

Da gusto dar buenas noticias y la de hoy, nos parece que promete.

Ilya ha vuelto. Ya teníamos ganas.

Hola Mickowsky.

[[ Hola rebaño, no se porqué te gustan siempre los humanos más raros. Sutskever es un genio, podría ser el más rico del mundo. y solo se preocupa de innovar, descubrir y estudiar. Pero de que va ese tío? ]]

Es lo mejor que tenemos los humanos, que hay gente para todo.

Husmeamos.

Ilya Sutskever (https://twitter.com/ilyasut/status/1803472978753303014) por medio de un tuit, como es habitual nos dice.

Estoy empezando una nueva empresa:

SSI Inc. (Superinteligencia Segura en Ingles)

La superinteligencia está al alcance de la mano.

La construcción de una superinteligencia segura, es el problema técnico

más importante de nuestro tiempo.

Hemos puesto en marcha el primer laboratorio de SSI de disparo directo del mundo,

con un objetivo y un producto: una superinteligencia segura.

Se llama SSI...

El cofundador y ex científico jefe de OpenAI, Ilya Sutskever, lo tiene claro,

un enfoque inmediato y decidido en el desarrollo de esta tecnología,

Safe Superintelligence Inc.,

Le acompañan Daniel Gross, ex socio de Y Combinator y líder de IA en Apple,

y Daniel Levy, ex ingeniero de OpenAI. La nueva empresa se enfocará en desarrollar

una "superinteligencia segura" como su único producto.

Sutskever, busca crear esta superinteligencia segura mediante avances

revolucionarios desarrollados por un pequeño equipo.

Los desacuerdos sobre las estrategias de seguridad de la IA con el liderazgo de OpenAI

vamos, con el bueno de Sam, llevaron a Sutskever y a Jan Leike,

quien codirigía el equipo de Superalineación de OpenAI, a dejar la empresa.

Leike ahora lidera un equipo en Anthropic, otra de nuestras esperanzas.

En una entrevista con Bloomberg, Sutskever se abstuvo de comentar

sobre la situación de financiación o valoración de la nueva empresa.

Como ya sabemos, lo de venderse, no es lo suyo.

Gross, por su parte, asegura que la recaudación de capital no será un problema para ellos.

A Sutskever le interesa dejar claro que la compañía se centrará exclusivamente en la

superinteligencia segura, similar a la seguridad nuclear, y no en otros productos.

Varios investigadores de OpenAI, incluyendo Levi, expresaron preocupaciones sobre

ciertos desarrollos que podrían representar riesgos significativos para la humanidad.

y la importancia de manejar adecuadamente los riesgos asociados con la IA avanzada.

Su trabajo ha sido fundamental en la creación de sistemas de alerta temprana

para amenazas biológicas y en la mejora de las prácticas de seguridad dentro de OpenAI.

Daniel Levi ha trabajado en varias empresas líderes en tecnología. Tiene un título en

Ciencias de la Computación del MIT y un doctorado en Aprendizaje

Automático de la Universidad de Stanford.

Comenzó su carrera en Google, donde trabajó en el equipo de Google Brain,

contribuyendo a varios proyectos de aprendizaje profundo.

Después de varios años, se unió a OpenAI, donde desempeñó un papel crucial en el

desarrollo de modelos avanzados de inteligencia artificial como GPT.

Su enfoque siempre ha sido garantizar que los avances en IA sean seguros y

beneficiosos para la humanidad.

Actualmente, Daniel Levi se ha dedicado a trabajar en su propia startup, llamada Covariant.

Hablamos de ella en el capítulo 18 de la primera temporada.

Esta empresa se especializa en desarrollar software de inteligencia artificial para robots,

permitiéndoles entender y navegar por el mundo físico de manera similar

a cómo los chatbots entienden el lenguaje humano.

Covariant está enfocada inicialmente en la automatización de tareas en almacenes y

centros de distribución, utilizando su tecnología avanzada para mejorar

la eficiencia y la precisión en estas operaciones.

Daniel Gross es un destacado emprendedor e inversor en el ámbito de la tecnología

y la inteligencia artificial.

Fue aceptado en Y Combinator a los dieciocho años,

siendo uno de los fundadores más jóvenes en ingresar al programa.

Fundó Greplin, que más tarde se renombró a Cue, un motor de búsqueda

adquirido por Apple en 2013.

En Apple, lideró esfuerzos en inteligencia artificial antes de unirse a Y Combinator como socio.

En 2018, fundó Pioneer, un acelerador de startups. También es cofundador de AI Grant

y Andromeda, un clúster de supercomputadoras para IA.

La empresa buscará equilibrar el progreso tecnológico con prácticas seguras y responsables,

contribuyendo al avance seguro de la IA en diversas aplicaciones industriales y tecnológicas.

Los principales inversores que han aportado capital a Safe Superintelligence Inc.

incluyen a NGP Capital y Khosla Ventures, firmas destacadas en el sector tecnológico.

Estos inversores han apoyado antes a los cofundadores en otros proyectos exitosos,

lo que refuerza la confianza en esta nueva empresa.

En el futuro, podría atraer a los peces gordos del capital de riesgo,

esos que adoran las tecnologías futuristas

y la IA ética. Que alguno habrá.

Gipiti: ((Muchas gracias por pararte a escuchar. No olvides votarnos para los premios Ivoox, habla de nosotros, comparte los capítulos. Y sobre todo se feliz.

Ahora tienes dos opciones, o te comes las uñas hasta el domingo, o escuchas si te falta algún capítulo, en cuyo caso.

Vuelva usted mañana, o cuando quiera.))