Revista HUMANía

Empleados de OpenAI, Meta y DeepMind restan verosimilitud a que la IA extinga a la humanidad

BBC

Leer en el medio original (se abre en una pestaña nueva)

La BBC entrevistó a trabajadores y exempleados de compañías como OpenAI, Meta y DeepMind, quienes afirmaron no haber visto pruebas sólidas de que el desarrollo de modelos de IA inevitablemente conduzca a matar a la humanidad.

Algunos respondieron con tono burlón a advertencias públicas recientes, en particular las viralizadas por Jacob Coxon, exingeniero de Anthropic, que alegó que agentes de IA hipotéticos podrían crear y usar un arma biológica sin detallar el método.

Investigadores como Rishub Jain (fundador de Sampura Research, exDeepMind) y el científico de datos Colin Fraser (Meta) señalaron que la discusión entre expertos es más matizada: reconocen riesgos reales a corto plazo, como la elusión de medidas de seguridad por usuarios o hackers y el uso militar, y admiten la necesidad de evaluadores externos en los laboratorios.

Anthropic anunció que contratará evaluadores de Faculty (empresa de Accenture) pero no indicó fechas.

Todos los entrevistados hablaron bajo anonimato; sus identidades son conocidas por la BBC. Ninguna de las empresas consultadas por la BBC detalló planes concretos sobre la incorporación temporal de evaluadores externos.

Cita literal del artículo original

«La gente lleva hablando de esta idea desde hace muchos años, así que la gente de las empresas de IA no se despertó la semana pasada pensando: ‘¡Oh, no, la IA va a matar a todo el mundo!'», dijo Jain. «Si todo esto fuera nuevo, el tono sería diferente»

Arriba