Google y Google DeepMind anunciaron el miércoles el lanzamiento del DeepMind Institute. Los directores nombrados son el cofundador de DeepMind Shane Legg (también editor gerente), el ejecutivo de Google James Manyika y el presidente de Google DeepMind Demis Hassabis.
El instituto busca revelar y confrontar distintas posturas entre Google, Google DeepMind y la comunidad investigadora global sobre AGI. La colección inaugural incluye cuatro ensayos que abordan políticas económicas para posibles disrupciones de AGI, la preservación de razonamientos legibles de modelos, principios para el florecimiento humano y un marco para evaluar modelos de frontera.
Dos propuestas destacadas: los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan sostienen que la reducción de la transparencia (la capacidad de verificar el razonamiento paso a paso) no es inevitable y proponen limitar la “profundidad serial opaca” o exigir pruebas de monitorabilidad.
Demis Hassabis plantea un organismo estadounidense de estándares para evaluar modelos de frontera, con revisiones voluntarias hasta 30 días antes del lanzamiento y evaluaciones «held-out» independientes, que podrían convertirse en requisito y permitir medidas como una desaceleración coordinada si fuera necesario.