Las grandes tecnológicas hablan de una IA democrática, pero las decisiones siguen concentradas en unas pocas empresas y despachos de Washington. Esa es la crítica central del análisis de Tech Policy Press: quienes sufrirán las consecuencias apenas participan en la elección de los riesgos que se consideran aceptables.
El artículo describe una gobernanza marcada por acuerdos voluntarios, investigaciones regulatorias y presión política para acelerar. Su objeción no es solo que falten normas: quienes desarrollan la tecnología tienen demasiado poder para decidir cómo se les controla.
La próxima prueba es SAFA, el organismo de coordinación de seguridad que, según el texto, preparan OpenAI, Anthropic y Google para 2027. Coordinaría pruebas antes del lanzamiento y la comunicación de incidentes. Pero estaría financiado por los propios laboratorios y carecería de una supervisión pública equivalente a la que respalda al regulador financiero FINRA. El sector se organiza para vigilarse; queda por resolver quién vigila al vigilante.
La alternativa que propone el artículo tiene tres requisitos concretos:
- Representación: expertos independientes y sociedad civil con voto real, no como invitados decorativos.
- Transparencia: borradores abiertos a consulta y publicación de incidentes y auditorías.
- Rendición de cuentas: controles independientes, protección para denunciantes y consecuencias por incumplir.
Las encuestas citadas refuerzan el contraste: un 86 % apoyaría estándares de seguridad independientes aunque ralentizaran el desarrollo.
La carrera por acelerar no equivale, por tanto, a un mandato ciudadano.
(Según el artículo, los estatutos, la estructura de gobierno y el liderazgo de SAFA aún no se han definido)