Revista HUMANía

La seguridad de la IA se diseña en Occidente y falla a usuarios globales

Rest of World

Leer en el medio original (se abre en una pestaña nueva)

La seguridad de la IA se diseña en Occidente y falla a usuarios globales
Imagen creada con IA · Modelo: gpt-image-2.

La seguridad de la IA se diseña en Occidente y falla a usuarios globales porque las normas, datos y pruebas provienen de entornos anglocéntricos y reguladores occidentales. Esto reproduce sesgos, errores de interpretación cultural y protecciones inadecuadas para lenguas, prácticas sociales y marcos legales distintos. Organizaciones y expertos locales piden más participación en el diseño, evaluación y gobernanza de herramientas, además de conjuntos de datos representativos, pruebas en contextos reales y marcos regulatorios adaptados. Sin cambios, la brecha entre quién crea las salvaguardas y quién las necesita seguirá exponiendo a comunidades vulnerables a daños y exclusión tecnológica.

Cita literal del artículo original

Por ejemplo, en tigriña, hablado por unos 9 millones de personas en Eritrea y el norte de Etiopía, la traducción automática tradujo la viruela como sífilis, la gonorrea como diabetes y «le han administrado antibióticos intravenosos» como «le han administrado insecticidas intravenosos»

Arriba