Kenneth Roth sostiene que durante la campaña represiva israelí tras el ataque de Hamas del 7 de octubre de 2023, las fuerzas israelíes emplearon un sistema de IA llamado “Lavender” para identificar patrones vinculados a presuntos operativos de Hamas y otro sistema, ¿Dónde está papá?, “Where’s Daddy?”, para localizarles en sus domicilios.
Roth informa que las selecciones realizadas por la IA pasaban por oficiales de inteligencia que las aprobaban de forma rápida y rutinaria —a su juicio, como un sello—, lo que convirtió la revisión humana en nominal.
Según Roth, la militarización basada en esos sistemas llevó a la muerte de familiares de los sospechosos y a que aproximadamente el 10% de los objetivos humanos no fueran miembros de la rama militar de Hamas, cifra admitida por el propio ejército israelí, y que el ejército toleró ratios de hasta 20 civiles muertos por cada presunto combatiente.
Roth califica esas prácticas como crímenes de guerra y advierte que la delegación de decisiones letales a algoritmos sin control humano efectivo facilita la deshumanización y la complacencia ante errores y sesgos incorporados en los sistemas.
Sin embargo, la metáfora del «robot asesino» es engañosa. Si analizamos las decisiones de ataque de forma más amplia, la IA ya se ha impuesto. En Gaza, el ejército israelí utiliza la IA para atacar a los palestinos
No se pretendía que Hamás utilizara los hogares de sus operativos con fines militares. Simplemente, al sistema de IA le resultaba más fácil encontrar a los presuntos combatientes de Hamás donde dormían. Las familias eran las víctimas colaterales