Las llamadas de emergencia falsas con IA tienen una ventaja siniestra: la voz puede ser artificial, pero la policía que movilizan existe. NPR cuenta cómo las voces sintéticas y los efectos de sonido están complicando la detección del swatting: denunciar una emergencia inventada para provocar un despliegue policial contra una persona o un lugar.
Ya tenemos otra aplicación de la inteligencia artificial que nadie había pedido. La productividad consiste, en este caso, en conseguir que los recursos públicos trabajen para quien quiere hacerte daño.
La amenaza era falsa; las clases se cancelaron
Según NPR, una amenaza de bomba realizada con una voz generada por IA provocó en agosto una intervención policial y la cancelación de las clases en un instituto de California. No había ninguna bomba.
Ese es el mecanismo: no hace falta que exista una emergencia para causar consecuencias reales. Basta con convencer a quienes tienen la obligación de responder. El atacante aporta la ficción; los demás ponen el tiempo, los recursos y el miedo.
Una voz convincente no demuestra nada
Las voces sintéticas incorporan pausas, vacilaciones y otros rasgos naturales que dificultan reconocer el engaño, explican los profesionales consultados por NPR. Las organizaciones del sector están adaptando la formación de los operadores.
Durante años hemos aprendido a desconfiar de lo que parece demasiado perfecto. Ahora también toca desconfiar de lo que titubea con una humanidad impecable.
Hasta el «eeeh» viene optimizado.
Emergencias no puede permitirse acertar por intuición
Los responsables entrevistados subrayan que seguirán respondiendo ante situaciones que puedan poner vidas en peligro, incluso cuando existan indicios de una llamada falsa.
Y ahí está la crueldad del invento: explota un servicio cuya obligación es ayudar. Sospechar no elimina la responsabilidad de actuar; actuar permite que el engaño cumpla su objetivo.
La IA fabrica la emergencia. El miedo no necesita que lo generen.