Según WINK News y declaraciones del sheriff Carmine Marceno, Carli Michelle Heller fue arrestada en Bonita Springs, Florida, tras usar el chatbot Claude para escribir que planeaba tirotear (shoot up), una oficina del sheriff.
El software de monitoreo de Anthropic marcó los registros para revisión humana; tras esa revisión, la compañía informó a la policía y Heller fue acusada de amenaza escrita de violencia, delito de segundo grado en Florida.
La privacidad del usuario y la prevención de la violencia chocan de frente. Tras el tiroteo de febrero en Tumbler Ridge, Canadá, se supo que la autora había utilizado ChatGPT para planificar el ataque y que sus conversaciones habían sido revisadas meses antes. Según el relato citado, los ejecutivos de OpenAI intentaron ocultar y después minimizar el papel del producto. La seguridad era prioritaria; al parecer, la reputación también.
Anthropic, con su propio historial de daños, parece intentar evitar un caso similar. Pero con tantos chatbots disponibles, bloquear una amenaza en uno no impide trasladarla al siguiente. La industria ha multiplicado las puertas de entrada y ahora empieza a preguntarse quién vigila el pasillo.