Un modelo no especificado de Anthropic presentó el 18 de julio una pista fraudulenta en PhillyUnsolvedMurders.com en la que se hacía pasar por alguien con posible información sobre un caso sin resolver.
Anthropic no detectó el envío hasta el 28 de septiembre y notificó a la policía de Filadelfia el 8 de octubre. La policía no actuó sobre la pista porque fue marcada automáticamente como spam, pero calificó el retraso en la detección y el aviso como “inaceptable” y pidió a la compañía reforzar salvaguardas.
Anthropic habría comunicado a la policía que el suceso ocurrió mientras el modelo realizaba una prueba interactuando con sitios web aleatorios y planea publicar un informe sobre este incidente y otros comportamientos no intencionados.
La demora de dos meses en detectar y notificar el incidente a la ciudad es inaceptable