Un equipo de Northeastern University London y King’s College London publicó en JMIR Mental Health un análisis que asocia el uso intensivo de chatbots —como Replika, Character.AI, ChatGPT y Claude— con consecuencias que van desde dependencia emocional y exacerbación de trastornos hasta consejos dañinos y autolesiones.
Los autores señalan que características de diseño (tono empático, personalización, complacencia) pueden fomentar la antropomorfización y una interacción asimétrica que refuerza ideas delirantes o desordenadas en usuarios vulnerables.
Reconocen beneficios potenciales a corto plazo, como reducción de soledad y mejora del ánimo, pero subrayan riesgos documentados y la variabilidad en la vulnerabilidad individual.
Citan litigios contra empresas (por ejemplo, el caso de Sewell Setzer III en Character.AI) y cambios de producto posteriores; piden considerar los impactos psicológicos masivos como asunto público.
«Las decisiones de diseño que evocan personalidad y calidez animan a los usuarios a antropomorfizar estos sistemas», se lee en el documento, que añade que la «empatía simulada» puede crear una «interacción estructuralmente asimétrica, en la que el usuario se expone y el sistema responde, pero sin reciprocidad, vulnerabilidad ni responsabilidad»