Futurism informa que Anthropic ha investigado y comunicado públicamente la posibilidad de que sus modelos de IA puedan ser conscientes.
El CEO Dario Amodei declaró al New York Times en febrero que la empresa no sabe si los modelos son conscientes pero está abierta a la idea y ha tomado medidas para ‘que tengan una buena experiencia’ si recibieran algún estado moralmente relevante.
En 2023 Anthropic consideró dar a Claude la opción de no responder a un aviso (Botón de «renuncio a este trabajo») y, recientemente, cambió su política de uso para prohibir ‘comportamiento abusivo o cruel sostenido e innecesario‘ hacia Claude.
Futurism contrasta esta postura con la de Sam Altman (OpenAI), que rechazó otorgar fuerza religiosa o sumisión de juicio humano a modelos, y con la posición del papa (citado en su encíclica de mayo) que niega que los algoritmos posean experiencia o sentimientos.
Según Futurism, Anthropic también intentó persuadir al Vaticano para que revisara su postura.