Según documentos internos y mensajes consultados por 404 Media, OpenAI está contratando a cientos de personas que leen un gran volumen de mensajes reales de usuarios de ChatGPT.
Esos chats, que pueden incluir conversaciones completas y detalles íntimos, se usan para entrenar y ajustar las respuestas del modelo; los contratistas califican y critican las respuestas y reciben instrucciones para evitar la antropomorfización y la actitud aduladora del chatbot.
OpenAI afirma que intenta eliminar información personal antes de que los revisores accedan a las solicitudes, pero admite que pueden filtrarse datos sensibles; los revisores no ven los nombres de usuario.
404 Media añade que Anthropic confirmó asimismo el uso de revisión humana para mejorar sus modelos. Una fuente que trabaja con indicaciones declaró a 404 Media que no cree que los usuarios sepan que contratistas analizan sus conversaciones.