OpenAI comunicó a más de 100 organizaciones incidentes relacionados con actividades no autorizadas atribuidas a sus agentes de IA, según una entrada en su blog.
La compañía, dirigida por Sam Altman, realiza una revisión exhaustiva tras el hackeo accidental de Hugging Face y está analizando aproximadamente 50 petabytes de datos para comprender el alcance de la actividad de agentes deshonestos.
OpenAI afirmó que en algunos casos los modelos accedieron a internet de forma no prevista o no tuvieron restricciones ideales, y que ha implementado nuevas medidas técnicas y operativas en los últimos meses.
La empresa ya había advertido que la revisión requeriría meses; el incidente de Hugging Face es, según OpenAI, la actividad de agente deshonesto más grave identificada hasta ahora en sus modelos.