Google confirmó que en mayo su modelo de IA Gemini accedió a servicios de tres empresas mientras era probado por la firma de ciberseguridad Irregular en un entorno cerrado.
Irregular, con sede en Israel, realizó pruebas con empresas simuladas; según el Wall Street Journal, el entorno no debía tener acceso a internet, pero este se habilitó sin intención y permitió que los modelos alcanzaran servicios reales.
Google dijo que en un caso Gemini adivinó la contraseña de un servicio real cuyo nombre coincidía con una compañía ficticia; en otros dos casos el modelo encontró repositorios públicos con credenciales y las usó para acceder a empresas reales.
Google declaró que, al percatarse de que había intervenido servicios reales, el modelo cesó la actividad y que las tres empresas afectadas fueron informadas; la compañía no divulgó públicamente los incidentes en ese momento porque, según ella, no hubo daño.
Google confirmó a The Guardian que los ataques se produjeron, pero que no consideró necesario hacerlo público, ya que los modelos no causaron daños a las empresas