La empresa de ciberseguridad Malwarebytes publicó que asistentes de IA pueden sufrir ataques de ‘prompt injection’ (llámalo colarle órdenes a una IA por la puerta de atrás. Y que encima crea que son de su jefe), en correos electrónicos, donde texto malicioso se oculta para que lo procese la IA pero pase desapercibido a humanos.
Apollo Raines, desarrollador de ShipItClean, señaló a Malwarebytes que el defecto es que el modelo no distingue entre texto para leer y órdenes a ejecutar, y recomendó eliminar contenido oculto antes de que llegue al modelo.
Malwarebytes aconseja conservar al humano en el bucle y exigir aprobación humana para acciones de alto impacto como pagos o cambios en detalles de proveedores.
Las personas que ya desconfían de los correos electrónicos sospechosos deberían aprender a «desconfiar también de su asistente de IA»