Poner una IA a trabajar exige decidir qué puede hacer sola, cuándo debe preguntar y qué tiene prohibido. Una molestia: después de comprar inteligencia artificial, todavía hace falta criterio humano.
Sravan Vadigepalli, responsable de transformación empresarial con IA en Lowe’s y coautor de The Enterprise Brain, propone en IEEE Spectrum seis pautas para organizar esa responsabilidad:
1. Dejar de ser mensajeros entre aplicaciones. Automatizar el traslado de datos permite dedicar tiempo a valorar qué significan.
2. Ordenar las prioridades. Ante instrucciones contradictorias, el sistema debe saber qué prevalece: decir la verdad, por ejemplo, antes que conseguir una venta.
3. Convertir los valores en instrucciones. Distinguir límites inviolables, criterios empresariales y procedimientos. El cartel de «nuestros valores» del pasillo tiene escasa capacidad de procesamiento.
4. Graduar la autonomía. Establecer cuándo actúa la IA y cuándo interviene una persona, aprovechando las correcciones.
5. Conectar el contexto. Relacionar contratos, presupuestos e historial del cliente para fundamentar las decisiones.
6. Supervisar las excepciones. Concentrar la atención humana en situaciones ambiguas o de consecuencias importantes.
La propuesta obliga a hacerse una pregunta bastante menos vistosa que «¿qué modelo usamos?»: ¿quién responde cuando se equivoca? Porque «lo decidió el algoritmo» puede abrir una reunión, pero difícilmente debería cerrarla.
El trabajo ya no se limita a construir sistemas de IA ; también incluye definir cómo operan: qué decisiones pueden tomar de forma autónoma, cuándo deben recurrir a una persona y qué acciones deben permanecer restringidas