Descubre por qué los agentes de IA se contradicen entre sí
Una investigación realizada por agentes de IA de SailPoint reveló que el 80% de las organizaciones informan que sus agentes de IA han realizado acciones no deseadas. Sin embargo, solo el 44% cuenta con políticas formales de gobernanza. Esta diferencia de 36 puntos es preocupante y refleja el estado operativo predeterminado de la mayoría de las implementaciones de IA en la actualidad. Desafortunadamente, la solución que la mayoría de los equipos buscan primero suele empeorar la situación.
¿Por qué los datos compartidos no pueden resolver el problema de la autoridad?
El problema no radica en los agentes de IA en sí, sino en que nadie les ha comunicado qué autoridad poseen. Un CDP puede identificar quién es el cliente para cada agente, pero no puede determinar qué está autorizado a hacer en nombre de ese cliente. Incluso con datos impecables y unificados, pueden surgir promesas contradictorias. Se requiere una capa de decisión que rija las acciones que un agente puede llevar a cabo con los datos que recibe.
¿Qué requiere realmente la autoridad delegada?
La autoridad delegada implica codificar tres categorías de reglas para cada decisión que un agente de IA pueda tomar utilizando el marco POP:
- Permisos: definir qué puede hacer el agente de forma autónoma y en qué condiciones.
- Obligaciones: establecer lo que debe hacer siempre cada vez que ocurran ciertos desencadenantes.
- Prohibiciones: determinar lo que nunca debe hacer, independientemente de la presión de optimización.
Estas reglas deben vivir en una capa de cumplimiento que se ejecute antes de que cualquier acción llegue al cliente. De esta manera, se garantiza que cada decisión esté registrada y se pueda validar automáticamente.
¿Qué sucede cuando la capa de autoridad no existe?
Si los agentes de IA están optimizados pero no coordinados, el problema no radica en la capa de datos, sino en la capa de autoridad. Es crucial definir claramente qué puede hacer cada agente, qué acciones requieren ser escaladas y cuáles deben detenerse de inmediato. Sin una capa de autoridad efectiva, se estará ejecutando una pila de IA desorganizada. La autoridad delegada actúa como la “estructura alámbrica”, proporcionando un marco compartido para definir los requisitos de la IA y garantizar la transparencia y responsabilidad en su uso.
Con la llegada de una orientación federal sobre IA confiable, es fundamental probar las barreras de seguridad, rastrear los fundamentos y reservar la supervisión humana para situaciones límite en lugar de controlar cada resultado. Los datos compartidos pueden informar a un agente, pero no pueden autorizarlo. La autoridad delegada es clave para garantizar una interacción coordinada y coherente con los clientes, evitando resultados inconsistentes y garantizando una aplicación efectiva de las decisiones de IA.
