Qué definir antes de delegarle una decisión a un agente

Un agente puede hacer exactamente lo que le pedimos y aun así producir un mal resultado.

No porque haya fallado, sino porque nunca definimos hasta dónde podía decidir.

Cuando delegamos una tarea a una persona solemos dar bastante más contexto del que creemos: explicamos qué buscamos, señalamos excepciones, advertimos qué no debe tocar y dejamos claro cuándo tiene que consultarnos.

Con un agente intentamos comprimir todo eso en una instrucción. Después nos sorprende que avance rápido en una dirección equivocada.

Cuatro preguntas

Antes de delegarle una decisión estoy tratando de responder:

• Qué resultado espero.
• Qué evidencia debe considerar.
• Qué límites no puede cruzar.
• Quién responde si algo sale mal.

Todavía no tengo resuelto cuánto contexto es suficiente. Pero sí tengo bastante claro que darle más acciones disponibles no lo vuelve más autónomo.

Solo aumenta la cantidad de cosas que puede hacer antes de pedir ayuda.