Oltre il singolo agente, il modo in cui si struttura il loop decisionale determina affidabilità e costo. I pattern ricorrenti:
- ReAct (Reason + Act): il modello alterna ragionamento e uso di strumenti in un ciclo – semplice, flessibile, ma può divagare e bruciare token senza convergere
- Plan-and-Execute: prima un piano esplicito, poi l'esecuzione passo-passo – più prevedibile e verificabile, meno adattivo
- grafo di stato (stile LangGraph): l'esecuzione è una macchina a stati con nodi, transizioni e checkpoint – è ciò che rende possibili ripresa, time-travel debugging e controllo di flusso deterministico attorno a passi stocastici
- gerarchico/multi-agente: orchestratore + specialisti
Il principio ingegneristico sotto: il determinismo va nell'impalcatura, la stocasticità nei nodi. Non chiedere al modello di decidere il flusso (loop, condizioni, retry) se puoi codificarlo – è più robusto, testabile e economico. Il modello decide dentro i passi; il grafo decide tra i passi. È esattamente la filosofia di un workflow deterministico e la ragione per cui un buon harness batte un prompt "fai tutto tu". E ogni nodo che agisce resta soggetto a permessi e sandbox.