Un guardrail a runtime è il controllo deterministico che avvolge ogni interazione con un LLM in produzione – perché il modello, per costruzione, non offre garanzie. Il "firewall semantico" è il nome che descrive quelli che ragionano sul significato, non solo su pattern:
- in ingresso: rileva prompt injection e jailbreak, filtra PII e argomenti vietati, classifica l'intento prima che raggiunga il modello
- in uscita: moderazione, controllo che non escano segreti o dati sensibili, validazione di formato, verifica di aderenza alle policy
Gli strumenti (NeMo Guardrails, Llama Guard, Guardrails AI) combinano regole, classificatori e a volte un secondo LLM-giudice. Il principio architetturale che li rende efficaci: non sono nel prompt, sono nel codice attorno – un guardrail che il modello stesso applica è un guardrail che il modello stesso può essere convinto a saltare. Vanno messi in un punto di controllo unico davanti a ogni endpoint, ed è esattamente il ruolo di llmproxy (proxy security-first) e aidlp (DLP sul flusso) nel portfolio: il posto giusto dove applicare la policy è prima e dopo il modello, non dentro.