La moderazione automatica classifica testi (o immagini) rispetto a categorie di rischio – violenza, odio, sessuale, autolesionismo – e decide: passa, blocca, o segnala a un umano. Nelle applicazioni LLM serve in due direzioni: sull'input degli utenti (per non far processare al sistema ciò che non deve) e sull'output del modello (per non pubblicare ciò che non dovrebbe uscire).
Gli strumenti: API di moderazione dedicate (spesso gratuite a corredo delle API principali), modelli aperti specializzati (famiglia Llama Guard), o classificatori addestrati sulle tue categorie – perché ogni piattaforma ha confini suoi. Le lezioni apprese sul campo: le soglie vanno tarate sui dati reali (il falso positivo che censura una discussione medica è un danno anche lui), l'italiano e i contesti ironici sono terreno fragile, e la moderazione è un guardrail, non il sistema di sicurezza intero.