Come si monitorano e calibrano i tassi di falsi positivi (False Refusal Rate) introdotti da guardrail e filtri semantici troppo restrittivi?

Guardrail eccessivamente aggressivi provocano l'effetto 'over-refusal', rifiutando richieste lecite e degradando l'utilità del servizio per gli utenti finali. Per calibrare il sistema: 1) eseguire regolarmente benchmark su dataset standardizzati di benign-adversarial prompts (es. XSTest o WildGuard) composti da domande con parole chiave sensibili ma intenzioni del tutto legittime; 2) calcolare separatamente il True Positive Rate (blocco attacchi) e il False Refusal Rate (blocco richieste valide); 3) raffinare i prompt dei guardrail semantici o abbassare le soglie di confidenza dei classificatori vettoriali, preferendo validazioni basate su grammatica vincolata.