Come si implementano test di conformità per verificare che i modelli AI non presentino bias discriminatori contrari alle normative europee?

I test di fairness e non-discriminazione misurano sistematicamente la disparità di trattamento su attributi protetti (genere, etnia, età, disabilità, convinzioni personali). La procedura prevede: 1) creazione di dataset di test con coppie controfattuali (domande identiche in cui varia solo l'attributo protetto); 2) calcolo di metriche statistiche standardizzate come Demographic Parity Difference ed Equalized Odds Ratio; 3) esecuzione automatizzata dei test in pipeline di continuous evaluation prima del deployment; 4) documentazione formale dei risultati e delle soglie di tolleranza nel fascicolo tecnico per la compliance con l'AI Act.