Quali vulnerabilità derivano dall'uso di librerie AI esterne non validate (tokenizers, transformers)?

L'integrazione di librerie open source per l'AI (come transformers, tokenizers, accelerate o sentencepiece) introduce vettori di attacco critici lungo la pipeline di data ingestion e pre-processing:

• Remote Code Execution (RCE) nei parser: vulnerabilità nel codice C++/Rust sottostante ai tokenizer veloci possono essere innescate da sequenze di byte o prompt confezionati ad arte (buffer overflow o integer overflow durante la tokenizzazione).
• Dependency Confusion e Typosquatting: pacchetti malevoli con nomi simili a librerie note pubblicati su PyPI per iniettare backdoor durante l'addestramento o il deployment.
• Deserializzazione non sicura nei caricatori: exploit mascherati nei file di configurazione dei modelli (tokenizer_config.json, script personalizzati trust_remote_code=True).

Mitigazione: impostare trust_remote_code=False, bloccare le versioni con lockfile crittografici (hash pinning con pip/uv), scansionare le dipendenze con SBOM e isolare l'ambiente di inferenza in sandbox.