I dati escono dalle aziende via LLM per tre porte diverse:
- l'upload volontario: il caso Samsung (2023) è il classico – dipendenti che incollano codice sorgente e verbali in ChatGPT per farsi aiutare. Nessun attacco: solo shadow AI e servizi consumer che all'epoca usavano gli input per l'addestramento
- l'esfiltrazione indotta: con la prompt injection, un contenuto malevolo convince un assistente con accesso ai tuoi dati a spedirli fuori – nei sistemi agentici è il rischio numero uno
- la memoria del modello: informazioni finite nel training che riemergono generate – raro ma documentato
Le difese, per porta: canali AI ufficiali con garanzie contrattuali e policy chiara; DLP sul flusso – aidlp intercetta credenziali e PII prima che entrino nel prompt, llmproxy fa da punto di controllo unico; egress vigilato per gli agenti (sandbox); e modelli locali per ciò che non deve uscire mai.