Un LLM "allucina" quando produce con totale sicurezza qualcosa di falso: una fonte inesistente, un'API inventata, un fatto sbagliato. Non è un bug occasionale, è una proprietà statistica del come questi modelli generano testo.
La variante più pericolosa per chi sviluppa: le dipendenze allucinate. L'LLM scrive import pacchetto-che-non-esiste, lo sviluppatore lo committa, e un attaccante può registrare quel nome su PyPI o npm (slopsquatting): alla build successiva il codice malevolo entra in casa. Due risorse a tema:
- ai-dependency-guard – GitHub Action zero-dependency che valida ogni manifest contro i registry ufficiali e fa fallire la CI se trova un pacchetto inventato
- ai-hallucination-research – l'analisi empirica del fenomeno che sta dietro al tool