Un LLM è una rete neurale (architettura transformer) addestrata su enormi quantità di testo a fare una cosa sola: predire il prossimo token data la sequenza precedente. Da questa capacità apparentemente banale, a scala sufficiente, emergono traduzione, scrittura, programmazione, ragionamento apparente.
Le conseguenze pratiche del "predire il prossimo token": un LLM non sa le cose, genera testo plausibile – da cui le allucinazioni; non ha memoria oltre la sua context window; e la qualità dipende da dati e addestramento, non dalla sicurezza con cui risponde. Capire questi limiti è metà dell'usarli bene – l'altra metà è dargli strumenti e contesto giusti (RAG, tool, verifiche).