La context degradation e il fenomeno per cui le prestazioni di un LLM peggiorano all'aumentare della lunghezza della finestra di contesto. Anche se i modelli moderni supportano centinaia di migliaia di token, l'attenzione tende a perdersi al centro del testo (effetto lost in the middle) e aumenta la probabilita di ignorare vincoli o allucinare dettagli.
La context compaction contrasta questo degrado riducendo il payload informativo senza perdere lo stato:
- Pota i turni di conversazione storici non piu rilevanti, conservando gli ultimi scambi operativi
- Esegue sintesi deterministiche o estrazione di fatti chiave dai passaggi precedenti
- Sostituisce output prolissi di comandi terminale con versioni compresse (come fa ad esempio l0-compressor per filtrare il rumore dai log prima di passarli all'agente).
Questo approccio riduce la latenza, taglia i costi dei token e mantiene il modello concentrato sull'obiettivo.