Il reranking è la seconda passata del retrieval: la ricerca veloce (vettoriale o full-text) recupera i primi 20-100 candidati, poi un reranker – un modello che legge davvero la coppia domanda+documento, non due vettori precalcolati – li riordina per pertinenza vera, e al RAG arrivano solo i migliori 3-5.
Perché funziona: gli embeddings comprimono ogni testo in un vettore prima di sapere quale sarà la domanda – per forza perdono sfumature. Il reranker (tipicamente un cross-encoder) valuta la coppia specifica: più lento per documento, ma su pochi candidati il conto torna. È spesso il singolo upgrade con il miglior rapporto resa/sforzo di una pipeline RAG: pochi punti percentuali di latenza, molta meno spazzatura nel contesto – e meno contesto sprecato significa anche risposte migliori e più economiche.