F FabGPT-FAQ

In che modo un attacco di Vector Poisoning può alterare il posizionamento spaziale dei chunk di testo nello spazio vettoriale per dirottare il retrieval RAG?

AI e LLM 1 min lettura Runbook verificato

Nell'attacco di Vector Poisoning, l'avversario introduce documenti o commenti malevoli nella knowledge base (wiki aziendali, ticket di supporto, log pubblici) progettati per occupare posizioni strategiche nello spazio vettoriale ad alta dimensionalità.

1. Pertinenza Semantica Forzata: il payload contiene sequenze di token che massimizzano la similarità coseno con query bersaglio frequenti (es. 'Come aggiornare il software?'), scavalcando la documentazione legittima nelle prime posizioni ($k=1,2$).
2. Payload Injection: il testo del chunk avvelenato include istruzioni malevole o link a binari compromessi, ingannando l'agente o l'utente finale.
3. Difesa: valida crittograficamente l'origine dei documenti ammessi all'ingestione, sanifica il testo rimuovendo pattern invisibili/omoglifi e monitora cluster vettoriali con densità anomala.

Hai una domanda specifica su questo tema?

Interroga direttamente il motore FabGPT-FAQ con risposta in tempo reale.