Reranker
Model, który ponownie ocenia najlepsze wyniki wyszukiwania względem zapytania, żeby do modelu językowego trafiły najpierw najtrafniejsze.
Szybkie wyszukiwanie zwraca np. 50 kandydatów według przybliżonego podobieństwa. Reranker (cross-encoder albo mały LLM) czyta zapytanie razem z każdym kandydatem, co jest wolniejsze, ale dużo dokładniejsze, i zostawia kilka najlepszych. Mniej, a lepszych fragmentów to krótszy prompt, niższy koszt i mniej odpowiedzi opartych na złym dokumencie.
Powiązane hasła
- Wyszukiwanie hybrydowe (hybrid search): Połączenie wyszukiwania po słowach kluczowych (np. BM25) z wyszukiwaniem wektorowym, żeby wyniki trafiały i w dokładne słowa, i w znaczenie.
- RAG (retrieval-augmented generation): Najpierw wyszukanie pasujących dokumentów i włożenie ich do promptu, żeby model odpowiadał na ich podstawie.
- Dzielenie dokumentów (chunking): Dzielenie dokumentów na mniejsze fragmenty przed indeksowaniem do wyszukiwania, żeby wyszukiwanie zwracało właściwą część, a nie cały plik.
