RAG (retrieval-augmented generation)
Najpierw wyszukanie pasujących dokumentów i włożenie ich do promptu, żeby model odpowiadał na ich podstawie.
Wyszukiwarka (po słowach kluczowych, wektorowa albo obie) wybiera fragmenty; model odpowiada na ich podstawie i może je cytować. Większość problemów z RAG to problemy wyszukiwania: właściwy fragment nie został znaleziony, więc model nie mógł go użyć.
Powiązane hasła
- Embeddingi: Wektory liczb, w których teksty o podobnym znaczeniu leżą blisko siebie.
- Context engineering: Decydowanie, co trafia do kontekstu modelu, w jakiej kolejności i kiedy, przez całe zadanie.
- Halucynacje: Płynna, pewna siebie odpowiedź, która jest nieprawdziwa albo nie wynika ze źródeł.
