Ugruntowanie (grounding)
Powiązanie odpowiedzi modelu z konkretnymi dostarczonymi źródłami, np. znalezionymi dokumentami albo wynikami wyszukiwania, zamiast z pamięcią z treningu.
Ugruntowana odpowiedź powstaje z tekstu włożonego do kontekstu: dokumentów znalezionych przez RAG, wierszy z bazy, wyników wyszukiwania w sieci. Prompt każe modelowi odpowiadać wyłącznie na podstawie tego materiału i powiedzieć, gdy odpowiedzi tam nie ma. Ugruntowanie ogranicza halucynacje i pozwala sprawdzić odpowiedź, ale tylko na tyle, na ile źródła mają rację, a wyszukiwanie je znalazło. Czy się udało, mierzy wierność odpowiedzi.
Powiązane hasła
- RAG (retrieval-augmented generation): Najpierw wyszukanie pasujących dokumentów i włożenie ich do promptu, żeby model odpowiadał na ich podstawie.
- Halucynacje: Płynna, pewna siebie odpowiedź, która jest nieprawdziwa albo nie wynika ze źródeł.
- Wierność odpowiedzi (faithfulness): Metryka RAG: odsetek twierdzeń w odpowiedzi, które mają oparcie w znalezionych źródłach, a nie w pamięci albo inwencji modelu.
- Cytowanie źródeł (citations): Odnośniki od każdego twierdzenia w odpowiedzi AI do fragmentu, z którego pochodzi, żeby czytelnik mógł je sprawdzić.
