Cytowanie źródeł (citations)
Odnośniki od każdego twierdzenia w odpowiedzi AI do fragmentu, z którego pochodzi, żeby czytelnik mógł je sprawdzić.
W systemie RAG model ma wskazać, który znaleziony fragment popiera każde zdanie, a interfejs pokazuje dokument, stronę albo cytat. Cytowania czynią ugruntowanie widocznym i przyspieszają sprawdzanie, ale same też są generowane: model może powołać się na prawdziwy dokument, który nie mówi tego, co twierdzi odpowiedź. Tę lukę zamyka sprawdzenie w kodzie, że cytowany tekst istnieje w źródle.
Powiązane hasła
- Ugruntowanie (grounding): Powiązanie odpowiedzi modelu z konkretnymi dostarczonymi źródłami, np. znalezionymi dokumentami albo wynikami wyszukiwania, zamiast z pamięcią z treningu.
- RAG (retrieval-augmented generation): Najpierw wyszukanie pasujących dokumentów i włożenie ich do promptu, żeby model odpowiadał na ich podstawie.
- Halucynacje: Płynna, pewna siebie odpowiedź, która jest nieprawdziwa albo nie wynika ze źródeł.
- Wierność odpowiedzi (faithfulness): Metryka RAG: odsetek twierdzeń w odpowiedzi, które mają oparcie w znalezionych źródłach, a nie w pamięci albo inwencji modelu.
