SKRÓTOWIEC
RAG
Retrieval-augmented generation: model dostaje przed odpowiedzią materiały znalezione w bazie wiedzy. Czat z otwartą książką — nadal trzeba sprawdzić, czy otworzył właściwą stronę.
po ludzku: czat z podłożonymi dokumentami
SKRÓTOWIEC
Retrieval-augmented generation: model dostaje przed odpowiedzią materiały znalezione w bazie wiedzy. Czat z otwartą książką — nadal trzeba sprawdzić, czy otworzył właściwą stronę.
po ludzku: czat z podłożonymi dokumentami
RAG to skrót od retrieval-augmented generation, czyli generowania wspomaganego wyszukiwaniem. System najpierw znajduje materiały pasujące do pytania, a następnie przekazuje je modelowi jako kontekst odpowiedzi. Przykład: firmowy czat odpowiada na podstawie aktualnej instrukcji produktu.
Architektura RAG łączy wyszukiwanie informacji z modelem generującym odpowiedź. Dokumenty są przygotowywane do wyszukiwania, system wybiera pasujące fragmenty, a model korzysta z nich przy formułowaniu odpowiedzi. Istotne są jakość źródeł, trafność wyszukiwania i kontrola dostępu do dokumentów.
RAG dostarcza modelowi materiały podczas odpowiadania, bez zmieniania jego wag. Fine-tuning zmienia parametry modelu przez dodatkowy trening. To różne mechanizmy, które można łączyć; dodanie nowego dokumentu do bazy RAG nie jest samo w sobie trenowaniem modelu.
Nie. Model może otrzymać nietrafny lub nieaktualny fragment, źle go zinterpretować albo dodać niepoparte szczegóły. RAG ułatwia oparcie odpowiedzi na źródłach, ale nadal trzeba sprawdzić, czy przywołany dokument rzeczywiście potwierdza odpowiedź.