Ewaluacje offline i online
Ewaluacje offline testują funkcję AI na stałym zbiorze przed wydaniem; ewaluacje online oceniają prawdziwy ruch produkcyjny po nim.
Ewaluacje offline działają na zestawie testowym ze znanymi odpowiedziami, więc są powtarzalne i mogą zablokować wydanie. Ewaluacje online próbkują żywe rozmowy i oceniają je bez odpowiedzi wzorcowej: modelem w roli sędziego, opinią użytkowników albo sygnałami biznesowymi, np. przekazaniem sprawy człowiekowi. Offline łapie regresje; online łapie to, czego w zbiorze nie było: nowe rodzaje pytań, nowe dokumenty, model, który po cichu się zmienił.
Powiązane hasła
- Ewaluacje (evals): Powtarzalny zestaw testów, który ocenia funkcję AI, żeby zmiany mierzyć, a nie zgadywać.
- Zestaw testowy (golden dataset): Stały zestaw prawdziwych wejść z oczekiwanymi odpowiedziami albo warunkami, którym testujesz funkcję AI po każdej zmianie promptu albo modelu.
- Obserwowalność LLM: Śledzenie każdego wywołania modelu: wejście, wyjście, czas, tokeny, koszt i wynik dla użytkownika.
- Regresja promptu: Odpowiedź, która była dobra, psuje się po zmianie promptu albo modelu.
