Halucynacje
Płynna, pewna siebie odpowiedź, która jest nieprawdziwa albo nie wynika ze źródeł.
Modele generują prawdopodobny tekst, nie sprawdzone fakty. Wymyślają cytaty, API, liczby i nazwy, zwłaszcza pytane o coś, czego nie mogą wiedzieć. Oparcie na źródłach, prośba o cytaty i pozwolenie na „nie wiem” to zmniejszają; nic tego nie usuwa.
Powiązane hasła
- RAG (retrieval-augmented generation): Najpierw wyszukanie pasujących dokumentów i włożenie ich do promptu, żeby model odpowiadał na ich podstawie.
- Ewaluacje (evals): Powtarzalny zestaw testów, który ocenia funkcję AI, żeby zmiany mierzyć, a nie zgadywać.
- Ustrukturyzowane odpowiedzi (structured outputs): Odpowiedź modelu jest ograniczona do zgodności z podanym schematem JSON.
