Kompaktowanie kontekstu
Zastąpienie starszej części długiej rozmowy streszczeniem, żeby agent mógł pracować dalej.
Gdy kontekst zbliża się do limitu, harness albo API streszcza wcześniejsze tury i kontynuuje od streszczenia. Szczegóły, których nie złapano, przepadają, więc to, co przetrwa, zależy od tego, co zachowa streszczenie.
Powiązane hasła
- Okno kontekstu: Maksymalna liczba tokenów, które model może przeczytać i napisać w jednym zapytaniu.
- Context rot (psucie się kontekstu): Jakość modelu spada, gdy kontekst zapełnia się starym, nieistotnym albo sprzecznym materiałem.
