Context rot (psucie się kontekstu)
Jakość modelu spada, gdy kontekst zapełnia się starym, nieistotnym albo sprzecznym materiałem.
Długie sesje agenta zbierają nieudane próby, stare wersje plików i logi. Model zaczyna trzymać się nieaktualnych instrukcji albo gubi to, co ważne. Widać to jako agenta, który godzinę temu był bystry, a teraz kręci się w kółko.
Powiązane hasła
- Okno kontekstu: Maksymalna liczba tokenów, które model może przeczytać i napisać w jednym zapytaniu.
- Kompaktowanie kontekstu: Zastąpienie starszej części długiej rozmowy streszczeniem, żeby agent mógł pracować dalej.
- Subagent: Osobne uruchomienie agenta z własnym, świeżym kontekstem, odpalone przez głównego agenta do jednego podzadania.
