Pamięć agenta (agent memory)
Sposób, w jaki agent AI zachowuje informacje poza jedną rozmową: notatki, fakty i preferencje, które zapisuje i potem odczytuje.
Pamięć krótkotrwała to bieżąca rozmowa w oknie kontekstu. Pamięć długotrwała to magazyn, często pliki albo baza, do której agent zapisuje i w której szuka, przetrwający między sesjami. Trudne jest decydowanie, co warto zachować, poprawianie wspomnień, które okazały się błędne, i oddzielenie pamięci jednego użytkownika od drugiego. Błędne wspomnienie jest gorsze niż żadne, bo agent powtarza je z przekonaniem.
Powiązane hasła
- Context engineering: Decydowanie, co trafia do kontekstu modelu, w jakiej kolejności i kiedy, przez całe zadanie.
- Kompaktowanie kontekstu: Zastąpienie starszej części długiej rozmowy streszczeniem, żeby agent mógł pracować dalej.
- RAG (retrieval-augmented generation): Najpierw wyszukanie pasujących dokumentów i włożenie ich do promptu, żeby model odpowiadał na ich podstawie.
