Planuj i wykonaj (plan-and-execute)
Model planujący pisze plan krok po kroku, modele wykonawcze realizują kroki, a planista poprawia plan, gdy któryś krok się nie uda.
Planuj i wykonaj dzieli agenta na dwie role. Model planujący pisze plan całego zadania krok po kroku. Jeden albo kilku wykonawców realizuje kroki, wywołując narzędzia. Gdy krok się nie uda albo wyniki zmieniają obraz sytuacji, planista jest wołany ponownie, żeby poprawić plan albo podać odpowiedź końcową.
Wpis zespołu LangChain Plan-and-Execute Agents (luty 2024) wymienia korzyści: duży model nie jest pytany po każdej akcji, kroki mogą wykonywać mniejsze i tańsze modele, a zmuszenie planisty do przemyślenia wszystkich kroków może poprawić wynik. Pomysł opiera się na badaniach takich jak Plan-and-Solve prompting (Wang i in., 2023). Ceną jest sztywność. Plan napisany przed pierwszym wywołaniem narzędzia opiera się na domysłach, a plan, którego nikt nie poprawia, pada przy pierwszej niespodziance. Ponowne planowanie to część, którą trzeba zrobić dobrze.
Zwykłą alternatywą jest pętla agenta w stylu ReAct, w której model wybiera jeden krok naraz, po obejrzeniu każdego wyniku. Lepiej się dostosowuje, ale kosztuje jedno wywołanie modelu na krok i potrafi błądzić. Planuj i wykonaj leży między stałym workflow agentowym a swobodnym agentem. Plan to też naturalny punkt kontroli: pokaż go człowiekowi przed wykonaniem (człowiek w pętli). Gdy silny model ma tylko doradzać tańszemu w kluczowych momentach, zobacz model doradcę.
Źródła
- LangChain: Plan-and-Execute Agents langchain.com
- arXiv: Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models arxiv.org
Powiązane hasła
- Pętla agenta: Cykl: wywołanie modelu, wywołanie narzędzia, wynik, który agent powtarza, aż skończy.
- Workflow agentowy (workflow czy agent): Proces, w którym kroki ustala Twój kod, a model wykonuje część z nich, w odróżnieniu od agenta, który sam decyduje o krokach.
- Wzorzec orkiestrator i wykonawcy (supervisor): Jeden model planuje zadanie, przekazuje jego części modelom wykonawczym albo subagentom i łączy ich wyniki.
- Model doradca (advisor): Tańszy model wykonawczy robi pracę i radzi się silniejszego modelu doradcy w kluczowych momentach, na przykład przy planowaniu albo końcowym przeglądzie.
- Routing i fallback modeli: Kierowanie każdego zapytania do modelu, który do niego pasuje, i do innego, gdy pierwszy zawiedzie.
- Człowiek w pętli (human in the loop): Człowiek zatwierdza, poprawia albo odrzuca akcję agenta, zanim zacznie działać.
- Koszt zadania (ekonomia agentów): Ile naprawdę kosztuje jedno skończone zadanie agenta: tokeny, ponowienia, wywołania narzędzi i czas człowieka na przegląd, w porównaniu z innym sposobem.
