RZECZOWNIK
prompt router
Warstwa wybierająca model do zapytania. Kryterium jest koszt przy zachowaniu akceptowalnej jakości, a próg akceptowalności ustala ten, kto płaci rachunek, nie ten, kto czyta odpowiedź.
po ludzku: automat wybierający tańszy model, gdy nikt nie patrzy