Guardrails (barierki)
Kontrole wokół modelu, które blokują, poprawiają albo oznaczają wejścia i wyjścia łamiące reguły.
Filtry wejścia, walidacja wyjścia, listy dozwolonych narzędzi, limity kosztu i częstotliwości oraz kroki zgody. Najmocniejsze barierki są w kodzie i uprawnieniach, nie w promptcie, bo z promptem da się dyskutować.
Powiązane hasła
- Prompt injection: Instrukcje ukryte w danych (stronie, mailu, pliku), które model wykonuje, jakby pochodziły od Ciebie.
- Człowiek w pętli (human in the loop): Człowiek zatwierdza, poprawia albo odrzuca akcję agenta, zanim zacznie działać.
- Sufit kosztów: Twardy limit wydatków egzekwowany przez Twój kod, na użytkownika, dzień albo miesiąc.
