Człowiek w pętli (human in the loop)

Człowiek zatwierdza, poprawia albo odrzuca akcję agenta, zanim zacznie działać.

Bramki zgody stoją tam, gdzie błąd jest drogi albo nieodwracalny: wysłanie maila, płatność, merge, usunięcie. Wszystko tanie i odwracalne może iść samo. Pytanie projektowe brzmi, gdzie postawić bramki, a nie czy w ogóle jest człowiek.

Udostępnij: LinkedIn · X ·

Powiązane hasła

Agent AI: Model, który sam decyduje o kolejnym kroku, woła narzędzia i powtarza, aż zadanie będzie zrobione.
Guardrails (barierki): Kontrole wokół modelu, które blokują, poprawiają albo oznaczają wejścia i wyjścia łamiące reguły.
Ewaluacje (evals): Powtarzalny zestaw testów, który ocenia funkcję AI, żeby zmiany mierzyć, a nie zgadywać.

← Wszystkie hasła

Trzeba to zbudować, naprawić albo przejrzeć?

Buduję i ratuję produkty z agentami kodującymi pod regułami: funkcje AI na produkcji, uczciwe wyceny, poczta, która dochodzi.

Umów darmowe 30 minut Zobacz cenę i termin

Jak pracuję

Przemysław Zalewski · 15+ lat wydawania oprogramowania

„a true bias for action” CTO klienta, publiczna rekomendacja na LinkedInie

Poufność domyślnie. NDA to standard. Nie pokazuję Twojego projektu, nazwy ani zrzutów bez pisemnej zgody, dlatego na tej stronie nie ma nazw klientów, którzy się na to nie zgodzili.
Twój kod, Twoje konta. Kod i dane zostają w Twoim repo i na Twoich kontach. Narzędzia AI działają z wyłączonym trenowaniem na Twoich danych, a sekrety nigdy nie trafiają do modelu.
Przekazanie, z którego da się skorzystać. Każdy projekt kończy ta sama lista: README, które go uruchamia, jeden diagram architektury, spisane decyzje, CI, instrukcja utrzymania i nagrane omówienie. Gotowe, gdy ktoś spoza projektu uruchomi go z dokumentacji.
Nudna technologia tam, gdzie to ważne. Wybieram stos, do którego łatwo znaleźć ludzi. Wszystko eksperymentalne wymaga Twojej zgody i planu wyjścia.
Podejście dobrane do apetytu na ryzyko. Prototyp, produkt albo branża regulowana: poziom decyduje, ile swobody mają agenci i ile przeglądu i walidacji wymaga każda zmiana.
Wszystko do sprawdzenia. Każda liczba na moich stronach prowadzi do źródła. Narzędzia są darmowe, a skill walidatora pomysłów jest otwarty (MIT).

Wszystkie zasady i poziomy ryzyka →

Człowiek w pętli (human in the loop)

Powiązane hasła

Darmowe narzędzia

Trzeba to zbudować, naprawić albo przejrzeć?

Jak pracuję