Piaskownica agenta (agent sandbox)
Odizolowane środowisko, w którym agent AI uruchamia kod i polecenia bez dostępu do Twojej sieci, sekretów i prawdziwych plików.
Agenci kodujący i agenci analizujący dane wykonują to, co napisał model. W piaskownicy (kontener, mikro-VM albo hostowany interpreter kodu) błędne albo wstrzyknięte polecenie zniszczy co najwyżej kopię do wyrzucenia. Dobre piaskownice domyślnie blokują też ruch sieciowy na zewnątrz, co usuwa drogę wyjścia z lethal trifecta, i przekazują tylko pliki i dane dostępowe potrzebne do zadania.
Powiązane hasła
- Lethal trifecta (zabójcza trójka): Agent AI, który ma dostęp do prywatnych danych, czyta niezaufane treści i potrafi wysłać dane na zewnątrz, da się podejść tak, żeby te dane wyniósł.
- Agent kodujący: Agent, który czyta repozytorium, edytuje pliki, uruchamia komendy i testy oraz otwiera pull requesty.
- Nadmierna sprawczość (excessive agency): Agent AI z większą liczbą narzędzi, uprawnień albo swobody, niż wymaga zadanie, więc błąd albo wstrzyknięte polecenie może narobić prawdziwych szkód.
