Bramka klasyfikacji danych dla agentów
Sprawdzenie, które trzyma sekrety, dane osobowe i inne dane zastrzeżone z dala od tego, co agent kodujący może przeczytać, wysłać do modelu albo zapisać w logach.
Wszystko, co czyta agent kodujący, może trafić do zapytania do modelu, transkryptu albo pull requesta. Bramka klasyfikacji danych przenosi firmowe klasy danych (publiczne, wewnętrzne, poufne, zastrzeżone) na kontekst agenta: produkcyjne bazy i zrzuty są niedostępne, pliki .env i klucze zablokowane, dane testowe syntetyczne, a logi przed pokazaniem agentowi przechodzą maskowanie danych osobowych.
Egzekwuje się ją warstwami: reguły odmowy w ustawieniach agenta i trybach uprawnień, piaskownica bez produkcyjnych poświadczeń, zarządzanie sekretami, które trzyma klucze poza repozytorium, i skanowanie promptów oraz wyników. Celem jest rozbicie lethal trifecta: agenta z prywatnymi danymi, niezaufanym wejściem i sposobem wysłania danych na zewnątrz.
Powiązane hasła
- Maskowanie danych osobowych (PII redaction): Usuwanie albo maskowanie danych osobowych, np. imion, maili i numerów dokumentów, zanim tekst trafi do modelu, logu albo podmiotu trzeciego.
- Zarządzanie sekretami (wycieki kluczy API): Trzymanie kluczy API, haseł i tokenów poza kodem i czatami, w magazynie z kontrolą dostępu, rotacją i historią.
- Lethal trifecta (zabójcza trójka): Agent AI, który ma dostęp do prywatnych danych, czyta niezaufane treści i potrafi wysłać dane na zewnątrz, da się podejść tak, żeby te dane wyniósł.
- Piaskownica agenta (agent sandbox): Odizolowane środowisko, w którym agent AI uruchamia kod i polecenia bez dostępu do Twojej sieci, sekretów i prawdziwych plików.
- Tryby uprawnień agenta (YOLO mode): Ustawienia, które decydują, co agent kodujący może zrobić bez pytania: od zatwierdzania każdej komendy po pominięcie wszystkich sprawdzeń, zwane YOLO mode.
