Confused deputy (zdezorientowany pośrednik)
Program z szerokimi uprawnieniami zostaje nakłoniony, żeby użył ich dla kogoś, kto nie powinien ich mieć; agenci na wspólnych kontach serwisowych to częsty przypadek.
Wewnętrzny asystent działa na koncie serwisowym, które może czytać każdy dokument. Młodszy pracownik prosi go o arkusz z pensjami, a agent go pobiera, bo agent może, choć pracownik nie. Naprawa polega na działaniu z uprawnieniami osoby, która pyta: przekazuj jej tożsamość dalej (OAuth w jej imieniu) i sprawdzaj dostęp per użytkownik, a nie per agent.
Powiązane hasła
- Nadmierna sprawczość (excessive agency): Agent AI z większą liczbą narzędzi, uprawnień albo swobody, niż wymaga zadanie, więc błąd albo wstrzyknięte polecenie może narobić prawdziwych szkód.
- Tożsamość nieludzka (non-human identity): Konta, klucze i tokeny używane przez oprogramowanie, a nie ludzi: konta serwisowe, klucze API, tokeny CI i coraz częściej agenci AI.
- OAuth: Standard, który pozwala aplikacji działać na koncie użytkownika gdzie indziej (poczta, kalendarz, pliki) bez poznawania hasła.
