Shadow AI
Narzędzia AI, których pracownicy używają w pracy bez wiedzy albo zgody firmy, często z firmowymi danymi wklejanymi do prywatnych kont.
Ludzie wklejają umowy do konsumenckiego czatbota, podłączają nagrywarkę spotkań do kalendarza albo budują małą aplikację w kreatorze AI na prywatnym planie. Ryzyka to dane użyte do trenowania albo trzymane bez końca, brak śladu, co wyszło z firmy, i narzędzia, których nikt nie wyłączy, gdy ktoś odchodzi. Zakaz rzadko działa; zatwierdzone narzędzie z firmowym logowaniem zwykle tak.
Powiązane hasła
- Shadow IT (shadow AI): Aplikacje, narzędzia AI i konta, których pracownicy używają albo które budują do pracy, bez wiedzy i kontroli działu IT.
- Zero data retention (ZDR): Ustalenie, w którym dostawca AI nie przechowuje promptów i odpowiedzi po zwróceniu wyniku, poza tym, co niezbędne do obsługi zapytania.
- Kompetencje w zakresie AI (art. 4 AI Act): Obowiązek z AI Act, obowiązujący od 2 lutego 2025 r., żeby firmy używające AI zapewniły pracownikom wystarczające zrozumienie tych narzędzi.
