Ład AI (AI governance)
Zasady i role, które rozstrzygają, z jakiego AI firma korzysta, na jakich danych i z jaką kontrolą: polityka, rejestr, poziomy ryzyka, zatwierdzanie i monitoring.
Ład AI (AI governance) to zestaw zasad i ról, które rozstrzygają, jak firma korzysta z AI: kto zatwierdza nowe narzędzie albo zastosowanie, jakie dane wolno w nie wkładać, jak sprawdza się ryzykowne użycia i kto pilnuje ich po uruchomieniu. Zamienia hasło „uważajcie z AI” w konkretne osoby i powtarzalny proces.
Elementów jest niewiele. Polityka dla pracowników (polityka korzystania z AI). Rejestr narzędzi i systemów AI z właścicielem każdego. Poziomy ryzyka: chatbot piszący wewnętrzne maile wymaga mniej kontroli niż agent, który dotyka pieniędzy klientów albo podejmuje decyzje o ludziach. Ścieżka zatwierdzania dopasowana do poziomu i monitoring: ewaluacje, zgłoszenia incydentów i okresowy przegląd. Zewnętrzne ramy porządkują temat: AI Act nakłada obowiązki prawne, ISO/IEC 42001 to certyfikowalny system zarządzania, a NIST AI RMF to dobrowolne ramy z USA.
Małej albo średniej firmie wystarczy lekka wersja: jedna odpowiedzialna osoba, polityka na jedną stronę, rejestr w arkuszu, dwa albo trzy poziomy ryzyka i przegląd co kwartał. Typowa porażka działa w obie strony. Brak ładu to shadow AI i niespodzianki w ankiecie bezpieczeństwa; ciężki ład to komitet, który potrzebuje miesięcy na jedno narzędzie, więc ludzie go omijają.
Powiązane hasła
- Polityka korzystania z AI: Krótki regulamin dla pracowników: które narzędzia AI są zatwierdzone, jakie dane wolno w nie wpisywać, jak sprawdzać wyniki i kiedy ujawniać użycie AI.
- Rejestr systemów AI: Prowadzona na bieżąco lista wszystkich narzędzi i systemów AI, z których firma korzysta albo które buduje, z właścicielem, celem, danymi, dostawcą i poziomem ryzyka.
- AI Act (akt o sztucznej inteligencji): Unijne rozporządzenie o systemach AI: zakazuje części zastosowań, reguluje te wysokiego ryzyka i nakłada obowiązki przejrzystości i kompetencji AI.
- ISO/IEC 42001 (system zarządzania AI): Międzynarodowa norma systemu zarządzania AI: jak firma nadzoruje, ocenia i monitoruje AI, które buduje albo używa. Można się z niej certyfikować.
- NIST AI RMF (ramy zarządzania ryzykiem AI): Dobrowolne ramy z USA opracowane przez NIST (wersja 1.0, styczeń 2023) do zarządzania ryzykiem AI przez cztery funkcje: Govern, Map, Measure i Manage.
- Shadow AI: Narzędzia AI, których pracownicy używają w pracy bez wiedzy albo zgody firmy, często z firmowymi danymi wklejanymi do prywatnych kont.
- Centrum kompetencji AI (AI CoE): Mały centralny zespół, który ustala standardy AI, utrzymuje wspólną platformę, buduje elementy wielokrotnego użytku i pomaga zespołom biznesowym wdrażać własne zastosowania AI.
