Rejestr systemów AI
Prowadzona na bieżąco lista wszystkich narzędzi i systemów AI, z których firma korzysta albo które buduje, z właścicielem, celem, danymi, dostawcą i poziomem ryzyka.
Rejestr systemów AI to lista wszystkich narzędzi AI, z których firma korzysta, i wszystkich systemów AI, które buduje. Każdy wiersz zapisuje właściciela, cel, jakie dane wchodzą, dostawcę i model, miejsce przetwarzania danych oraz poziom ryzyka. To punkt wyjścia ładu AI: nie zarządzisz czymś, czego nie spisałeś.
Pyta o niego kilka stron. Ankiety bezpieczeństwa klientów pytają, którzy podwykonawcy AI dotykają ich danych. ISO/IEC 42001 oczekuje, że organizacja zna systemy AI w swoim zakresie. Pod AI Act firma musi najpierw wiedzieć, jakie systemy stosuje, żeby ocenić, czy któryś jest systemem wysokiego ryzyka z obowiązkami podmiotu stosującego, takimi jak nadzór człowieka i przechowywanie logów. Zespoły od prywatności używają tej samej listy do rejestru czynności przetwarzania i DPIA.
Nie zaczynaj od ankiety wśród pracowników, bo ludzie zapominają. Zacznij od danych, które już masz: aplikacji podpiętych przez jednokrotne logowanie, rozszerzeń przeglądarki, wyciągów z kart i rozliczeń kosztów z subskrypcjami AI oraz funkcji AI włączonych w istniejących narzędziach SaaS. Tę ostatnią grupę najczęściej się pomija, bo CRM albo helpdesk dodał model, a nikt nie kupował nowego narzędzia. Arkusz wystarczy; liczy się właściciel każdego wiersza i przegląd co kwartał.
Powiązane hasła
- Ład AI (AI governance): Zasady i role, które rozstrzygają, z jakiego AI firma korzysta, na jakich danych i z jaką kontrolą: polityka, rejestr, poziomy ryzyka, zatwierdzanie i monitoring.
- Ankieta bezpieczeństwa (ocena ryzyka dostawcy, SIG, CAIQ): Lista pytań o bezpieczeństwo i prywatność, którą firma wysyła dostawcy przed zakupem, żeby ocenić ryzyko powierzenia mu danych i dostępu.
- ISO/IEC 42001 (system zarządzania AI): Międzynarodowa norma systemu zarządzania AI: jak firma nadzoruje, ocenia i monitoruje AI, które buduje albo używa. Można się z niej certyfikować.
- AI Act (akt o sztucznej inteligencji): Unijne rozporządzenie o systemach AI: zakazuje części zastosowań, reguluje te wysokiego ryzyka i nakłada obowiązki przejrzystości i kompetencji AI.
- Shadow AI: Narzędzia AI, których pracownicy używają w pracy bez wiedzy albo zgody firmy, często z firmowymi danymi wklejanymi do prywatnych kont.
- SSO (jednokrotne logowanie): Jedno logowanie kontem firmowym (Microsoft, Google, Okta) do wielu aplikacji, zarządzane centralnie przez IT.
- DPIA i FRIA (oceny skutków): DPIA ocenia ryzyka przetwarzania danych osobowych wysokiego ryzyka według RODO; FRIA ocenia wpływ systemu AI wysokiego ryzyka na prawa podstawowe według AI Act.
