NIST AI RMF (ramy zarządzania ryzykiem AI)
Dobrowolne ramy z USA opracowane przez NIST (wersja 1.0, styczeń 2023) do zarządzania ryzykiem AI przez cztery funkcje: Govern, Map, Measure i Manage.
NIST AI Risk Management Framework (AI RMF) to dobrowolne ramy amerykańskiego National Institute of Standards and Technology do zarządzania ryzykiem systemów AI. Wersję 1.0 opublikowano 26 stycznia 2023. Ramy dzielą pracę na cztery funkcje: Govern (ład), Map (mapowanie), Measure (pomiar) i Manage (zarządzanie).
Govern obejmuje polityki, role i kulturę i przenika pozostałe trzy. Map to zrozumienie kontekstu: do czego służy system, na kogo wpływa, co może pójść źle. Measure to testowanie i śledzenie tych ryzyk, na przykład przez ewaluacje i red teaming. Manage to decyzja, co z nimi zrobić, i reagowanie na incydenty. NIST publikuje też Playbook z proponowanymi działaniami, a 26 lipca 2024 wydał profil dla generatywnej AI (NIST AI 600-1), który wymienia ryzyka typowe dla generatywnej AI, takie jak konfabulacje i bezpieczeństwo informacji, z działaniami dla każdego.
To nie jest prawo i nie ma certyfikatu. Tym różni się od sąsiadów: AI Act to wiążące prawo z karami, a ISO/IEC 42001 to norma systemu zarządzania, z której można przejść audyt i dostać certyfikat. Amerykańscy klienci korporacyjni i ich ankiety bezpieczeństwa często pytają, czy dostawca stosuje się do AI RMF. Wiarygodna odpowiedź przypisuje Twój istniejący ład AI do czterech funkcji.
Źródła
- NIST: AI Risk Management Framework nist.gov
- NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile nist.gov
- NIST: AI Risk Management Framework 1.0 (NIST AI 100-1) doi.org
Powiązane hasła
- ISO/IEC 42001 (system zarządzania AI): Międzynarodowa norma systemu zarządzania AI: jak firma nadzoruje, ocenia i monitoruje AI, które buduje albo używa. Można się z niej certyfikować.
- AI Act (akt o sztucznej inteligencji): Unijne rozporządzenie o systemach AI: zakazuje części zastosowań, reguluje te wysokiego ryzyka i nakłada obowiązki przejrzystości i kompetencji AI.
- Ład AI (AI governance): Zasady i role, które rozstrzygają, z jakiego AI firma korzysta, na jakich danych i z jaką kontrolą: polityka, rejestr, poziomy ryzyka, zatwierdzanie i monitoring.
- Ankieta bezpieczeństwa (ocena ryzyka dostawcy, SIG, CAIQ): Lista pytań o bezpieczeństwo i prywatność, którą firma wysyła dostawcy przed zakupem, żeby ocenić ryzyko powierzenia mu danych i dostępu.
- Red teaming AI: Celowe atakowanie własnej funkcji AI szkodliwymi, podchwytliwymi i wstrzykniętymi danymi, żeby znaleźć błędy, zanim zrobią to użytkownicy albo atakujący.
- Rejestr systemów AI: Prowadzona na bieżąco lista wszystkich narzędzi i systemów AI, z których firma korzysta albo które buduje, z właścicielem, celem, danymi, dostawcą i poziomem ryzyka.
