ciunkos.com/Słownik

Prawo i zgodność

NIST AI RMF (ramy zarządzania ryzykiem AI)

Dobrowolne ramy z USA opracowane przez NIST (wersja 1.0, styczeń 2023) do zarządzania ryzykiem AI przez cztery funkcje: Govern, Map, Measure i Manage.

NIST AI Risk Management Framework (AI RMF) to dobrowolne ramy amerykańskiego National Institute of Standards and Technology do zarządzania ryzykiem systemów AI. Wersję 1.0 opublikowano 26 stycznia 2023. Ramy dzielą pracę na cztery funkcje: Govern (ład), Map (mapowanie), Measure (pomiar) i Manage (zarządzanie).

Govern obejmuje polityki, role i kulturę i przenika pozostałe trzy. Map to zrozumienie kontekstu: do czego służy system, na kogo wpływa, co może pójść źle. Measure to testowanie i śledzenie tych ryzyk, na przykład przez ewaluacje i red teaming. Manage to decyzja, co z nimi zrobić, i reagowanie na incydenty. NIST publikuje też Playbook z proponowanymi działaniami, a 26 lipca 2024 wydał profil dla generatywnej AI (NIST AI 600-1), który wymienia ryzyka typowe dla generatywnej AI, takie jak konfabulacje i bezpieczeństwo informacji, z działaniami dla każdego.

To nie jest prawo i nie ma certyfikatu. Tym różni się od sąsiadów: AI Act to wiążące prawo z karami, a ISO/IEC 42001 to norma systemu zarządzania, z której można przejść audyt i dostać certyfikat. Amerykańscy klienci korporacyjni i ich ankiety bezpieczeństwa często pytają, czy dostawca stosuje się do AI RMF. Wiarygodna odpowiedź przypisuje Twój istniejący ład AI do czterech funkcji.

Źródła

Udostępnij: LinkedIn · X ·

Powiązane hasła

  • ISO/IEC 42001 (system zarządzania AI): Międzynarodowa norma systemu zarządzania AI: jak firma nadzoruje, ocenia i monitoruje AI, które buduje albo używa. Można się z niej certyfikować.
  • AI Act (akt o sztucznej inteligencji): Unijne rozporządzenie o systemach AI: zakazuje części zastosowań, reguluje te wysokiego ryzyka i nakłada obowiązki przejrzystości i kompetencji AI.
  • Ład AI (AI governance): Zasady i role, które rozstrzygają, z jakiego AI firma korzysta, na jakich danych i z jaką kontrolą: polityka, rejestr, poziomy ryzyka, zatwierdzanie i monitoring.
  • Ankieta bezpieczeństwa (ocena ryzyka dostawcy, SIG, CAIQ): Lista pytań o bezpieczeństwo i prywatność, którą firma wysyła dostawcy przed zakupem, żeby ocenić ryzyko powierzenia mu danych i dostępu.
  • Red teaming AI: Celowe atakowanie własnej funkcji AI szkodliwymi, podchwytliwymi i wstrzykniętymi danymi, żeby znaleźć błędy, zanim zrobią to użytkownicy albo atakujący.
  • Rejestr systemów AI: Prowadzona na bieżąco lista wszystkich narzędzi i systemów AI, z których firma korzysta albo które buduje, z właścicielem, celem, danymi, dostawcą i poziomem ryzyka.

← Wszystkie hasła

Darmowe narzędzia

Walidator pomysłu na biznesDziesięć rubryk, werdykt ze stałej reguły i trzy tanie eksperymenty. Za darmo.Ile kosztuje aplikacjaTwój projekt na tle 125 prawdziwych produktów, z uczciwym rozrzutem.Konfigurator współpracyWybierz pracę i jej wielkość, zobacz godziny, cenę i termin.Sprawdź SPF, DKIM i DMARCOcena DNS poczty dowolnej domeny, z rekordami do wklejenia.Sprawdź BIMIRekord, DMARC, logo SVG Tiny PS i VMC albo CMC, z podglądem w skrzynkach.Apka do App Store i Google PlayCzego apce webowej brakuje do sklepów, TWA czy Capacitor, pliki do skopiowania.Budować czy kupićSaaS kontra własna apka w 1, 3 albo 5 lat, z miesiącem zwrotu.Instrukcja systemuRUNBOOK.md dla systemu, który znasz tylko Ty, w dwie minuty, w przeglądarce.Kalkulator SLAOpłata, czasy reakcji, budżet przestojów i zapisy do umowy.Lokalny model czy API?Czy model zmieści się w sprzęcie, jak szybko, ile kosztuje wobec API.Konektor MCP z OpenAPIWklej OpenAPI, dostań wąskie narzędzia MCP i szkielet serwera.Walidator faktury KSeFSprawdź fakturę FA(3) oficjalnym schematem w przeglądarce.Kalkulator ofertowaniaGodziny na zamianę zapytań w oferty i kiedy zwróci się agent.Kalkulator multi-tenantKtóry model multi-tenant, praca przy wydaniu i tygodnie budowy.Oferta z zapytaniaWrzuć zapytanie klienta, dostań pozycje z Twojego cennika. Za darmo.Widoczność w AICzy Claude poleca Twoją markę? Tygodniowe przebiegi pytań klientów, za darmo.List DeskWyczyść listę e-mail w przeglądarce: martwe domeny, jednorazowe, literówki, duplikaty.Eval DeskPrzypadki testowe dla promptu AI, uruchamiane po każdej zmianie: co się zepsuło, co naprawiło.Dashboard DeskDashboard wzrostu utworzony w Twoim PostHogu, plus braki w śledzeniu.Signature DeskJeden szablon stopki dla całej firmy, jako HTML do Gmaila, Outlooka i Apple Mail.Czy ten mail to oszustwo?Przekaż podejrzanego maila albo wgraj plik .eml; trzy modele AI i sprawdzenia techniczne dają werdykt.Email TestWyślij jednego maila i sprawdź wypis jednym kliknięciem, SPF, DKIM, DMARC i sygnały spamu.Vitals DeskCodzienny pomiar laboratoryjny stron na spowolnionym telefonie: LCP, CLS i TBT oraz mail, gdy strona zwolni. Za darmo.Ile kosztuje przepisanie systemuLinie kodu na punkty funkcyjne, godziny i koszt, z agentami i bez.

Wolisz wersję na wesoło? Korpo Tłumacz ma słownik korpomowy: zwroty z biura i to, co naprawdę znaczą. Słownik korpomowy →

Trzeba to zbudować, naprawić albo przejrzeć?

Buduję i ratuję produkty z agentami kodującymi pod regułami: funkcje AI na produkcji, uczciwe wyceny, poczta, która dochodzi.

Przemysław Zalewski

Jak pracuję

Przemysław Zalewski · 15+ lat doświadczenia w tworzeniu oprogramowania

„a true bias for action” CTO klienta, publiczna rekomendacja na LinkedInie

Moja obietnica

Wszystkie zasady, polityka AI i godziny pracy →

Cennik · Bezpieczeństwo · Prywatność i wyłączenie analityki · Centrum zaufania