Generatywna AI wchodzi do organizacji szybciej niż polityki bezpieczeństwa. Pracownicy wklejają dane do chatbotów, zespoły kupują narzędzia bez oceny, a zarząd chce efektów. SZBI musi to uporządkować, bo AI jest kolejnym źródłem ryzyka i danych.
Inwentaryzacja AI
Zapisz, jakie narzędzia AI są używane, kto ich używa, jakie dane są przetwarzane, gdzie trafiają i jaki jest dostawca. Uwzględnij nie tylko oficjalne narzędzia, ale też wtyczki, funkcje w SaaS i modele osadzone w aplikacjach.
Ocena ryzyka
- Jakie dane trafiają do modelu.
- Czy dane są wykorzystywane do trenowania.
- Gdzie są przetwarzane i przechowywane.
- Jakie są skutki błędu lub halucynacji.
- Czy decyzje wpływają na ludzi.
- Jak wygląda nadzór człowieka i logowanie.
Polityka AI
Polityka powinna określać dozwolone narzędzia, kategorie danych, które można wprowadzać, obowiązek zgłaszania nowych zastosowań, zasady weryfikacji treści i odpowiedzialność za decyzje. Warto rozróżnić eksperyment, produkcję i zastosowania wysokiego ryzyka.
Bezpieczeństwo techniczne
Chroń dane w promptach, ograniczaj uprawnienia agentów, loguj wywołania, kontroluj integracje i testuj podatności takie jak prompt injection. Nie dawaj agentowi dostępu do systemów produkcyjnych bez ograniczeń i nadzoru.
AI Act
AI Act (Dz.Urz. UE L 2024/1689) nakłada obowiązki zależne od ryzyka. Część zastosowań jest zakazana, część wymaga przejrzystości, a systemy wysokiego ryzyka wymagają oceny zgodności i dokumentacji. SZBI i AI Act się uzupełniają, ale nie są tym samym.
Dowody
- Rejestr narzędzi i zastosowań AI.
- Ocena ryzyka i decyzje.
- Polityka AI i potwierdzenia szkoleń.
- Logi i konfiguracja dostępu.
- Umowy z dostawcami.
- Testy i przeglądy.
Chmurę omawia Chmura i SaaS w SZBI. Ryzyko opisuje Analiza ryzyka w SZBI.