Jej zakres obejmuje dane treningowe i ewaluacyjne, modele i wagi, kod, prompty, magazyny wyszukiwania (retrieval), potoki rozwojowe, tożsamości, infrastrukturę, interfejsy, podłączone narzędzia oraz decyzje lub działania, które aplikacja wyposażona w AI może produkować.
Praca rozszerza ustalone praktyki cyberbezpieczeństwa na cały cykl życia AI, adresując ścieżki ataku tworzone lub wzmacniane przez uczenie maszynowe. Dobry program zaczyna się od celu systemu, zasobów, aktorów i granic zaufania, a następnie wybiera kontrole według realistycznych konsekwencji. Chroni poufność, integralność i dostępność bez zakładania, że dobrze działający model lub renomowany dostawca czynią kompletną aplikację bezpieczną.
Najważniejsze punkty
Zakres cyklu życiaOceniaj pozyskiwanie, przygotowanie danych, trening lub dostosowanie, ewaluację, wdrożenie, eksploatację, zmianę, reagowanie na incydenty i wycofanie — a nie tylko publiczny punkt końcowy modelu.
Kontrole podstawoweUtrzymuj inwentarz zasobów; weryfikuj pochodzenie; stosuj zasadę minimalnych uprawnień, bezpieczny rozwój i kontrole łańcucha dostaw; izoluj wrażliwe zasoby; waliduj wyniki przed użyciem; monitoruj zarówno konwencjonalne, jak i specyficzne dla AI nadużycia.
Dowody zapewnieniaŁącz modelowanie zagrożeń, testy bezpieczeństwa, ewaluację przeciwniczą, przegląd dostępu i konfiguracji, ćwiczenia incydentowe, monitorowanie i ponowne testowanie po istotnych zmianach.
Istotne ograniczenieBezpieczeństwo AI nie jest synonimem bezpieczeństwa AI (safety) ani ogólnej godności zaufania. System może opierać się atakującym, a wciąż być niedokładnym, niesprawiedliwym, niebezpiecznym w zamierzonym kontekście lub źle zarządzanym — i żadna pojedyncza brama lub skaner nie pokrywa pełnego ryzyka.