Opisuje zbiór możliwości i zastosowań, a nie poziom zapewnienia, autonomicznego obrońcę ani zamiennik inżynierii bezpieczeństwa i ludzkiej odpowiedzialności.
AI może pomagać obrońcom przetwarzać duże lub złożone zbiory danych, ale ta sama technologia może asystować atakującym lub wprowadzać nowe podatne komponenty. Initial Preliminary Draft Cyber AI Profile NIST rozdziela zabezpieczanie komponentów systemów AI, prowadzenie obrony cybernetycznej wspomaganej AI i zwalczanie ataków cybernetycznych wspomaganych AI; według stanu na sierpień 2026 nie jest to ostateczne wytyczne.
Najważniejsze punkty
Zdefiniuj decyzjęOkreśl użytkownika, zadanie, wejścia, dozwolone wyniki, potrzeby pewności, czas reakcji i to, czy AI doradza, proponuje, czy jest autoryzowana do działania.
Oceniaj w kontekścieTestuj reprezentatywne i przeciwstawne przypadki, rzadkie, ale kosztowne awarie, dryf danych, unikanie, stronniczość, opóźnienie, pochodzenie i porównania z prostszymi regułami lub bazami eksperckimi.
Ograniczaj operacjeStosuj minimalne uprawnienia, ludzkie zatwierdzenie dla działań o skutkach, chronione logi, walidację wyników, procedury awaryjne, monitoring i szybkie wyłączanie lub wycofywanie.
Istotne ograniczenieWynik AI jest probabilistyczny i może być błędny, zmanipulowany, nieaktualny lub niepodparty. Wysoka redukcja alertów lub dokładność benchmarku nie ustala, że ataki będą znalezione, że przyczyny źródłowe są poprawne ani że zautomatyzowane działania są bezpieczne.