Opisuje súbor schopností a použití, nie úroveň záruky, autonómneho obrancu alebo náhradu za bezpečnostné inžinierstvo a ľudskú zodpovednosť.
AI môže pomôcť obráncom spracovať veľké alebo komplexné datasety, no rovnaká technológia môže asistovať útočníkom alebo zavádzať nové zraniteľné komponenty. Initial Preliminary Draft Cyber AI Profile od NIST oddeľuje zabezpečenie komponentov systémov AI, vedenie kybernetickej obrany podporovanej AI a marenie kybernetických útokov podporovaných AI; k augustu 2026 to nie je finálne usmernenie.
Kľúčové body
Definovať rozhodnutieŠpecifikovať používateľa, úlohu, vstupy, povolené výstupy, potreby istoty, čas reakcie a či AI radí, navrhuje alebo je autorizovaná konať.
Hodnotiť v kontexteTestovať reprezentatívne a adverzívne prípady, zriedkavé, no nákladné zlyhania, drift údajov, vyhýbanie, zaujatosť, latenciu, pôvod a porovnania s jednoduchšími pravidlami alebo expertnými základnými stavmi.
Obmedziť operácieUplatňovať najmenšie oprávnenia, ľudské schválenie pre následné akcie, chránené záznamy, validáciu výstupov, záložné procedúry, monitorovanie a rýchle vypnutie alebo návrat.
Dôležité obmedzenieVýstup AI je pravdepodobnostný a môže byť nesprávny, manipulovaný, zastaraný alebo nepodložený. Vysoká redukcia upozornení alebo presnosť na benchmarku neustanovuje, že útoky budú nájdené, koreňové príčiny sú správne alebo automatizované akcie sú bezpečné.