Képességek és felhasználások halmazát írja le, nem egy biztosítékszintet, autonóm védekezőt vagy a biztonsági mérnöki munka és az emberi elszámoltathatóság helyettesítőjét.
Az AI segíthet a védekezőknek nagy vagy összetett adathalmazokat feldolgozni, de ugyanaz a technológia a támadókat is segítheti, vagy új sebezhető komponenseket vihet be. A NIST Initial Preliminary Draft Cyber AI Profile dokumentuma elkülöníti az AI-rendszerkomponensek védelmét, az AI-támogatta kibervédelmet és az AI-támogatta kibertámadások meghiúsítását; 2026 augusztusában még nem végleges útmutatás.
Legfontosabb pontok
A döntés definiálásaMeg kell határozni a felhasználót, a feladatot, a bemeneteket, az engedélyezett kimeneteket, a bizonyossági igényeket, a reagálási időt, és hogy az AI tanácsol, javaslatot tesz vagy felhatalmazott a cselekvésre.
Kontextusbeli értékelésReprezentatív és adverszáriális eseteket, ritka, de költséges hibákat, adatdriftet, kitérést, torzítást, késleltetést, származást kell tesztelni, és össze kell vetni egyszerűbb szabályokkal vagy szakértői alapvonalakkal.
A műveletek korlátozásaMinimális jogosultság, emberi jóváhagyás a jelentős következményű műveleteknél, védett naplók, kimenetvalidálás, tartalék eljárások, monitoring, valamint gyors letiltás vagy visszagörgetés.
Fontos korlátAz AI-kimenet valószínűségi jellegű, és lehet téves, manipulált, elavult vagy alátámasztatlan. A magas riasztáscsökkentés vagy benchmark-pontosság nem igazolja, hogy a támadások meg lesznek találva, a gyökérok helyes, vagy az automatizált műveletek biztonságosak.