Descrie un set de capabilități și utilizări, nu un nivel de asigurare, un apărător autonom sau un înlocuitor pentru ingineria de securitate și responsabilitatea umană.
AI poate ajuta apărătorii să proceseze seturi de date mari sau complexe, dar aceeași tehnologie poate ajuta atacatorii sau introduce componente vulnerabile noi. Initial Preliminary Draft Cyber AI Profile de la NIST separă securizarea componentelor sistemelor AI, desfășurarea apărării cibernetice asistate de AI și contracararea atacurilor cibernetice asistate de AI; la data de august 2026 nu este îndrumare finală.
Puncte esențiale
Definiți deciziaSpecificați utilizatorul, sarcina, intrările, ieșirile permise, nevoile de încredere, timpul de răspuns și dacă AI consiliază, propune sau este autorizat să acționeze.
Evaluați în contextTestați cazuri reprezentative și adversare, eșecuri rare dar costisitoare, deriva datelor, evaziunea, bias-ul, latența, proveniența și comparații cu reguli mai simple sau baselini de experți.
Constrângeți operațiunileAplicați privilegiul minim, aprobarea umană pentru acțiuni cu consecințe, jurnale protejate, validarea ieșirilor, proceduri de rezervă, monitorizare și dezactivare sau revenire rapidă.
Limitare importantăIeșirea AI este probabilistică și poate fi greșită, manipulată, depășită sau nesuportată. O reducere mare a alertelor sau o acuratețe bună la benchmark nu stabilește că atacurile vor fi găsite, că cauzele rădăcină sunt corecte sau că acțiunile automatizate sunt sigure.