Sie beschreibt einen Satz von Fähigkeiten und Anwendungen, kein Zusicherungsniveau, keinen autonomen Verteidiger und keinen Ersatz für Security Engineering und menschliche Verantwortung.
KI kann Verteidigern helfen, große oder komplexe Datensätze zu verarbeiten, doch dieselbe Technologie kann Angreifer unterstützen oder neue verwundbare Komponenten einführen. NISTs Initial Preliminary Draft Cyber AI Profile trennt das Absichern von KI-Systemkomponenten, die Durchführung KI-gestützter Cyberabwehr und das Abwehren KI-gestützter Cyberangriffe; Stand August 2026 ist es keine endgültige Leitlinie.
Wichtigste Punkte
Die Entscheidung definierenNutzer, Aufgabe, Eingaben, zulässige Ergebnisse, Konfidenzbedarf, Reaktionszeit und ob KI berät, vorschlägt oder handeln darf, festlegen.
Im Kontext evaluierenRepräsentative und adversarielle Fälle, seltene aber kostspielige Fehler, Datendrift, Evasion, Bias, Latenz, Provenance sowie Vergleiche mit einfacheren Regeln oder Expertenbaselines testen.
Betrieb einengenLeast Privilege, menschliche Freigabe für folgenreiche Aktionen, geschützte Logs, Ergebnisvalidierung, Fallback-Verfahren, Monitoring sowie schnelle Deaktivierung oder Rücknahme anwenden.
Wichtige EinschränkungKI-Ergebnisse sind probabilistisch und können falsch, manipuliert, veraltet oder unbelegt sein. Hohe Alarmreduktion oder Benchmark-Genauigkeit belegt nicht, dass Angriffe gefunden werden, Grundursachen stimmen oder automatisierte Aktionen sicher sind.