Ihr Scope umfasst Trainings- und Evaluierungsdaten, Modelle und Gewichte, Code, Prompts, Retrieval-Speicher, Entwicklungs-Pipelines, Identitäten, Infrastruktur, Schnittstellen, verbundene Werkzeuge sowie die Entscheidungen oder Aktionen, die eine KI-gestützte Anwendung erzeugen kann.
Die Arbeit erweitert etablierte Cybersicherheits-Praktiken über den KI-Lebenszyklus und adressiert dabei Angriffspfade, die durch maschinelles Lernen entstehen oder verstärkt werden. Ein belastbares Programm beginnt mit Zweck, Assets, Akteuren und Vertrauensgrenzen des Systems und wählt Kontrollen dann nach realistischen Konsequenzen aus. Es schützt Vertraulichkeit, Integrität und Verfügbarkeit, ohne anzunehmen, dass ein leistungsstarkes Modell oder ein renommierter Anbieter die gesamte Anwendung sicher macht.
Wichtigste Punkte
Lebenszyklus-ScopeBeschaffung, Datenvorbereitung, Training oder Anpassung, Evaluation, Bereitstellung, Betrieb, Änderung, Incident Response und Außerbetriebnahme bewerten — nicht nur den öffentlichen Modell-Endpunkt.
KernkontrollenEin Asset-Inventar pflegen; Provenance verifizieren; Least Privilege, sichere Entwicklung und Supply-Chain-Kontrollen anwenden; sensible Ressourcen isolieren; Outputs vor der Nutzung validieren; sowie konventionellen und KI-spezifischen Missbrauch überwachen.
Assurance-NachweiseThreat Modeling, Sicherheitstests, adversariale Evaluation, Zugriffs- und Konfigurationsprüfung, Vorfallübungen, Monitoring und erneutes Testen nach wesentlichen Änderungen kombinieren.
Wichtige EinschränkungAI Security ist kein Synonym für AI Safety oder allgemeine Vertrauenswürdigkeit. Ein System kann Angreifern standhalten und dennoch ungenau, unfair, im vorgesehenen Kontext unsicher oder schlecht gesteuert sein — und kein einzelnes Gateway oder Scanner deckt das gesamte Risiko ab.