Hatóköre magában foglalja a tanító- és értékelő adatokat, modelleket és súlyokat, kódot, promptokat, visszakeresési tárakat, fejlesztési pipeline-okat, identitásokat, infrastruktúrát, interfészeket, csatlakoztatott eszközöket, valamint a döntéseket vagy műveleteket, amelyeket egy AI-val működő alkalmazás előállíthat.
A munka a bevált kiberbiztonsági gyakorlatokat terjeszti ki az AI-életciklusra, miközben a gépi tanulás által létrehozott vagy felerősített támadási útvonalakat is kezeli. Egy jó program a rendszer céljával, eszközeivel, szereplőivel és bizalmi határaival kezdődik, majd a valós következmények szerint választ kontrollokat. Védi a bizalmasságot, integritást és rendelkezésre állást anélkül, hogy feltételezné: egy jól teljesítő modell vagy hírhedt szolgáltató biztonságossá teszi a teljes alkalmazást.
Legfontosabb pontok
Életciklus-hatókörÉrtékelje a beszerzést, adatelőkészítést, tanítást vagy testreszabást, értékelést, bevetést, üzemeltetést, változást, incidenskezelést és kivonást — nem csak a nyilvános modellvégpontot.
AlapkontrollokTartson fenn eszközleltárt; ellenőrizze az eredetet; alkalmazzon minimális jogosultságot, biztonságos fejlesztési és ellátáslánci kontrollokat; szigetelje az érzékeny erőforrásokat; validálja a kimeneteket használat előtt; és figyelje a hagyományos és AI-specifikus visszaéléseket is.
Biztosítéki bizonyítékKombinálja a fenyegetésmodellezést, biztonsági tesztelést, adverszáriális értékelést, hozzáférés- és konfiguráció-felülvizsgálatot, incidensgyakorlatokat, monitorozást és a lényeges változások utáni újratesztelést.
Fontos korlátAz AI-biztonság nem szinonimája az AI-munkabiztonságnak vagy az általános megbízhatóságnak. Egy rendszer ellenállhat a támadóknak, mégis lehet pontatlan, igazságtalan, a szándékolt kontextusban veszélyes vagy rosszul irányított, és egyetlen átjáró vagy szkenner sem fedi le a teljes kockázatot.