Jej rozsah zahŕňa tréningové a evaluačné údaje, modely a váhy, kód, prompty, úložiská získavania, vývojové pipeline, identity, infraštruktúru, rozhrania, pripojené nástroje a rozhodnutia alebo akcie, ktoré aplikácia vybavená AI dokáže produkovať.
Práca rozširuje etablované praktiky kybernetickej bezpečnosti naprieč životným cyklom AI, pričom adresuje útočné cesty vytvorené alebo amplifikované strojovým učením. Zdravý program začína účelom systému, aktívami, aktérmi a hranicami dôvery, potom vyberá kontroly podľa realistických dôsledkov. Chráni dôvernosť, integritu a dostupnosť bez predpokladania, že dobre fungujúci model alebo renomovaný poskytovateľ robí kompletnú aplikáciu bezpečnou.
Kľúčové body
Rozsah životného cykluHodnotiť obstarávanie, prípravu údajov, tréning alebo prispôsobenie, evaluáciu, nasadenie, prevádzku, zmenu, reakciu na incidenty a vyradenie — nie len verejný endpoint modelu.
Jadrové kontrolyUdržiavať inventár aktív; verifikovať provenienciu; uplatniť najmenšie oprávnenia, bezpečný vývoj a kontroly dodávateľského reťazca; izolovať citlivé zdroje; validovať výstupy pred použitím; a monitorovať konvenčné aj AI-špecifické zneužitie.
Dôkazy assuranceKombinovať modelovanie hrozieb, bezpečnostné testovanie, adverzívnu evaluáciu, kontrolu prístupu a konfigurácie, cvičenia incidentov, monitorovanie a retestovanie po materiálnych zmenách.
Dôležité obmedzenieBezpečnosť AI nie je synonymum pre bezpečnosť osôb AI (AI safety) ani celkovú dôveryhodnosť. Systém môže odolať útočníkom a napriek tomu byť nepresný, nespravodlivý, nebezpečný vo svojom zamýšľanom kontexte alebo zle riadený a žiadna jediná brána ani skener nepokrýva plné riziko.