# Čo je shadow AI?

> Shadow AI je odvetvový pojem z oblasti riadenia pre systémy, služby alebo funkcie AI používané, pripájané, vyvíjané alebo nasadzované bez viditeľnosti alebo schválenia požadovaného organizáciou.

- Kanonická URL: https://yellowcube.eu/sk/glossary/shadow-ai/
- Vydavateľ: Yellow Cube
- Jazyk: sk
- Kontakt: hello@yellowcube.eu

## Obsah

Môže zahŕňať zamestnancov používajúcich verejné účty generatívneho AI, tímy volajúce neskontrolované API modelov, lokálne bežiace modely, neoficiálnych agentov a schopnosti AI zavedené cez aktualizáciu inak schválenej softvérovej služby. Aktivita nie je nutne škodlivá; definujúci problém je, že normálne procesy vlastníctva rizika a kontroly sú obídené alebo chýbajú.

Bez presného inventára organizácia nemusí vedieť, aké informácie sú posielané poskytovateľovi, ktoré retenčné podmienky sa uplatňujú, aké identity alebo nástroje agent dokáže použiť, alebo či výstupy ovplyvňujú dôležité rozhodnutia. Praktická odpoveď kombinuje objavovanie so schválenými alternatívami, jasnými pravidlami zaobchádzania s údajmi, vzdelávaním, ľahko dostupným preskúmaním a cestami výnimiek a primeranými kontrolami.

### Kľúčové body

- **Rozsah objavovania:** Pozrieť sa za známe chatové weby na rozšírenia prehliadača, vývojárske nástroje, funkcie SaaS, prevádzku API, cloudové zdroje, notebooky, úložiská modelov, lokálne runtime, agentov a automatizačné platformy.
- **Otázky triage:** Identifikovať vlastníka, účel, používateľov, poskytovateľa, triedy údajov, model a región, pripojené systémy, oprávnenia, retenciu, zmluvné podmienky a či výstup poháňa akciu so závažnými dôsledkami.
- **Redukcia rizika:** Ponúknuť schválené služby, uplatniť kontroly identity a najmenších oprávnení, vymáhať ochranu proti strate údajov tam, kde je to vhodné, monitorovať použitie, školiť personál a robiť legitímnu adopciu ľahšie registrovateľnou.
- **Dôležité obmedzenie:** Blokovanie domén, sieťové monitorovanie, výdavkové záznamy a prieskumy personálu každý odhaľujú len časť obrazu; zabudované, lokálne a nepriame použitie AI môže zostať neviditeľné. Nerozlišujúci zákaz môže tiež tlačiť užitočnú aktivitu ďalej mimo riadenia.

### Súvisiace pojmy

[Shadow IT](<https://yellowcube.eu/sk/glossary/shadow-it/>) · [Riadenie AI (AI governance)](<https://yellowcube.eu/sk/glossary/ai-governance/>) · [Správa stavu zabezpečenia AI (AI security posture management, AI-SPM)](<https://yellowcube.eu/sk/glossary/ai-security-posture-management/>) · [Prevencia úniku údajov (data loss prevention, DLP)](<https://yellowcube.eu/sk/glossary/data-loss-prevention/>) · [Inventár aktív OT](<https://yellowcube.eu/sk/glossary/operational-technology-asset-inventory/>) · [Kybernetické riziko tretích strán](<https://yellowcube.eu/sk/glossary/third-party-cyber-risk/>)

### Zdroje

[NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [CISA and UK NCSC Guidelines for Secure AI System Development](https://www.cisa.gov/news-events/alerts/2023/11/26/cisa-and-uk-ncsc-unveil-joint-guidelines-secure-ai-system-development) · [NIST AI RMF Playbook: Govern](https://airc.nist.gov/airmf-resources/playbook/govern/)

## Uvedenie zdroja a rozsah

Táto verzia Markdown sa generuje z rovnakých schválených záznamov ako kanonická stránka HTML. Pri citovaní použite kanonickú URL.