# Co je shadow AI?

> Shadow AI je průmyslový termín řízení pro systémy, služby či funkce AI používané, připojované, vyvíjené či nasazované bez viditelnosti či schválení vyžadovaného organizací.

- Kanonická URL: https://yellowcube.eu/cs/glossary/shadow-ai/
- Vydavatel: Yellow Cube
- Jazyk: cs
- Kontakt: hello@yellowcube.eu

## Obsah

Může zahrnovat zaměstnance používající veřejné účty generativní AI, týmy volající nepřezkoumané API modelů, lokálně běžící modely, neoficiální agenty a schopnosti AI zavedené aktualizací jinak schválené softwarové služby. Aktivita nemusí být nutně škodlivá; definujícím problémem je, že normální procesy vlastnictví rizika a kontroly jsou obcházeny či chybí.

Bez přesného inventáře organizace nemusí vědět, jaké informace jsou posílány poskytovateli, jaké podmínky uchovávání platí, jaké identity či nástroje agent může používat či zda výstupy ovlivňují důležitá rozhodnutí. Praktická odpověď kombinuje objevování se sankcionovanými alternativami, jasná pravidla nakládání s daty, vzdělávání, přístupný přezkum a cesty výjimek a přiměřené kontroly.

### Klíčové body

- **Rozsah objevování:** Hledejte za známými chatovými weby k prohlížečovým rozšířením, vývojářským nástrojům, funkcím SaaS, provozu API, cloudovým prostředkům, notebookům, repozitářům modelů, lokálním runtime, agentům a automatizačním platformám.
- **Otázky triage:** Identifikujte vlastníka, účel, uživatele, poskytovatele, třídy dat, model a region, připojené systémy, oprávnění, uchovávání, smluvní podmínky a zda výstup pohání důsledkovou akci.
- **Redukce rizika:** Nabízejte schválené služby, aplikujte identity a kontroly nejmenších privilegií, vynucujte ochranu proti ztrátě dat tam, kde je to vhodné, monitorujte použití, školte personál a usnadněte registraci legitimního přijetí.
- **Důležité omezení:** Blokování domén, síťové monitorování, výdajové záznamy a průzkumy personálu každý odhalují pouze část obrazu; vestavěné, lokální a nepřímé použití AI může zůstat neviditelné. Nerozlišující zákaz může také tlačit užitečnou aktivitu dále mimo řízení.

### Související termíny

[Shadow IT](<https://yellowcube.eu/cs/glossary/shadow-it/>) · [Řízení AI](<https://yellowcube.eu/cs/glossary/ai-governance/>) · [Správa stavu zabezpečení AI (AI-SPM)](<https://yellowcube.eu/cs/glossary/ai-security-posture-management/>) · [Prevence ztráty dat (DLP)](<https://yellowcube.eu/cs/glossary/data-loss-prevention/>) · [Inventarizace aktiv provozních technologií (OT)](<https://yellowcube.eu/cs/glossary/operational-technology-asset-inventory/>) · [Kybernetické riziko třetích stran](<https://yellowcube.eu/cs/glossary/third-party-cyber-risk/>)

### Zdroje

[NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [CISA and UK NCSC Guidelines for Secure AI System Development](https://www.cisa.gov/news-events/alerts/2023/11/26/cisa-and-uk-ncsc-unveil-joint-guidelines-secure-ai-system-development) · [NIST AI RMF Playbook: Govern](https://airc.nist.gov/airmf-resources/playbook/govern/)

## Pojďme budovat chytřejší kybernetickou obranu Společně

Dlouhodobá partnerství stavíme na důvěře, odbornosti a společném úspěchu. Ať chcete rozvíjet své podnikání, rozšířit nabídku kybernetické bezpečnosti nebo uvést inovativní řešení na nové trhy, v Yellow Cube najdete spolehlivého partnera.

[Spojte se s Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Uvedení zdroje a rozsah

Tato verze Markdown vzniká ze stejných schválených záznamů jako kanonická stránka HTML. Při citování použijte kanonickou adresu.