# Mi a shadow AI?

> A shadow AI iparági irányítási kifejezés az olyan AI-rendszerekre, szolgáltatásokra vagy funkciókra, amelyeket a szervezet által megkövetelt láthatóság vagy jóváhagyás nélkül használnak, csatlakoztatnak, fejlesztenek vagy vetnek be.

- Kanonikus URL: https://yellowcube.eu/hu/glossary/shadow-ai/
- Kiadó: Yellow Cube
- Nyelv: hu
- Kapcsolat: hello@yellowcube.eu

## Tartalom

Magában foglalhatja a nyilvános generatív AI-fiókokat használó alkalmazottakat, felülvizsgálatlan modell-API-kat hívó csapatokat, lokálisan futó modelleket, nem hivatalos ügynököket és az egyébként jóváhagyott szoftverszolgáltatás frissítésén át bejutott AI-képességeket. A tevékenység nem feltétlenül rosszindulatú; a meghatározó probléma az, hogy a normál kockázattulajdonosi és kontrollfolyamatok megkerülhettek vagy hiányoznak.

Pontos leltár nélkül a szervezet nem tudhatja, milyen információ kerül egy szolgáltatóhoz, milyen megőrzési feltételek vonatkoznak rá, milyen identitásokat vagy eszközöket használhat egy ügynök, vagy befolyásolják-e a kimenetek fontos döntéseket. A gyakorlati válasz a felfedezést jóváhagyott alternatívákkal, világos adatkezelési szabályokkal, oktatással, elérhető felülvizsgálati és kivételútvonalakkal, valamint arányos kontrollokkal kombinálja.

### Legfontosabb pontok

- **Felfedezési hatókör:** Nézzen a jól ismert chatwebhelyeken túlra is — böngészőbővítmények, fejlesztőeszközök, SaaS-funkciók, API-forgalom, felhőerőforrások, notebookok, modelltárak, lokális futtatókörnyezetek, ügynökök és automatizálási platformok.
- **Triage-kérdések:** Azonosítsa a tulajdonost, célt, felhasználókat, szolgáltatót, adatosztályokat, modellt és régiót, csatlakoztatott rendszereket, jogosultságokat, megőrzést, szerződéses feltételeket, és hogy a kimenet következményes műveletet irányít-e.
- **Kockázatcsökkentés:** Kínáljon jóváhagyott szolgáltatásokat, alkalmazzon identitás- és minimálisjogosultság-kontrollokat, érvényesítsen adatvesztés-védelmet ahol indokolt, figyelje a használatot, képezze a személyzetet, és tegye a legitim átvételt könnyebben regisztrálhatóvá.
- **Fontos korlát:** A tartományblokkolás, hálózatmonitorozás, költségelszámolás és személyzeti felmérés mindegyike csak a kép egy részét mutatja; a beágyazott, lokális és közvetett AI-használat láthatatlan maradhat. A megkülönböztetés nélküli tilalom a hasznos tevékenységet is távolabb tolhatja az irányítástól.

### Kapcsolódó kifejezések

[Shadow IT](<https://yellowcube.eu/hu/glossary/shadow-it/>) · [AI-irányítás](<https://yellowcube.eu/hu/glossary/ai-governance/>) · [AI-biztonsági állapotkezelés (AI-SPM)](<https://yellowcube.eu/hu/glossary/ai-security-posture-management/>) · [Adatvesztés-megelőzés (DLP)](<https://yellowcube.eu/hu/glossary/data-loss-prevention/>) · [Operációs technológiai (OT) eszközleltár](<https://yellowcube.eu/hu/glossary/operational-technology-asset-inventory/>) · [Harmadik felek kiberkockázata](<https://yellowcube.eu/hu/glossary/third-party-cyber-risk/>)

### Források

[NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [CISA and UK NCSC Guidelines for Secure AI System Development](https://www.cisa.gov/news-events/alerts/2023/11/26/cisa-and-uk-ncsc-unveil-joint-guidelines-secure-ai-system-development) · [NIST AI RMF Playbook: Govern](https://airc.nist.gov/airmf-resources/playbook/govern/)

## Forrásmegjelölés és hatókör

Ez a Markdown-változat ugyanazokból a jóváhagyott tartalmi rekordokból készül, mint a kanonikus HTML-oldal. Hivatkozáskor a kanonikus URL-t használja.