# Ce este securitatea AI agentică?

> Securitatea AI agentică este practica de protejare a sistemelor AI care urmăresc obiective prin acces delegat la instrumente, servicii sau alți agenți.

- URL canonic: https://yellowcube.eu/ro/glossary/agentic-ai-security/
- Editor: Yellow Cube
- Limbă: ro
- Contact: hello@yellowcube.eu

## Conținut

Un astfel de sistem poate planifica pași, păstra memorie, selecta instrumente și acționa pentru un utilizator. Frontiera sa de securitate include modelul, codul de orchestrare, prompturile, memoria, interfețele instrumentelor, credențialele, datele conectate, alți agenți și mediul de acțiune.

Riscurile includ injecția indirectă de prompturi, rezultate manipulate ale instrumentelor, permisiuni excesive, expunerea credențialelor, memoria otrăvită, impersonarea între agenți și lanțuri dăunătoare de acțiuni permise. Eșecurile pot apărea și fără un atacator când un agent înțelege greșit un obiectiv sau optimizează obiectivul greșit. Controalele ar trebui să limiteze ce poate agentul observa și schimba, cu aprobare mai puternică pentru acțiuni cu consecințe.

### Puncte esențiale

- **Autoritate delimitată:** Dați fiecărui instrument și flux de lucru credențiale cu domeniu îngust și durată scurtă; restricționați destinațiile, datele, tipurile de acțiuni, cheltuielile și timpul de execuție; și cereți aprobare pentru pașii cu impact mare.
- **Protecția contextului și memoriei:** Separați utilizatorii și sarcinile, etichetați și validați conținutul de neîncredere, controlați ce persistă, înregistrați proveniența și preveniți instrucțiunile regăsite să suprascrie silențios obiectivele autorizate.
- **Observare și izolare:** Jurnalizați prompturile, deciziile, apelurile de instrumente și rezultatele acolo unde este proporțional; detectați lanțuri anormale de acțiuni; folosiți sandbox-uri, limite de rată, verificări de tranzacții și mecanisme fiabile de oprire sau revenire.
- **Asigurare la nivel de sistem:** Testați atacuri realiste în mai mulți pași și eșecuri accidentale, inclusiv compromiterea instrumentelor, otrăvirea memoriei, agenți în cascadă și recuperarea din acțiuni parțial completate.
- **Limitare importantă:** Securitatea AI agentică este un domeniu emergent cu terminologie, protocoale și metode de asigurare nestabilite. Controalele convenționale de software, identitate și risc AI rămân necesare, dar s-ar putea să nu adreseze complet comportamentul delegat și adaptiv.

### Termeni asociați

[Securitatea AI](<https://yellowcube.eu/ro/glossary/ai-security/>) · [Injecție de prompturi](<https://yellowcube.eu/ro/glossary/prompt-injection/>) · [Privilegii minime](<https://yellowcube.eu/ro/glossary/least-privilege/>) · [Gestionarea riscurilor AI](<https://yellowcube.eu/ro/glossary/ai-risk-management/>) · [DevSecOps](<https://yellowcube.eu/ro/glossary/devsecops/>)

### Surse

[NIST AI 800-5: Summary Analysis of Responses to the RFI Regarding Security Considerations for AI Agents](https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai) · [NIST: Tool Use in Agent Systems](https://www.nist.gov/news-events/news/2025/08/lessons-learned-consortium-tool-use-agent-systems) · [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)

## Să construim o apărare cibernetică mai eficientă împreună

Construim parteneriate de durată, bazate pe încredere, expertiză și succes comun. Fie că doriți să vă dezvoltați afacerea, să vă extindeți oferta de securitate cibernetică sau să lansați soluții inovatoare pe piețe noi, Yellow Cube vă sprijină pe termen lung.

[Luați legătura cu Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Sursa și domeniul de aplicare

Această versiune Markdown este generată din aceleași înregistrări aprobate ca pagina HTML canonică. Pentru citare, utilizați URL-ul canonic.