# Ce este machine learning adversativ?

> Machine learning adversativ (adversarial machine learning) este domeniul preocupat de atacurile care exploatează sistemele de machine learning și de metodele de înțelegere și atenuare a acestor atacuri.

- URL canonic: https://yellowcube.eu/ro/glossary/adversarial-machine-learning/
- Editor: Yellow Cube
- Limbă: ro
- Contact: hello@yellowcube.eu

## Conținut

Examinează cum un adversar poate influența date, modele, intrări, ieșiri sau fluxuri de lucru înconjurătoare pentru a încălca obiective de confidențialitate, integritate, disponibilitate sau utilizare acceptabilă. Este un corp de cunoștințe de atac și apărare, nu numele unui singur exploit specific.

Taxonomia curentă a NIST organizează atacurile folosind dimensiuni precum etapa ciclului de viață, scopul adversarului, obiectivul, capabilitatea și cunoașterea. Familiile relevante includ evaziunea la momentul inferenței, otrăvirea în timpul antrenamentului, atacurile pe confidențialitate și abuzul sistemelor generative prin promptare sau utilizare greșită. Sistemele reale moștenesc și slăbiciuni convenționale în identități, API-uri, software, servicii cloud și lanțuri de aprovizionare, așa că o evaluare de ML adversativ ar trebui să conecteze comportamentul modelului la aplicația completă.

### Puncte esențiale

- **Etapa atacului:** Determinați dacă adversarul poate afecta colectarea datelor, antrenamentul, distribuția modelului, implementarea, intrările de inferență, regăsirea, feedback-ul sau acțiunile conectate.
- **Condițiile adversarului:** Precizați ce acces, cunoaștere, control, resurse și oportunități de interogare presupune un atac; un rezultat cu acces complet la model s-ar putea să nu se transfere la un serviciu remote.
- **Obiective de securitate:** Evaluați eșecurile de disponibilitate, încălcările de integritate nețintite sau țintite, pierderea confidențialității, furtul modelului și utilizarea abuzivă față de consecințe semnificative pentru contextul implementat.
- **Practica defensivă:** Combinați evaluarea la nivel de model cu proveniență, control al accesului, inginerie sigură, monitorizare, răspuns la incidente și constrângeri asupra deciziilor sau acțiunilor din aval.
- **Limitare importantă:** Robustelea față de un benchmark sau o metodă de atac cunoscută nu este securitate generală. Atacatorii se adaptează, ipotezele de cercetare variază, iar controalele care îmbunătățesc o proprietate pot lăsa frontierele de încredere ale aplicației sau umane expuse.

### Termeni asociați

[Securitatea AI](<https://yellowcube.eu/ro/glossary/ai-security/>) · [Otrăvirea datelor](<https://yellowcube.eu/ro/glossary/data-poisoning/>) · [Otrăvirea modelului](<https://yellowcube.eu/ro/glossary/model-poisoning/>) · [Injecție de prompturi](<https://yellowcube.eu/ro/glossary/prompt-injection/>) · [Red teaming pentru AI](<https://yellowcube.eu/ro/glossary/ai-red-teaming/>)

### Surse

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [NIST AI Security and Resilience](https://www.nist.gov/artificial-intelligence/ai-research-security-and-resilience) · [MITRE ATLAS](https://atlas.mitre.org/)

## Să construim o apărare cibernetică mai eficientă împreună

Construim parteneriate de durată, bazate pe încredere, expertiză și succes comun. Fie că doriți să vă dezvoltați afacerea, să vă extindeți oferta de securitate cibernetică sau să lansați soluții inovatoare pe piețe noi, Yellow Cube vă sprijină pe termen lung.

[Luați legătura cu Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Sursa și domeniul de aplicare

Această versiune Markdown este generată din aceleași înregistrări aprobate ca pagina HTML canonică. Pentru citare, utilizați URL-ul canonic.