# Ce este otrăvirea datelor?

> Otrăvirea datelor este un atac în etapa de antrenament în care un adversar inserează, șterge, modifică sau reetichetează date folosite pentru a antrena sau adapta un model de machine learning.

- URL canonic: https://yellowcube.eu/ro/glossary/data-poisoning/
- Editor: Yellow Cube
- Limbă: ro
- Contact: hello@yellowcube.eu

## Conținut

Procesul de învățare absoarbe manipularea, care poate reduce performanța generală, denatura o decizie țintită sau crea o ușă din spate care se activează când apare un declanșator ales. Atacatorul poate compromite o sursă de date, un pipeline de colectare, un proces de adnotare, o buclă de feedback sau un depozit de seturi de date.

Termenul privește în primul rând datele care afectează învățarea, inclusiv seturile de date de preantrenare, fine-tuning și consolidare sau feedback. Manipularea unei surse de regăsire la momentul inferenței este descrisă de regulă mai precis ca otrăvire a generării augmentate prin regăsire sau otrăvire a bazei de cunoștințe; coruperea unui set de evaluare poate invalida asigurarea chiar dacă nu alterează modelul implementat.

### Puncte esențiale

- **Descendența datelor:** Înregistrați originea, metoda de colectare, licența, transformările, etichetele, versiunile, aprobările și modelele sau experimentele care au consumat fiecare set de date.
- **Controale preventive:** Limitați și auditați accesul de scriere, separați datele de evaluare de încredere, autentificați reviziile aprobate, protejați pipeline-urile și depozitele și evaluați datele din surse externe sau contribuite de utilizatori.
- **Detecție:** Folosiți revizuire statistică și semantică, analiza duplicatelor și valorilor aberante, eșantionare țintită, comparații de surse și teste pentru declanșatoare suspecte sau influență concentrată.
- **Recuperare:** Păstrați dovezi, identificați datele afectate și modelele derivate, reveniți la o versiune de încredere a setului de date, reantrenați acolo unde este necesar și închideți slăbiciunea de ingestie sau autorizare.
- **Limitare importantă:** Exemplele otrăvite pot părea legitime, iar un subset mic, atent ales, poate fi influent. Curățarea datelor reduce expunerea, dar nu poate certifica că un set de date este benign; datele de calitate slabă sau nereprezentative fără intenție adversativă sunt o problemă de calitate a datelor, nu otrăvire.

### Termeni asociați

[Otrăvirea modelului](<https://yellowcube.eu/ro/glossary/model-poisoning/>) · [Operațiuni de securitate pentru machine learning (MLSecOps)](<https://yellowcube.eu/ro/glossary/machine-learning-security-operations/>) · [Machine learning adversativ](<https://yellowcube.eu/ro/glossary/adversarial-machine-learning/>)

### Surse

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [NSA and partners, AI Data Security](https://www.nsa.gov/Press-Room/Press-Releases-Statements/Press-Release-View/Article/4192332/nsas-aisc-releases-joint-guidance-on-the-risks-and-best-practices-in-ai-data-se/) · [MITRE ATLAS](https://atlas.mitre.org/)

## Să construim o apărare cibernetică mai eficientă împreună

Construim parteneriate de durată, bazate pe încredere, expertiză și succes comun. Fie că doriți să vă dezvoltați afacerea, să vă extindeți oferta de securitate cibernetică sau să lansați soluții inovatoare pe piețe noi, Yellow Cube vă sprijină pe termen lung.

[Luați legătura cu Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Sursa și domeniul de aplicare

Această versiune Markdown este generată din aceleași înregistrări aprobate ca pagina HTML canonică. Pentru citare, utilizați URL-ul canonic.