# Ce este otrăvirea modelului?

> Otrăvirea modelului este un atac în etapa de antrenament în care un adversar manipulează un model sau parametrii săi pentru a-i schimba comportamentul ulterior.

- URL canonic: https://yellowcube.eu/ro/glossary/model-poisoning/
- Editor: Yellow Cube
- Limbă: ro
- Contact: hello@yellowcube.eu

## Conținut

În loc să corupă exemplele de învățare, atacatorul influențează direct ponderile, gradientele, actualizările, punctele de control sau un artefact de model. Rezultatul poate fi degradare largă a performanței, erori țintite, o ușă din spate aleasă de atacator sau o pierdere a integrității modelului care apare doar în anumite condiții.

Căile de atac relevante includ un participant compromis care trimite actualizări malițioase în timpul învățării federate, modificări neautorizate în interiorul unui pipeline de antrenament și un model preantrenat sau fine-tunat otrăvit introdus prin lanțul de aprovizionare AI. Protecția depinde prin urmare de cunoașterea originii artefactelor și actualizărilor de model, a cui le putea modifica și a dovezilor care susțin promovarea în producție.

### Puncte esențiale

- **Suprafață de atac:** Revizuiți registrele de modele, depozitele de artefacte, joburile de antrenament, participanții distribuiți sau federați, agregarea actualizărilor, formatele de serializare, pipeline-urile de implementare și sursele terțe de modele.
- **Controale de integritate:** Restricționați accesul de scriere, separați atribuțiile, semnați și verificați artefactele acolo unde este suportat, păstrați liniile de descendență și hash-urile, aprobați sursele de încredere și protejați sistemele care construiesc și distribuie modele.
- **Evaluare:** Comparați comportamentul candidat cu linii de bază și seturi de validare protejate independent, testați pentru declanșatoare țintite și schimbări neașteptate de capabilitate și investigați diferențele inexplicabile înainte de lansare.
- **Răspuns:** Păstrați artefactul suspect și dovezile de proveniență, eliminați versiunile afectate din distribuție, identificați implementările în aval, restaurați o versiune de încredere și abordați calea de actualizare compromisă.
- **Limitare importantă:** Evaluarea modelului nu poate epuiza fiecare intrare sau comportament ascuns posibil. Trecerea unui benchmark nu dovedește integritatea parametrilor, în timp ce un fine-tune autorizat obișnuit sau un defect accidental de antrenament nu este otrăvire dacă nu este implicată manipulare adversativă.

### Termeni asociați

[Otrăvirea datelor](<https://yellowcube.eu/ro/glossary/data-poisoning/>) · [Machine learning adversativ](<https://yellowcube.eu/ro/glossary/adversarial-machine-learning/>) · [Securitatea lanțului de aprovizionare software](<https://yellowcube.eu/ro/glossary/software-supply-chain-security/>) · [Gestionarea posturii de securitate AI (AI-SPM)](<https://yellowcube.eu/ro/glossary/ai-security-posture-management/>) · [Securitatea AI](<https://yellowcube.eu/ro/glossary/ai-security/>)

### Surse

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [MITRE ATLAS](https://atlas.mitre.org/) · [CISA and UK NCSC Guidelines for Secure AI System Development](https://www.cisa.gov/news-events/alerts/2023/11/26/cisa-and-uk-ncsc-unveil-joint-guidelines-secure-ai-system-development)

## Să construim o apărare cibernetică mai eficientă împreună

Construim parteneriate de durată, bazate pe încredere, expertiză și succes comun. Fie că doriți să vă dezvoltați afacerea, să vă extindeți oferta de securitate cibernetică sau să lansați soluții inovatoare pe piețe noi, Yellow Cube vă sprijină pe termen lung.

[Luați legătura cu Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Sursa și domeniul de aplicare

Această versiune Markdown este generată din aceleași înregistrări aprobate ca pagina HTML canonică. Pentru citare, utilizați URL-ul canonic.