# Ce este injecția de prompturi?

> Injecția de prompturi este manipularea unui sistem AI generativ prin instrucțiuni care determină un model să suprascrie sau să intre în conflict cu instrucțiunile intenționate ale aplicației.

- URL canonic: https://yellowcube.eu/ro/glossary/prompt-injection/
- Editor: Yellow Cube
- Limbă: ro
- Contact: hello@yellowcube.eu

## Conținut

Exploatează dificultatea de a separa fiabil direcțiile de încredere de conținutul de neîncredere în contextul modelului. O injecție directă vine de la utilizatorul care interacționează; o injecție indirectă este plantată în conținut pe care sistemul îl procesează ulterior, precum o pagină web, un e-mail, un document, o imagine, un rezultat de instrument sau o înregistrare de regăsire.

Consecința depinde mai puțin de textul singur decât de aplicația din jurul modelului. Un asistent izolat ar putea produce un răspuns nedorit, în timp ce un agent cu acces la date private, credențiale sau instrumente externe ar putea divulga informații sau iniția acțiuni neautorizate. Apărările ar trebui prin urmare să presupună că un conținut confecționat malițios poate influența modelul și să limiteze ce poate face orice ieșire rezultată.

### Puncte esențiale

- **Frontiere de încredere:** Identificați fiecare cale care adaugă text, imagini, înregistrări regăsite sau ieșiri de instrumente în context și etichetați conținutul extern drept de neîncredere chiar și când apare în interiorul unui document familiar.
- **Reducerea impactului:** Dați modelelor și instrumentelor identități cu privilegii minime, separați datele sensibile, constrângeți acțiunile disponibile, validați argumentele instrumentelor și cereți aprobare independentă pentru operațiuni cu impact mare.
- **Detecție și testare:** Exersați cazuri directe, indirecte, codificate, multilingve, multimodale și în mai mulți pași; jurnalizați modelul, promptul, conținutul regăsit, apelurile de instrumente și deciziile de autorizare necesare pentru a investiga rezultatele.
- **Limitare importantă:** Prompturile de sistem, filtrele de intrare, delimitatorii și detectorii bazate pe model pot reduce riscul, dar nu furnizează o frontieră universală împotriva injecției de prompturi. Aplicația trebuie să rămână sigură când modelul urmează instrucțiuni ostile sau emite ieșiri ostile.

### Termeni asociați

[Otrăvirea datelor](<https://yellowcube.eu/ro/glossary/data-poisoning/>) · [Privilegii minime](<https://yellowcube.eu/ro/glossary/least-privilege/>) · [Red teaming pentru AI](<https://yellowcube.eu/ro/glossary/ai-red-teaming/>) · [Securitatea AI agentică](<https://yellowcube.eu/ro/glossary/agentic-ai-security/>)

### Surse

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [OWASP LLM01:2025 Prompt Injection](https://genai.owasp.org/llmrisk/llm01-prompt-injection/) · [MITRE ATLAS](https://atlas.mitre.org/)

## Să construim o apărare cibernetică mai eficientă împreună

Construim parteneriate de durată, bazate pe încredere, expertiză și succes comun. Fie că doriți să vă dezvoltați afacerea, să vă extindeți oferta de securitate cibernetică sau să lansați soluții inovatoare pe piețe noi, Yellow Cube vă sprijină pe termen lung.

[Luați legătura cu Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Sursa și domeniul de aplicare

Această versiune Markdown este generată din aceleași înregistrări aprobate ca pagina HTML canonică. Pentru citare, utilizați URL-ul canonic.