Deepfakes môžu podporovať zábavu, prístupnosť, vzdelávanie a kreatívnu prácu; bezpečnostným problémom sa stávajú, keď sú použité bez autorizácie alebo kontextu na oklamanie, vydávanie sa za niekoho, obterečovanie alebo ovplyvnenie rozhodnutí.
Metódy vytvárania zahŕňajú nahradenie tváre alebo tela, syntetickú reč, synchronizáciu pier a generovanie celej scény. Riziko závisí od obsahu, súhlasu, prezentácie, publika a výslednej akcie — nie jednoducho od toho, či bola zapojená umelá inteligencia. Presvedčivý falošný materiál môže posilniť sociálne inžinierstvo, no autentické médiá môžu byť tiež upravené, zle označené alebo prezentované mimo kontextu.
Kľúčové body
VerifikáciaSkontrolovať deklarovaný zdroj, históriu publikácie, okolitý kontext a nezávislé hlásenia; potvrdzovať žiadosti s vysokým dopadom cez známy kanál namiesto spoliehania sa na známú tvár alebo hlas.
Organizačné kontrolyDefinovať schvaľovacie cesty pre platby, obnovu účtov, verejné vyhlásenia a citlivé inštrukcie tak, aby jedna nahrávka alebo živý hovor nemohol autorizovať následnú akciu.
Technické dôkazyZachovať pôvodný súbor, správu, údaje účtu, časové pečiatky a dostupné metadáta pôvodu pre kvalifikovanú analýzu namiesto opakovaného transkódovania alebo repostovania materiálu.
Dôležité obmedzenieVizuálna inšpekcia aj automatizované detektory môžu zlyhať, zatiaľ čo vodotlače a záznamy pôvodu môžu chýbať, byť odstránené alebo zle interpretované. Žiadny jediný signál nedokazuje, že obsah je autentický, syntetický, pravdivý alebo škodlivý.