Deepfakes mohou podporovat zábavu, přístupnost, vzdělávání a kreativní práci; stávají se bezpečnostním problémem, když jsou použity bez autorizace či kontextu k oklamání, zosobnění, obtěžování nebo ovlivnění rozhodnutí.
Metody tvorby zahrnují nahrazení obličeje či těla, syntetickou řeč, synchronizaci rtů a generování celé scény. Riziko závisí na obsahu, souhlasu, prezentaci, publiku a výsledné akci — ne prostě na tom, zda byla zapojena umělá inteligence. Přesvědčivý padělek může posílit sociální inženýrství, ale autentická média mohou být také upravena, špatně označena nebo prezentována mimo kontext.
Klíčové body
VerifikaceZkontrolujte deklarovaný zdroj, historii publikace, okolní kontext a nezávislé zpravodajství; vysoce dopadové žádosti potvrzujte známým kanálem, místo spoléhání na známý obličej či hlas.
Kontroly organizaceDefinujte schvalovací cesty pro platby, obnovu účtů, veřejná prohlášení a citlivé instrukce, aby jedna nahrávka či živý hovor nemohla autorizovat zásadní akci.
Technické důkazyZachovejte původní soubor, zprávu, detaily účtu, časová razítka a dostupná metadata původu pro kvalifikovanou analýzu, místo opakovaného transkódování či repostování materiálu.
Důležité omezeníVizuální inspekce i automatizované detektory mohou oba selhat, zatímco vodoznaky a záznamy původu mohou chybět, být odstraněny či špatně interpretovány. Žádný jediný signál nedokazuje, že obsah je autentický, syntetický, pravdivý či škodlivý.