Les deepfakes peuvent servir le divertissement, l'accessibilité, l'éducation et la création ; ils deviennent un problème de sécurité lorsqu'ils sont utilisés sans autorisation ni contexte pour tromper, se faire passer pour quelqu'un, harceler ou influencer des décisions.
Les méthodes de création incluent le remplacement de visage ou de corps, la synthèse vocale, la synchronisation labiale et la génération d'une scène entière. Le risque dépend du contenu, du consentement, de la présentation, de l'audience et de l'action résultante — pas simplement de l'implication de l'intelligence artificielle. Un faux convaincant peut renforcer l'ingénierie sociale, mais un média authentique peut aussi être monté, mal étiqueté ou présenté hors contexte.
Points clés
VérificationVérifier la source revendiquée, l'historique de publication, le contexte et les rapports indépendants ; confirmer les demandes à fort impact via un canal connu plutôt que de s'en remettre à un visage ou à une voix familière.
Mesures organisationnellesDéfinir des chemins d'approbation pour les paiements, la récupération de compte, les prises de parole publiques et les instructions sensibles, afin qu'un enregistrement ou un appel en direct unique ne puisse autoriser une action à conséquences.
Preuves techniquesPréserver le fichier original, le message, les détails du compte, les horodatages et les métadonnées de provenance disponibles pour une analyse qualifiée, plutôt que de transcoder ou republier le matériel à répétition.
Limite importanteL'inspection visuelle comme les détecteurs automatisés peuvent échouer, et les filigranes et enregistrements de provenance peuvent être absents, supprimés ou mal interprétés. Aucun signal unique ne prouve qu'un contenu est authentique, synthétique, véridique ou malveillant.