Obtenez Avast One pour aider à bloquer les arnaques et protéger votre téléphone
- Sécurité
- Confidentialité
- Performances
Les deepfake brouillent les frontières entre réalité et infox, rendant de plus en plus difficile de croire ce que l’on voit. Mais si vous savez quoi chercher, certains signes révélateurs peuvent trahir ces vidéos étonnamment réalistes et souvent bizarres. Apprenez à repérer un deepfake, puis restez en sécurité sur le web avec un outil de sécurité et de confidentialité complet comme Avast One.
Un deepfake est un faux enregistrement vidéo ou audio, très réaliste, ayant été réalisé ou modifié grâce à l’intelligence artificielle (IA). Dans les vidéos deepfake, on peut remplacer de façon très convaincante le visage ou la voix d’une personne par ceux d’une autre, ce qui permet de s’amuser avec le média synthétisé ou de diffuser de fausses informations, à des fins malveillantes.
Cette article contient :
Si les faux médias numériques ont toujours existé, les deepfakes sont un phénomène tout à fait moderne. Contrairement aux fausses photos créées par de vrais humains à l’aide d’outils comme Photoshop, les deepfakes sont fabriqués par des machines utilisant l’IA. Le recours à ce type de manipulation vidéo sophistiquée est de plus en plus courant dans les attaques de pharming, ce qui complique la protection contre l’usurpation d’identité.
Le mot « deepfake » est un mot valise composé à partir de « deep learning » et « fake ». « Deep » fait référence à l’apprentissage profond (deep learning), une méthode permettant d’entraîner les ordinateurs à penser naturellement comme un cerveau humain. Et « fake » souligne la nature trompeuse des médias deepfake.
Le deep learning est un processus d’IA qui consiste à répéter une tâche à l’infini – parfois sans aucune supervision humaine – afin de découvrir la meilleure façon d’obtenir un résultat souhaité. Pour créer des deepfakes, on alimente l’IA avec des centaines de photos et de vidéos de référence pour qu’une machine puisse générer la version animée d’un visage.
Les vidéos deepfake sont souvent utilisées à des fins inoffensives, comme dans les mèmes, les filtres de médias sociaux ou les applications de face swap (inverser deux visages à l’écran). Mais les deepfakes peuvent également être utilisés à des fins malveillantes, pour diffuser des informations erronées, lancer des fake news ou se venger. Bien souvent, on modifie l’apparence d’une personne pour la faire ressembler à quelqu’un d’autre pour s’amuser... mais cela peut aussi être utilisé pour la cyberintimidation ou pour un vol d’identité.
En effet, c’est le côté le plus glauque de la technologie deepfake qui s’est d’abord fait connaître du grand public. En 2017, un utilisateur de Reddit l’a utilisée pour créer de la pornographie non-consensuelle avec le visage de stars féminines. Si le subreddit a été interdit en 2018, ce type de deepfake Reddit et d’autres formes de deepfakes de célébrités, se sont répandus sur Internet.
Et ce n’est qu’un des nombreux exemples notoires de deepfake. Cette technologie peut être utilisée pour de nombreux types de tromperie : manipulation politique, infox (fake news), revenge porn, chantage... Toute personne ayant accès à la technologie deepfake peut faire dire ou faire n’importe quoi à quelqu’un.
Le danger de créer et d’utiliser des vidéos deepfake pèse déjà. Et l’on craint que les deepfakes soient de plus en plus utilisés à des fins malveillantes, remettant en question la sécurité des données biométriques, notamment dans l’utilisation des outils de reconnaissance faciale.
Pour créer un deepfake, on fournit de nombreuses images d’un sujet à des réseaux informatiques d’apprentissage profond, les auto-encodeurs variationnels (VAE). L’objectif est d’entraîner les VAE à capturer un éventail d’expositions lumineuses, de positions et d’expressions émotionnelles. L’IA peut ainsi déterminer quels éléments visuels (expressions, ombres...) sont uniques et lesquels sont remplaçables.
Voici un aperçu du processus de création d’un deepfake :
Tout d’abord, l’IA a besoin de deux groupes d’images d’entrée : la source originale (personne A) et la cible du deepfake (personne B). Les ordinateurs peuvent être entraînés sur un ensemble de visages aléatoires ou sur de nombreuses images d’une personne spécifique.
Ensuite, l’IA crée les images de sortie. L’IA détermine les éléments d’expression subtils qui sont uniques et essentiels au deepfake. Pour être convaincante, l’IA doit conserver les subtilités de la personnalité et les mouvements du visage qui se produisent naturellement et qui sont propres à l’individu ciblé.
Pour exécuter l’échange de visage (face swap), les images d’entrée et de sortie sont combinées. Les données de sortie de la source originale sont introduites dans le VAE et fusionnées avec les données du visage cible du deepfake. L’encodeur reconstruit les mouvements et les expressions émotionnelles de la personne A avec le visage de la personne B. Pour que le deepfake soit convaincant, cette opération doit être effectuée image par image.
Les meilleurs exemples de deepfakes sont généralement ceux créés spécialement pour démontrer la puissance de la technologie deepfake. D’autres deepfakes, plus ludiques, sont un peu moins sophistiqués mais n’en demeurent pas moins intéressants.
Certains se demandent donc en quoi les deepfakes posent un problème. Utilisés pour la fraude, la manipulation, la vengeance ou la tromperie (notamment pour la désinformation ou la diffusion d’opinions politiques), les deepfakes peuvent causer beaucoup de dommages, tant au niveau personnel que sociétal.
Regardez cet exemple de deepfake de l’ancien président américain Barack Obama, où il utilise un langage vulgaire et insulte Donald Trump. L’un des VAE a été entraîné à partir de l’acteur Jordan Peel, l’autre à partir de centaines de photos et de vidéos d’Obama.
Ce deepfake de Jon Snow s’excusant pour la tasse Starbucks dans la dernière saison de Game of Thrones montre également le côté humoristique que peuvent avoir les vidéos synthétiques.
Le faux discours sur l’alunissage raté de Nixon est un autre exemple convaincant de la facilité avec laquelle on peut faire croire que des dirigeants politiques ont dit ou fait quelque chose. L’une des raisons pour lesquelles ce deepfake est si réaliste est que le texte est basé sur un discours réel, préparé pour Nixon en cas d’échec de la mission Apollo 11.
Sans surprise, les célébrités font souvent l’objet de deepfakes. Le fait qu’elles soient connues en fait des cibles idéales pour les mèmes, et la richesse des médias facilement accessibles aide la technologie de l’IA à créer des deepfakes tout à fait convaincants.
Si le terme celebrity deepfakes est à jamais associé au scandale des deepfakes pornographiques de Reddit, les deepfakes de célébrités sont souvent utilisés de manière légère et transparente. Regardez donc cette compilation de deepfakes de Tom Cruise, ou cette maquette évidente d’un deepfake de Trump en pleine lecture d’un conte de Noël.
L’un des meilleurs exemples de deepfake de célébrité est ce poème deepfake de l’impressionniste Jim Meskimen. Avec l’aide de l’intelligence artificielle, il passe de John Malkovich à Robert De Niro, d’Arnold Schwarzenegger à George Bush.
Bien que superficiellement convaincants, il est assez simple de différencier les deepfakes des vraies vidéos si l’on sait en reconnaître les signes. Malgré la capacité à produire des échanges de visages très réalistes générés par l’IA, l’animation convaincante est toute autre chose, et il y a presque toujours des signes subtils qui trahissent le faux.
Mais la détection des deepfakes risque de devenir plus difficile avec les évolutions et améliorations de la technologie. En gardant à l’esprit ces conseils pour détecter des deepfakes, vous pourrez éviter les arnaques (scam) telles que les attaques de phishing ou les infox.
Les plus gros indices trahissant un deepfake sont les défauts audio, les ombres et les tons de peau maladroits, ainsi que les zones molles ou floues pendant les mouvements. Concentrez-vous sur la bouche, le front et le cou, car ce sont des zones du corps qui peuvent souvent faire la différence.
Écoutez ce deepfake du président ukrainien, Volodymyr Zelensky, appelant soi-disant ses troupes à se rendre. Comparé à une intervention authentique de Zelensky, la voix altérée semble atténuée et marmonnée. Vous pouvez également repérer qu’il s’agit d’un deepfake car le son n’est pas synchronisé avec le mouvement physique de la bouche.
Les ombres et les tons de la peau sont incroyablement difficiles à rendre de manière authentique, ce qui en fait l’un des moyens les plus courants de repérer une vidéo deepfake. Dans ce clip Home Stalone, le visage de Kevin donne souvent l’impression de porter un masque Stalone en raison de la mauvaise intégration des tons de peau. Vous pouvez facilement tracer la ligne qui part du front de Kevin, descend le long de sa joue et traverse sa mâchoire.
Les zones molles ou floues, en particulier autour de la bouche, sont un autre signe évident que vous avez affaire à un deepfake. Ci-dessus, le deepfake de Tom Cruise semble assez convaincant, mais si vous regardez attentivement, vous pouvez voir des zones molles et floues autour du menton, qui deviennent plus visibles lors des transitions et des mouvements du visage.
En soi, les deepfakes sont légaux presque partout, mais la légalité de deepfakes spécifiques dépend du contexte et de l’intention, et varie d’un pays à l’autre.
Aux États-Unis, des lois spécifiques sont progressivement mises en place pour réglementer les deepfakes. La plupart des États américains ont des lois contre le « revenge porn », mais seuls quelques-uns – dont la Californie et le Texas – précisent que les deepfakes sont un média illégal. La Californie a également interdit l’utilisation de deepfakes de fonctionnaires et de candidats pendant les campagnes électorales.
Le Royaume-Uni ne dispose actuellement d’aucune loi spécifique sur les deepfakes. Cela signifie que les personnes ciblées par des deepfakes malveillants doivent utiliser les lois existantes, telles que celles contre la diffamation, pour porter des affaires devant les tribunaux.
La Chine a récemment promulgué une loi sur les deepfakes qui rend la plateforme elle-même responsable de la diffusion des deepfakes et interdit aux plateformes de recommander du contenu synthétique. La loi fait largement référence aux fausses informations, y compris les deepfakes, les fake news et autres médias jugés trompeurs.
Alors qu’il existe de solides protections en matière de cybersécurité contre les logiciels malveillants, les pirates et autres menaces traditionnelles, les deepfakes représentent un nouveau type de défi. Il n’est pas toujours facile de repérer une fausse photo ou vidéo en ligne, et la détection des deepfakes sera de plus en plus difficile.
Mais les entreprises de sécurité et de technologie travaillent déjà sur des moyens innovants de combattre les deepfakes malveillants. Des projets et des outils tels que DARPA et Deepfake Detection Challenge de Facebook sont utilisés pour doter la société d’une défense contre les fausses informations. Il est également important de connaître les différences entre confidentialité et sécurité afin de pouvoir se défendre dans les deux sphères.
Les deepfakes étant créés à partir d’un grand nombre de cibles et de sujets de photos et de vidéos, limiter la quantité que vous partagez en ligne – en particulier sur les médias sociaux – peut vous aider à éviter de devenir la cible d’un deepfake. Assurez-vous de savoir comment modifier vos paramètres de confidentialité sur Facebook et comment trouver et supprimer des informations personnelles sur Internet.
Les deepfake audio et vidéo pourraient facilement être utilisés pour des attaques de phishing. Restez donc attentif à cette nouvelle menace qui continue à se développer. Comme pour les autres formes de phishing, un examen minutieux des communications peut vous aider à repérer les messages frauduleux. Si vous n’êtes pas sûr de l’authenticité d’une vidéo, faites des recherches – cherchez sur Google ou voyez si vous pouvez trouver la source de la vidéo sur les médias sociaux ou ailleurs.
Lorsque des données sensibles tombent entre de mauvaises mains, on ne sait pas ce qu’un cybercriminel peut essayer d’en faire. Vos photos, vidéos et informations personnelles vous appartiennent – faites en sorte que cela reste le cas ! Protégez votre confidentialité en ligne avec un logiciel de confidentialité et sécurité complet comme Avast One.
Avast One vous couvre sur tous les fronts avec un antivirus primé, un pare-feu, un VPN et des outils anti-pistage pour naviguer de façon anonyme, ainsi qu’une surveillance des violations de données 24/7 pour être alerté en cas de fuite d’informations sensibles en ligne. Protégez tous les aspects de votre vie numérique dès aujourd’hui.