Le Deepfake ou le mal du siècle
DE QUOI S’AGIT-IL ?
Source: Pixabay.com - pixel2013
Les technologies nouvelles - en l’occurrence l’intelligence artificielle et la reconnaissance faciale - font face à un dilemme : si leur utilisation principale présente un réel intérêt, elles sont également souvent détournées pour créer des « fake news » ou des canulars qui présentent un danger réel.
Deepfake désigne l’association des techniques de l’intelligence artificielle et de l’apprentissage approfondi, dans le but de produire des faits et des gestes qui ne se sont jamais produits dans la réalité. Le Deepfake utilise des algorithmes d’apprentissage profond, alimentés par des vidéos et des images d’une personne pour analyser et reproduire sa gestuelle dans les moindres détails, et en rendre la reproduction crédible et suffisamment réaliste.
Cette pratique est bien connue dans le domaine du cinéma, l’exemple le plus marquant étant la dernière scène du film Fast&Furious 7, produite grâce à cette technologie, ou encore plusieurs scènes de la saga STAR WARS. Cependant la technologie employée à cette époque était plus complexe, et nécessitait un long travail d’équipe pour produire une scène.
L’apparition du « Deepfake » tel qu’on le connaît actuellement remonte à décembre 2017 : un utilisateur nommé « DeepFakes » a publié sur le site Reddit des vidéos pornographiques très réalistes d’actrices connues, en utilisant l’intelligence artificielle pour falsifier les vidéos en utilisant les visages des actrices.
Cette manipulation se base sur 3 techniques :
- Le Face Swap : cela consiste à échanger les visages d’une personne à l’autre.
- Le Lip sync : la synchronisation du mouvement des lèvres d’une personne avec l’enregistrement des paroles qu’il est supposé interpréter.
- Le Facial reenactment : la reproduction des expressions du visage. Aujourd’hui, les applications permettant l’échange de visages sont plus accessibles et plus démocratisées, la plus connue étant SNAPCHAT et son « Face Swap », qui reste relativement basique, en exploitant uniquement les faibles ressources de votre téléphone pour effectuer la transformation. Il existe aussi des applications plus sophistiquées comme FakeApp qui nécessitent plus de ressources, une bonne carte graphique et une bonne carte RAM, et qui permettent à n’importe qui de produire des vidéos très réalistes de chez soi sans aucune expérience préalable.
LES PROMESSES DE LA TECHNOLOGIE
On peut imaginer que cette technologie puisse être bénéfique dans le domaine médical, par exemple lors d’une consultation avec un psychiatre : un patient qui n’oserait pas se confier, par peur d’être jugé sur son physique, serait plus à l’aise grâce à l’utilisation de cette technologie lors d’une vidéoconférence avec un médecin, qui ne pourra ainsi plus le juger sur son visage. De la même manière, cela pourrait garantir l’absence de discriminations raciales lors des entretiens d’embauches par vidéo à distance. Cette technologie pourrait également être utilisée dans l’univers du casino, de la Roulette et du poker lors des parties en ligne, pendant lesquelles une personne pourra afficher un visage impassible (la fameuse « Poker Face») pour gagner plus facilement des parties. Enfin, cette technologie pourra également s’épanouir dans le domaine cinématographique, en offrant encore plus de possibilités pour un minimum d’efforts.
LES DANGERS DU DEEPFAKE
Le Deepfake est une arme à double tranchant : il est redouté par les États, car si cette technologie est déployée avec des moyens suffisants, cela pourrait provoquer des désordres et des atteintes à l’ordre public. Les analystes redoutent notamment un scénario similaire aux précédentes élections présidentielles américaines où la Russie a tenté d’influencer les opinions à l’aide des technologies.
Une vidéo a mis en lumière le phénomène du « Deepfake », et a sensibilisé les esprits aux dangers qu’il représente : il s’agit d’une vidéo montrant Barack Obama en train de prononcer un discours truffé d’insultes à l’égard de Donald Trump. Cette vidéo a prouvé que cette technique pouvait être dangereuse lors d’élections en manipulant l’opinion publique, à l’aide de propagation de fausses nouvelles, et pourrait même provoquer des guerres entre deux États.
La technologie du Deepfake a contribué à détruire des vies avec le Revenge Porn, qui a poussé certaines de ses victimes jusqu’au suicide, ou par l’intermédiaire de la création de vidéos de chantage qui ont d’ailleurs entraîné plusieurs sites à fermer et à bannir les vidéos de Revenge Porn. Parmi les personnalités les plus touchées par le Deepfake, on trouve des célébrités comme Scarlett Johansson, Emma Watson, Katy Perry, ou Taylor Swift …. Les acteurs principaux du secteur informatique ont pleinement conscience des dangers que cette technique comporte, et travaillent sur des solutions pour détecter et éradiquer les vidéos de Deepfake de leurs plateformes de manière définitive.
CE QUE DIT LA LOI
Actuellement, il n y’a pas de loi ni de cadre légal qui protège les victimes du DeepFake, cependant pour Jonathan Masur, professeur de droit à l’université de Chicago, si vous prenez une image de vous et que vous signalez le contenu dans lequel vous êtes présent comme une falsification produite à l’aide de la technologie Deepfake, il y a des chances que la vidéo soit supprimée.
COMMENT DÉTECTER LES DEEPFAKE ?
Si cette technologie n’en est qu’à ses débuts, ce qui explique certains bugs et la facilité de repérer si une vidéo est fausse ou pas, le développement fulgurant de la technologie et du « deep learning » (l’apprentissage profond) nous laisse supposer que cette technologie va se perfectionner rapidement, rendant la détection plus difficile et le rendu plus réaliste que jamais.
Pour ne pas se faire piéger par un Deepfake, il faut s’assurer en recoupant plusieurs sources de la crédibilité de la vidéo, regarder avec attention le mouvement des paupières et des yeux, et lire la vidéo au ralenti pour détecter les trucages. Cependant le meilleur moyen reste d’exercer son esprit critique, et d’être sensibilisé aux dangers des réseaux sociaux.
