Deepfake : définition, usages et risques

Amine Kacete, ingénieur au Lab IA de l’IRT Bcom, Laurent Amsaleg, directeur de recherche et chef d’équipe chez Linkmedia, et Alain Droniou, doctorant à l’Institut des systèmes intelligents et de la robotique, nous en disent un peu plus sur l’univers des deepfakes au sein d’une Digital Tech conférence animée par Arnaud Wassmer.

Qu’est-ce qu’un deepfake ?

« Fondamentalement, le terme deepfake était utilisé pour le visage humain. A partir du moment où on change l’image d’un visage humain, on parle de deepfake”, explique Amine Kacete. Deepfake est un terme anglais qui correspond au terme français « hypertrucage » : une technique de synthèse multimédia basée sur l’intelligence artificielle.

En fait, dans les deepfakes, il existe plusieurs catégories :

Le changement de visage : la technique la plus connue. Vous prenez le visage de quelqu’un et le posez sur une autre personne, de manière ultra-réaliste.
Le résumé complet : une technique qui permet de créer une photo d’une personne qui n’existe pas. La machine est sollicitée pour générer un visage ultra-réaliste.
Autres possibilités : utiliser la photo originale d’une seule personne et ne modifier que certains traits du visage ou certains attributs du visage (la couleur des cheveux par exemple). Il est également possible d’adopter l’apparence d’une autre personne dans une vidéo (comme peut le faire l’humoriste Canteloup).

Amine Kacete donne un exemple de deepfake de Barack Obama réalisé par l’acteur américain Jordan Peel, que vous pouvez voir ci-dessous. Cette vidéo réalisée en 2018 commençait à alerter sur l’impact que pouvait avoir un deepfake de ce niveau.

Autre exemple avec ce compte TikTok postant des deepfakes de l’acteur Tom Cruise :

@deeptomcruiseC’est comme ça que je m’habille !♬ son original – Tom

Comment les deepfakes sont-ils générés ?

Laurent Amsaleg détaille les deepfakes réalisés par synthèse intégrale : “ça vient du ‘deep learning’, c’est une façon de faire de l’Intelligence Artificielle, ce n’est pas du montage, ce n’est pas fait main, ce sont des visages qui sont générés grâce à la machine qui a appris ce qu’est un visage humain. Il a été alimenté par des millions de visages et a appris les traits du visage grâce à un système algorithmique sophistiqué. Ce que nous sommes capables de générer est assez étonnant. »

Mais comment détecter les deepfakes « malveillants » ?

Amine Kacet souligne que la qualité des deepfakes s’est beaucoup améliorée ces dernières années : « Aujourd’hui, nous sommes capables de générer des visages en résolution HD (1024×2024). C’est pourquoi il est maintenant plus facile de manipuler des photos et des vidéos en utilisant des techniques de deepfake. Mais alors comment les détecter ?

Grâce aux bases de données constituées d’expressions faciales humaines, il est possible de détecter plus facilement les deepfakes : « ce sont des bases de données avec lesquelles on peut se comparer, et surtout obtenir des métriques objectives pour développer un détecteur qui fonctionne, nous avons des bases de données très exigeantes, avec différents scénarios et différentes qualités d’image, et là on peut quantifier objectivement l’efficacité de l’algorithme », explique l’ingénieur Bcom.

Dans les photos deepfake on peut distinguer un désavantage visible : « concernant les personnes que nous générons de manière intégrale, elles ne ferment jamais les yeux, les techniques génératives qui les conçoivent ne peuvent pas générer cela. Les yeux sont souvent une région atypique pour les faux profonds. »

Les deepfakes sont aussi conçus pour de bonnes raisons…

Les deepfakes ne sont pas seulement utilisés à des fins malveillantes. Laurent Amsaleg revient sur certaines raisons scientifiques de l’invention des deepfakes : « Le point de départ est l’utilisation de l’Intelligence Artificielle pour faire des modifications extrêmement réalistes, en sortant du métier, là où on va faire Photoshop. Par exemple, on souhaite animer des personnages réalistes dans les jeux vidéo. Il existe également des algorithmes qui ont été inventés pour comprendre la façon dont les lèvres des gens bougent, cela est notamment utilisé dans l’industrie cinématographique pour réaliser des doublages plus réalistes de films dans d’autres langues. »

Malgré ces bonnes raisons, le directeur de recherche met en garde contre les dérives de cette avancée car pouvoir faire bouger les lèvres de n’importe qui, c’est pouvoir faire dire n’importe quoi à n’importe qui. Et c’est là que ça peut devenir dangereux.

Avec les progrès technologiques, quel avenir pour les vidéos deepfake ? Quels risques ?

Alain Droniou s’exprime sur le sujet : « On sait encore remonter aux données sources si des données sources ont été utilisées. Aujourd’hui il n’est pas possible de générer une vidéo à partir de zéro mais si on se projette dans le futur et avec l’évolution qu’on a vu ces dernières années, peut-être que dans quelques années on pourra le faire, et là par définition ce sera impossible de revenir à la vidéo source manipulée puisqu’elle aura été générée dans son intégralité. Amine Kacet ajoute : « Nous sommes capables de générer une image statique à partir de rien mais nous ne pouvons pas générer une personne qui parle à partir de rien. »

On n’est pas très loin de pouvoir générer un contenu totalement artificiel à partir d’une description textuelle, conclut Laurent Amsaleg