Nouvelles

Aug 31, 2023

Que sont les Deepfakes ? Comment repérer les faux sons et vidéos d'IA

Les ordinateurs parviennent de mieux en mieux à simuler la réalité. Les médias générés par l'intelligence artificielle (IA) ont fait la une des journaux, en particulier les vidéos conçues pour imiter quelqu'un,

Les ordinateurs parviennent de mieux en mieux à simuler la réalité. Les médias générés par l'intelligence artificielle (IA) ont fait la une des journaux, en particulier les vidéos conçues pour imiter quelqu'un, donnant l'impression qu'il dit ou fait quelque chose qu'il ne fait pas.

Un streamer Twitch a été capturé sur un site Web connu pour produire de la pornographie générée par l'IA de ses pairs. Un groupe d'étudiants new-yorkais a réalisé une vidéo de leur directeur prononçant des propos racistes et menaçant les étudiants. Au Venezuela, les vidéos générées sont utilisées pour diffuser de la propagande politique.

Dans les trois cas, la vidéo générée par l’IA a été réalisée dans le but de vous convaincre que quelqu’un a fait quelque chose qu’il n’a jamais fait. Il existe un mot pour désigner ce type de contenu : Deepfakes.

Les Deepfakes utilisent l’IA pour générer une vidéo ou un audio complètement nouveau, dans le but final de décrire quelque chose qui ne s’est pas réellement produit dans la réalité.

Le terme « deepfake » vient de la technologie sous-jacente – les algorithmes d’apprentissage profond – qui apprennent eux-mêmes à résoudre des problèmes avec de grands ensembles de données et peuvent être utilisés pour créer de faux contenus de personnes réelles.

"Un deepfake serait une séquence générée par un ordinateur qui a été formé à partir d'innombrables images existantes", a déclaré Cristina López, analyste principale chez Graphika, une société qui étudie le flux d'informations sur les réseaux numériques.

Les deepfakes ne sont pas n’importe quelles images fausses ou trompeuses. Le pape en doudoune généré par l’IA, ou les fausses scènes de l’arrestation de Donald Trump qui ont circulé peu de temps avant son inculpation, sont générées par l’IA, mais ce ne sont pas des deepfakes. (Des images comme celles-ci, lorsqu'elles sont combinées avec des informations trompeuses, sont communément appelées « shallowfakes ».) Ce qui différencie un deepfake est l'élément de contribution humaine.

Lorsqu’il s’agit de deepfakes, l’utilisateur ne peut décider qu’à la toute fin du processus de génération si ce qui a été créé correspond à ce qu’il veut ou non ; en dehors de l'adaptation des données d'entraînement et du fait de dire « oui » ou « non » à ce que l'ordinateur génère après coup, ils n'ont pas leur mot à dire sur la manière dont l'ordinateur choisit de le faire.

Note: Les technologies assistées par ordinateur comme Photoshop et CGI sont couramment utilisées pour créer des médias, mais la différence est que les humains sont impliqués dans chaque étape du processus, à l'exception des développements récents comme l'outil génératif Firefly d'Adobe. "Vous bénéficiez d'une grande aide de l'IA avec CGI, mais en fin de compte, il y a un humain avec un point de vue humain qui contrôle le résultat", a déclaré López.

Il existe plusieurs méthodes pour créer des deepfakes, mais la plus courante repose sur l'utilisation de réseaux de neurones profonds qui utilisent une technique d'échange de visage. Vous avez d’abord besoin d’une vidéo cible à utiliser comme base du deepfake, puis d’une collection de clips vidéo de la personne que vous souhaitez insérer dans la cible.

Les vidéos peuvent n’avoir aucun rapport ; la cible peut être un extrait d'un film hollywoodien, par exemple, et les vidéos de la personne que vous souhaitez insérer dans le film peuvent être des extraits aléatoires téléchargés depuis YouTube.

Le programme devine à quoi ressemble une personne sous plusieurs angles et conditions, puis mappe cette personne sur l'autre personne dans la vidéo cible en trouvant des caractéristiques communes.

Un autre type d'apprentissage automatique est ajouté au mélange, connu sous le nom de réseaux contradictoires génératifs (GAN), qui détecte et améliore toutes les failles du deepfake au cours de plusieurs cycles, ce qui rend plus difficile pour les détecteurs de deepfake de les décoder.

Bien que le processus soit complexe, le logiciel est plutôt accessible. Plusieurs applications facilitent la génération de deepfakes, même pour les débutants – comme l'application chinoise Zao, DeepFace Lab, FakeApp et Face Swap – et un grand nombre de logiciels deepfakes peuvent être trouvés sur GitHub, une communauté de développement open source.

La technologie Deepfake a toujours été utilisée à des fins illicites, notamment pour générer de la pornographie non consensuelle. Le FBI a publié un message d'intérêt public en juin 2023 avertissant le public des dangers de l'IA générative et de la manière dont elle est utilisée pour la « création de contenu explicite », la « sextorsion » et le « harcèlement ».