Deepfakes et manipulation de fausses images: le droit des hypertrucages

Une vidéo hypertruquée représentant Tom Cruise jouant au golf affole en ce moment internet: criante de réalisme, elle est pourtant totalement fabriquée.

Cette deepfake bon enfant relance ainsi les craintes sur cette technologie ayant le potentiel de faire dire n’importe quoi à n’importe qui, et rendant la désinformation indétectable.

Contraction de "Deep Learning et de "fake", la technologie des deepfakes (hypertrucages) pourrait en effet empoisonner campagne électorale ou réseaux sociaux en faisant passer pour réelle une infox ou une situation embarrassante pour une personnalité.

De telles vidéos hypertruquées qui détournent l’image de personnalités ou de monsieur tout-le-monde, ont déjà été publiées, notamment aux Etats-Unis en piratant l'image de Barack Obama pour un faux discours hilarant plus vrai que nature. En 2018, un site américain d'information reconnu avait ainsi publié sur une plateforme internet une fausse vidéo de Barack Obama insultant Donald Trump, la voix du premier étant celle d'un imitateur et la synchronisation avec les mouvements de ses lèvres permise par un système d'IA.

Fabriquées grâce à une technique d’intelligence artificielle qui consiste à superposer des images et des vidéos existantes sur d’autres images et/ou vidéos ou créées artificiellement, on peut ainsi faire dire ce qu’on veut à n’importe qui.

Il est en effet de plus en plus facile avec un outil numérique approprié d'incruster les traits d’une personne dont on dispose de photographies dans une autre photo ou une vidéo existante.

C'est ainsi par exemple que vient d'être lancé un  programme pour pimenter votre visioconférence sur Zoom en offrant des filtres "deepfakes" avec vos personnalités favorites comme Elon Musk, Ronaldo ou Eminem https://telanganatoday.com/now-you-can-deepfake-elon-musk-in-zoom

Des logiciels d'intelligence artificielle ("generative adversarial networks", dits GAN) sont en effet capables de générer de fausses images, plus vraies que nature, montées de toutes pièces.

Vidéos et bandes-son mettant en scène des hommes politiques tenant des propos outranciers, films pornographiques impliquant des actrices mondialement connues, si les « deepfakes » concernaient jusqu'alors des personnalités publiques, des experts américains et européens s'inquiètent de leur banalisation et des répercussions qu'ils peuvent avoir dans le champ socio-politique et le débat public.

Comme le rapporte Reuters, la Law Commission, britannique un organisme juridique indépendant soutenu par le gouvernement a déclaré le 26 février 2021 que le Deepfake Porn devait désormais être considéré en Angleterre comme un crime, au même titre que le Revenge Porn et toutes les pratiques associées.

Il est donc appelé à un changement de la loi anglaise votée en 2015, criminalisant la publication de photos et de vidéos intimes sans consentement et dans l’intention de causer la détresse.

En France, la réflexion est en marche concernant l'éventuelle criminalisation des algorithmes permettant d'imiter en direct un visage, un corps, des expressions et la voix d'une personne contribuent à l'affirmation et à la puissance des faux contenus et des « infox » sur les réseaux sociaux.

Les « deepfakes » pourraient conduire, selon le rapport « Les manipulations de l'information : un défi pour nos démocraties » du Centre d'analyse, de prévision et de stratégie du ministère de l'Europe et des affaires étrangères (CAPS) et de l'Institut de recherche stratégique de l'école militaire du ministère des armées, à rendre la désinformation indétectable. Cela poserait un réel problème de confiance des citoyens vis-à-vis de l'information et fragiliserait aussi les acteurs « tiers de confiance » que sont les grands médias.

Si la réponse technique est indispensable pour combattre et relever les « deepfakes », est-il nécessaire également de développer une réponse politique et sociétale pour que le fossé entre l'information contenue sur les réseaux sociaux et celle travaillée par les organes de presse ne se creuse encore. La députée du Loiret Mme Caroline Janvier avait donc interrogé le Gouvernement pour connaitre les pistes de réflexion pour lutter efficacement contre les « deepfakes »  (question n°16587).

Ces « hypertrucages » étant une des modalités des « infox », la loi du 22 décembre 2018 relative à la lutte contre la manipulation de l'information constitue une des premières armes pour lutter contre ce phénomène (voir la réponse du secrétariat d’État au numérique (RM publiée au Journal officiel le 15 octobre 2019)

Cependant la loi de 2018 ne résout (et encore qu'en période électorale) que la partie émergée de cet iceberg numérique, puisque la quasi-totalité (96 %) des vidéos analysées est de nature sexuelle ou pornographique.

Pour ce type de montages l'article 226-8 du code pénal prévoit que:

"Est puni d'un an d'emprisonnement et de 15 000 euros d'amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l'image d'une personne sans son consentement, s'il n'apparaît pas à l'évidence qu'il s'agit d'un montage ou s'il n'en est pas expressément fait mention.

Lorsque le délit prévu par l'alinéa précédent est commis par la voie de la presse écrite ou audiovisuelle, les dispositions particulières des lois qui régissent ces matières sont applicables en ce qui concerne la détermination des personnes responsables"

Par ailleurs, ce type de montage s'inscrit également dans le délité d'usurpation d'identité prévu et réprimé par l'article 226-4-1 du code pénal qui prévoit:

"Le fait d'usurper l'identité d'un tiers ou de faire usage d'une ou plusieurs données de toute nature permettant de l'identifier en vue de troubler sa tranquillité ou celle d'autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d'un an d'emprisonnement et de 15 000 € d'amende.

Cette infraction est punie des mêmes peines lorsqu'elle est commise sur un réseau de communication au public en ligne."

Facebook a annoncé intensifier ses capacités de détection des deepfakes, et qu’il les interdirait désormais sur sa plateforme.

Dans une note de blog, la vice-présidente de la stratégie de Facebook Monika Bickert a annoncé que ces vidéos ne pourront plus apparaître sur la plateforme. Toute vidéo qui met dans la bouche d’une personne des mots qu’elle n’a jamais prononcés ou bien qui rajoute des éléments à une scène de façon trompeuse sera ainsi supprimée de la plateforme. Deux exceptions à cette règle: les vidéos à caractère humoristique et celles «qui ont été modifiées pour omettre des mots ou bien changer leur ordre».

Puisqu'il devient à la portée du premier venu ou presque de réaliser une deepfake de grande qualité avec des réseaux neuronaux facilement dénichables sur internet, il risque d'être bien difficile de distinguer le faux du vrai.

Si  vous êtes victime d'une deepfake, pas de panique: vont en effet trouver à s'appliquer les règles habituelles en matière de droit à l'image et de respect à votre vie privée, mais aussi en cas d'atteinte à votre honneur ou la diffusion de fausses informations, celles prévues par la loi sur la presse du 29 juillet 1881

Ne vous faites pas avoir, vérifiez les informations et si vous en êtes victime portez plainte et adresser vous à un avocat.

Me Thierry Vallat a été interrogé sur les Deepfakes pour le numéro de mars 2020 de GQ Magazine

(crédits dessin: Cabinet Thierry Vallat)