Frankenporn

« La chanteuse américaine Taylor Swift est la plus récente, et la plus célèbre, victime d’un deepfake, à savoir la production algorithmiquement pilotée d’une vidéo et/ou d’un enregistrement audio associant un visage au corps, en l’occurence dénudé, d’un(e) autre. Son cas est exceptionnel puisque Swift coche toutes les cases de la haine version Make America Great Again, femme, talentueuse, miracle économique à elle seule, partisane du contrôle des armes à feu, réputée démocrate et potentiellement très influente auprès des jeunes électeurs (68 millions) de la génération Z. Au-delà de son cas d’espèce, toutefois, ce type de viol d’identité est appelé à devenir banal.

➤ Recevez la newsletter quotidienne et gratuite de Philosophie magazine dans votre boîte mail. Et pour profiter de tous nos articles, choisissez l’offre d’abonnement payante qui vous convient le mieux.

Karen Hao le relève dans la revue du Massachusetts Institute of Technology - 90 à 95% des deepfakes relèvent du porno non consensuel. Vol d’image(s), détournement de visage et de corps, en principe, n’importe qui peut en être victime et n’importe qui peut en être l’auteur. Vous, moi, enfants, parents, voisins, tout est bon du moment qu’il existe suffisamment de photos ou de vidéos d’un individu – souvenirs de vacances, mariages, fêtes… – pour alimenter l’un ou l’autre des algorithmes susceptibles de coller le visage de l’un(e) sur le corps d’un(e) autre et faire apparaître une scène de fantasme jusque là réservée au cinéma intérieur de son initiateur. À ceci près que les principales victimes semblent être à 95% des femmes, incluant des mineures. Deux philosophes du Centre d’éthique de l’université de Toronto, au Canada, Regina Rini et Leah Cohen, ont emprunté au vocabulaire du fétichisme porno en baptisant “Frankenporn” ce type de saloperies : pas mal vu pour désigner le nouveau monstre de l’intelligence artificielle offrant à qui le souhaite (et possède la dextérité nécessaire) le pouvoir de fusionner numériquement des morceaux de corps pour créer une situation que Rini et Cohen définissent comme une domination virtuelle. Je vous passe les effets destructeurs – sur la confiance, en soi, envers les autres, envers une société pas très bien armée pour judiciariser ce genre de pratiques – pour en venir aux deepfakes en général.

Tous ne sont pas forcément d’ordre sexuel, et d’ici les élections de novembre aux États-Unis, on aura l’occasion de voir et entendre telle ou telle personnalité prononcer des paroles qu’elle n’a pas tenues ou faire un geste qu’elle n’a pas esquissé. Dans un genre moins politique mais pas si lointain, l’acteur Tom Hanks avertissait en octobre dernier que le type portant son visage et vantant les mérites d’une assurance dentaire sur les réseaux n’était pas… Tom Hanks. Fin 2021, trois cognitivistes français ont publié une passionnante étude qu’ils résument ici : elle montre l’étonnant degré d’“acceptabilité morale” auprès d’un échantillon (300 jeunes étudiants, urbains) de certains types de deepfakes qui permettent, ici d’améliorer un sourire, là d’adoucir une voix.

Le rapport avec le porno tient à ce phénomène plus général d’érosion que Jean Baudrillard désignait comme une “disparition du réel” ou encore un “meurtre de la réalité”. Pas bien sûr de comprendre ce qu’il entend par réel ; en revanche, son idée de crime me parle. Il y a un cadavre numérique au milieu du salon. On ne peut pas faire comme s’il n’existait pas. »