Le cauchemar des "deepfakes" pornographiques

Arte
|

Décryptage & investigation

2023

59 min 13 s

Anglais

Plus que 2jTous publics

Disponible jusqu'au 11/05/2025

Pour Taylor Klein, c’est le coup de massue. Cette étudiante de 23 ans s’aperçoit un jour que circulent sur les réseaux sociaux des vidéos pornographiques où elle apparaît. Elle n’a pourtant jamais joué dans ce genre de séquences. Grâce à l’intelligence artificielle, son visage a été copié puis plaqué sur des corps en action, le résultat s’avérant d’un réalisme troublant. Pour la jeune femme, le calvaire s’intensifie quand elle comprend que son nom et son adresse accompagnent les mises en ligne. En état de choc, Taylor se replie sur elle-même. Mais qui est l’auteur de ces deepfakes et quelles motivations l’animent ? Alors que la police se révèle impuissante, la jeune femme se rapproche de son ancienne colocataire de résidence universitaire, elle aussi victime de ces terribles détournements. En cherchant des indices sur la Toile et en recoupant les infos sur leur entourage, elles établissent une liste de trois amis qui étudient à la fac... La maturité de l’IA Bienvenue dans l’enfer numérique du revenge porn... Parmi les nombreuses questions que soulève l’avènement de l’intelligence artificielle, son potentiel de nuisance, quand elle est utilisée par des manipulateurs sans scrupules, figure parmi les plus brûlantes. En croissance exponentielle, les deepfakes pornographiques ciblent avant tout les femmes (99 % des victimes), leur occasionnant d’immenses dommages psychiques, émotionnels et sociaux. Outre l’enquête de Taylor et ses amies, ce documentaire montre de manière impressionnante à quel point truquer des vidéos s’avère aujourd’hui facile : l'IA a atteint déjà un tel niveau de perfectionnement qu'une seule photo en haute résolution suffit à produire une séquence de soixante secondes bluffante de réalisme. Le film soulève aussi le problème des lois et des jurisprudences, actuellement impuissantes, ne laissant d’autre choix aux victimes, face à de tels abus, que de se retirer du monde numérique.En savoir plus
Diffusé le 23/11/2024 à 01h15 - Disponible jusqu'au 11/05/2025
Pour Taylor Klein, c’est le coup de massue. Cette étudiante de 23 ans s’aperçoit un jour que circulent sur les réseaux sociaux des vidéos pornographiques où elle apparaît. Elle n’a pourtant jamais joué dans ce genre de séquences. Grâce à l’intelligence artificielle, son visage a été copié puis plaqué sur des corps en action, le résultat s’avérant d’un réalisme troublant. Pour la jeune femme, le calvaire s’intensifie quand elle comprend que son nom et son adresse accompagnent les mises en ligne. En état de choc, Taylor se replie sur elle-même. Mais qui est l’auteur de ces deepfakes et quelles motivations l’animent ? Alors que la police se révèle impuissante, la jeune femme se rapproche de son ancienne colocataire de résidence universitaire, elle aussi victime de ces terribles détournements. En cherchant des indices sur la Toile et en recoupant les infos sur leur entourage, elles établissent une liste de trois amis qui étudient à la fac... La maturité de l’IA Bienvenue dans l’enfer numérique du revenge porn... Parmi les nombreuses questions que soulève l’avènement de l’intelligence artificielle, son potentiel de nuisance, quand elle est utilisée par des manipulateurs sans scrupules, figure parmi les plus brûlantes. En croissance exponentielle, les deepfakes pornographiques ciblent avant tout les femmes (99 % des victimes), leur occasionnant d’immenses dommages psychiques, émotionnels et sociaux. Outre l’enquête de Taylor et ses amies, ce documentaire montre de manière impressionnante à quel point truquer des vidéos s’avère aujourd’hui facile : l'IA a atteint déjà un tel niveau de perfectionnement qu'une seule photo en haute résolution suffit à produire une séquence de soixante secondes bluffante de réalisme. Le film soulève aussi le problème des lois et des jurisprudences, actuellement impuissantes, ne laissant d’autre choix aux victimes, face à de tels abus, que de se retirer du monde numérique.
Maison de production :
WILLA / Impact Partners
Réalisé par :
Sophie Compton, Reuben Hamlyn, Sophie Compton, Reuben Hamlyn