Meta : le conseil de surveillance demande une adaptation de ses règles liées aux « Deepfakes »

Le comité de personnalités et experts indépendants, considéré comme une sorte de "cour suprême" pour la modération des contenus sur Facebook et Instagram, a fait part de cette recommandation après avoir examiné deux cas de deepfakes de femmes célèbres en Inde et aux États-Unis. Dans un cas, l'image manipulée publiée sur Instagram a été laissée en ligne malgré une plainte et dans l'autre, elle n'a pas été autorisée sur la plateforme. Les deux décisions ont fait l'objet d'un recours devant le conseil. L'instance a décidé que les deux deepfakes violaient une règle existante de Meta contre une pratique appelée "Photoshop sexualisant et désobligeant", et que le groupe californien devait rendre cette règle plus facile à comprendre. Cette catégorie définie par Meta comprend des images manipulées et sexualisées d'une façon qui risque de susciter la désapprobation des  personnes photographiées.

Le logiciel de retouche d'images Photoshop a été mis sur le marché pour la première fois en 1990 et a été si largement utilisé qu'il est devenu une référence courante pour l'édition de photos. Toutefois, la référence à "Photoshop" dans une règle sur les "deepfakes" pornographiques est "trop limitée", à l'heure où des technologies telles que l'IA générative permettent de créer facilement des images ou des vidéos sur simple requête en langage courant, souligne le conseil de surveillance. Il propose à Meta de préciser que les contenus sexuels non consensuels, créés ou manipulés par l'IA, sont interdits. A la création du conseil en 2020, le groupe californien avait accepté de se conformer aux décisions de la nouvelle instance sur des contenus spécifiques, mais il peut adopter à sa guise les recommandations sur ses règlements.