Initialement conçue pour aider à la vérification de l’information, l'IA Grok est désormais utilisée pour la création de deepfakes sexuels. Mais c’est quoi au juste ? Les deepfakes sexuels, ou pornographiques, ce sont des images truquées à caractère sexuel. Récemment, Lena Situations en a été victime et a dénoncé ces pratiques sur ses réseaux sociaux. Ces deepfakes, en ce moment partagés massivement sur X, ciblent principalement des femmes, en particulier celles issues de minorités ou engagées dans des causes sociales. La création est (malheureusement) très simple : demander texto à l'AI de supprimer un pantalon, une robe, une jupe et remplacer le tout par de la lingerie fine.
Dernier exemple en date : le 5 mai, une image générée par l’IA Grok, montrant une jeune femme en sous-vêtements, a été partagée des milliers de fois. Un deepfake sexuel créé à partir d’une photo qu’elle avait elle-même publiée : la base de la photo reste la même, seule sa tenue change avec ses vêtements remplacés par de la lingerie. Malgré les signalements, cette fausse image a mis près de 24h à être supprimée par les modérateurs de X. Une utilisation abusive de la technologie qui met en lumière les limites de l'IA et qui provoque surtout de lourdes conséquences pour les victimes.
A lire aussi : « Tu peux te dire que c’est moi nue » : cette influenceuse victime de deepfake met en garde contre les dangers de partager ses photos
Des deepfakes sexuels créés pour rabaisser, pour se moquer, pour humilier les femmes, comme l’explique le documentaire ARTE, Le cauchemar des deepfakes pornographiques. Ce documentaire illustre le traumatisme vécu par une étudiante américaine dont l'image a été utilisée sans consentement dans de fausses vidéos pornographiques. Plus encore, il dénonce une atteinte à la vie privée, à la réputation et met en évidence l'absence de législation adaptée pour protéger les victimes et sanctionner les auteurs.
A lire aussi : "C'est pas drôle" : Emmanuel Macron s'amuse de l'IA et des deepfake et se fait recadrer par une journaliste indienne
En France, la création et la diffusion de deepfakes pornographiques sont passibles de trois ans d'emprisonnement et de 75 000 euros d'amende, depuis la loi du 21 mai 2024. Cependant, l'application de ces sanctions reste complexe. En cause, la difficulté à identifier les auteurs et à retirer rapidement les contenus mis en ligne. Les plateformes comme X sont également critiquées pour leur manque de réactivité face à ces abus.
