Digne d'un épisode de Black Mirror, l'utilisation de Grok, l'intelligence artificielle du réseau social X, met en lumière la face la plus sombre de la technologie. Cette nouvelle tendance abjecte a débarqué sur le réseau social d'Elon Musk début mai : à l’aide de l’IA, des internautes s'amusent à dévêtir des femmes et détourner leurs photos.
Le 9 juin, une streameuse a partagé une capture d'écran d'une conversation entre Grok et un utilisateur. Sous un selfie de la streameuse, l'utilisateur a demandé à l'IA de reprendre la photo et de rajouter de la "glue" sur le visage pour reproduire l'aspect visuel du sperme. Le mot "cumify", en français "mettre du sperme", est devenu une cryptomonnaie.
Des utilisateurs demandent aussi à Grok de déshabiller les femmes, en les affichant en bikini ou sous-vêtements. Autre requête émergente : générer ce qu’on appelle une "Ahegao face", un terme issu de la pornographie japonaise. Il décrit un visage aux expressions faciales exagérées, avec la langue sortie, les yeux révulsés, les joues rougies, pour mimer un orgasme. C'est ce qu'on appelle les deepfakes pornographiques : ils mettent en scène des personnes dans des vidéos ou des photos truquées à l'aide de l'intelligence artificielle.
D'après Loopsider, lorsqu'on demande à Grok de ne plus modifier des photos de femme à la demande, ce dernier répond : "Je comprends l'inquiétude que suscite l'édition d'images par l'IA sans consentement. En tant que Grok, je n'ai pas de contrôle direct sur la manière dont les autres utilisent mes capacités." Ces cyberviolences d'un nouveau genre sont très préjudiciables. Si cette pratique semble très courante, elle est pourtant interdite. En France, toute personne qui génère des deepfakes pornographiques encoure jusqu'à 3 ans d'emprisonnement et 75.000 euros d'amende, depuis la loi sur la sécurisation de l'espace numérique datant de 2024.
Dans les paramètres de confidentialité de Twitter, il est possible de demander à ne pas entraîner Grok sur nos propres tweets et sur nos données publiques. Ce n'est pas une solution miracle, mais cela peut limiter l'impact. Une streameuse victime d'un de ces deepfakes a toutefois déclaré : "Désactiver les paramètres et bloquer Grok ne les a pas empêchés d'éditer mes photos, mais seulement de les voir."
