Alors qu'elle souhaitait une photo pour son image de profil LinkedIn, cette étudiante âgée de 24 ans, selon les informations rapportées par le Boston Globe, a demandé au générateur de portraits par intelligence artificielle Playground AI de "transformer sa photo en photo professionnelle LinkedIn", comme on peut le voir dans son post.
Résultat : cette jeune étudiante au MIT, récemment diplômée d'une licence en mathématiques et informatique, a vu son visage complètement transformé et s'est retrouvée avec des traits complètement caucasiens. En effet, elle a eu la surprise de se retrouver la peau blanche et les yeux... bleus ! Ce qui l'a poussée à constater des failles dans les outils d'IA et à s'interroger sur les algorithmes de ces outils : seraient-ils racistes ? Ce n'est pas ce que Rona Wang avance mais elle pointe du doigt des limites à absolument dépasser ! "Ma première réaction en voyant le résultat a été l'amusement", a-t-elle confié dans les colonnes du Business Insider, précisant : "Je pense vraiment que c'est un problème. J'espère que les créateurs de logiciels sont conscients de ces biais et réfléchissent à des moyens de les atténuer." Selon elle, "les préjugés raciaux sont un problème récurrent dans les outils d'IA".
Dans un post publié sur l'ancien Twitter, rebaptisé X, le fondateur de Playground AI, Suhail, avance des failles des outils qui devraient être rectifiées prochainement.
"Les modèles ne sont pas instructables de la sorte et ils choisiront n'importe quelle chose générique en fonction de l'invite. Malheureusement, ils ne sont pas assez intelligents. Je suis heureux de vous aider à obtenir un résultat, mais cela demande un peu plus d'efforts que quelque chose comme ChatGPT", a-t-il écrit.
