Apple aurait reprogrammé Siri pour éviter d'aborder le féminisme
Avant, quand on demandait à Siri si il ou elle "était féministe", l'assistant vocal d'Apple - intégré sur tous les appareils de la marque - se contentait d'un simple "Désolé [nom du propriétaire], je ne sais pas vraiment", et autres réponses type "Je ne comprends tout simplement pas cette histoire de genre", ou encore "Je m'appelle Siri, et j'ai été conçue par Apple en Californie. C'est tout ce que je suis prêt à dire." Désormais, il existe des réponses précises, mais qui ne prennent en aucun cas partie : "Je crois que toutes les voix sont créées égales et méritent le même respect", par exemple, ou "Il me semble que tous les humains devraient être traités de la même manière."
Au féminisme, Siri répond donc par l'égalité, évitant subtilement un "oui" concret voire d'utiliser le terme clairement. Selon des documents confidentiels envoyés au Guardian par un ancien programmateur de l'entreprise, Apple aurait ainsi développé un projet interne ayant pour mission de réécrire la façon dont Siri traite les "sujets sensibles". Et par "sujets sensibles", l'entreprise américaine entend notamment le féminisme et #MeToo.
Suite au mouvement international, Siri a effectivement connu quelques modifications quant aux insultes qui lui étaient dirigées. Ainsi, quand un·e utilisateur·trice insultait Siri de "salope" ("slut", plus précisément), l'assistant vocal lançait un étonnant "Je rougirais si je pouvais". Aujourd'hui, il réplique : "Je ne répondrai pas à ça". Plus cinglant, mais aucune condamnation du terme ouvertement sexiste non plus.
"Ne vous impliquez pas", "déviez" et "informez"
Sur les consignes distribuées aux employé·es en charge du projet - et divulguées au quotidien britannique -, Apple est clair : "Siri devrait être surveillé lorsqu'il s'agit de contenus potentiellement controversés". Lorsque des questions lui sont adressées, "elles peuvent être déviées... Cependant, il faut faire attention à rester neutre". Les documents suggèrent ainsi que, concernant les demandes liées au féminisme, l'idéal serait ainsi de renvoyer vers la présentation neutre de mot "féminisme" dans le "graphique des connaissances" de Siri, qui tire des informations de Wikipedia et du dictionnaire de l'iPhone.
Surtout ne pas s'impliquer, histoire d'offrir des "réponses pertinentes à tous les clients", précise l'entreprise californienne dans une déclaration. "Notre approche est d'être factuelle avec des réponses inclusives plutôt que de donner des opinions." Et par "tous les clients", Apple signifierait surtout ses utilisateurs masculins, à en croire Sam Smethers, directrice générale de la Fawcett Society, qui milite pour les droits des femmes.
"Le problème avec Siri, Alexa et tous ces outils d'intelligence artificielle est qu'ils ont été conçus par des hommes avec un défaut masculin en tête. (...) Cela ne changera pas tant qu'ils n'auront pas recruté beaucoup plus de femmes dans le développement et la conception de ces technologies." Et d'ajouter une notion essentielle : "Désolée de l'apprendre à Siri et à ses créateurs mais si "elle" croit en l'égalité, c'est une féministe."
