Le dernier blog

Ordinateur raciste

Dans une vidéo assez hilarante diffusée sur Youtube,  deux collègues (employés d’un magasin, apparemment) font la démonstration du (dys)fonctionnement d’une webcam « intelligente » de marque Hewlett-Packard. Conçue pour reconnaître les visages et pour les suivre¹, le système fonctionne bien avec l’employée « blanche » mais s’interrompt brutalement chaque fois que l’employé « noir » entre dans le champ de la caméra. Il conclut : « Hewlett-Packard computer are racist ! ».

… Et il a bien évidemment raison.
Car si les ordinateurs ne sont pas racistes — ce ne sont que des machines — leur programmation, leurs fonctionnalités et leurs réglages trahissent les intentions ou les « impensés » de leurs concepteurs. Le programme n’a pas été fait pour rechercher des personnes membres de l’espèce humaine mais pour n’en identifier qu’une certaine partie. J’imagine mal un projet conscient de la part de Hewlett-Packard même s’il me semble que cette marque communique nettement moins sur la « diversité » (et sur les humains en général du reste) que ses concurrents IBM, Microsoft ou Apple. Dans le cas présent, il semble surtout qu’aucun test de reconnaissance du visage par ce système n’ait été fait avec des noirs, ce qui laisse supposer qu’aucun employé de la marque en question impliqué dans la création de ce système n’est noir car le défaut aurait rapidement été identifié sinon.  Cela pose sans doute en premier lieu la question de la sociologie des informaticiens, dont le recrutement, à niveau d’études égal, donne un net avantages aux « blancs », du moins aux États-Unis où ce type de statistiques existe² — la République française ne reconnaît pas les « races », ce qui est tout à son honneur, mais c’est à double-tranchant puisque de ce fait, les statistiques qui permettraient de dénoncer une situation similaire ne sont pas disponibles.
La reconnaissance faciale est une des applications à la mode dans l’électronique grand public présente (appareils photos) ou à venir (consoles de jeu vidéo), je suppose que ce genre de situation devrait se poser à nouveau.

Au cours des Entretiens du Nouveau monde industriel, Adam Greenfield (de Nokia, auteur de Everyware : La révolution de l’ubimédia) a évoqué les panneaux publicitaires « intelligents » (capables de surveiller leurs spectateurs) installés à New York par une société française (le système Numériflash de la société Majority Report³ ou le système concurrent de la société Qividi ?) étaient d’ores et déjà conçus pour identifier non les individus mais les groupes sociaux, culturels ou ethniques (« femme asiatique d’une quarantaine d’années », etc.) à fins de collecte statistique ou de ciblage publicitaire. On peut par exemple imaginer que le système découvrira que les gens qui regardent des publicités à cinq heures du matin appartiennent en majorité à tel groupe ethnique, ce qui permettra par exemple de ne leur proposer que certaines publicités. On peut en concevoir l’utilité : les grandes marques de cosmétiques ont par exemple des gammes de produits différentes selon qu’elles s’adressent à leur clientèle d’origine asiatique, africaine ou européenne et on imagine sans difficulté l’intérêt qu’elles pourraient retirer d’un système interactif de ce genre.

Le système Quividi

Lorsqu’un tel projet sera réalisé à grande échelle, il y aura bien là une forme de ségrégation (sociale plus que précisément raciste) dans le traitement informatique des individus, puisqu’à l’intérieur d’un même espace urbain, nous seront enfermés dans des clichés socio-culturels. La ville réagira (en termes d’offre de services, d’informations et de droits d’accès) à notre présence selon ce que notre apparence physique, nos vêtements et nos trajets lui enseigneront. La ville se configurera différemment pour nous selon qu’elle nous aura identifié au petit matin comme une femme de ménage en route pour préparer les bureaux d’une entreprise, un fêtard qui rentre se coucher, un travailleur sans papiers qui attend qu’on l’emmène sur un chantier ou un agent de sécurité qui commence sa journée.

Il serait naïf d’imaginer que les personnes appartenant aux groupes que je mentionne vivent véritablement dans la même ville en même temps⁴ : leurs trajets, leurs lieux, leur rythme et tout leur usage de la ville sont sans doute déjà bien différents. Mais ce système, par son caractère discret, renforcera encore un peu plus les murs invisibles qui séparent les membres de groupes sociaux distincts — tout en donnant à chacun l’illusion confortable d’être pris en compte pour ce qu’il est — ou ce que l’on a réussi à lui faire croire qu’il est.

(mise à jour du 22/12) La société Hewlett-Packard a fait savoir qu’elle prenait l’affaire de la « webcam raciste » très au sérieux, tout en se défaussant un peu, expliquant que l’algorithme de reconnaissance des visages fonctionnait mal dans de mauvaises conditions d’éclairage et de contraste.

1. On utilise le mot « tracking » pour parler de l’identification et de la poursuite d’un objet par un système informatique. Ce mot a la même origine étymologique que les mots français « trace » ou « traque ». [↩]
2. Voir notamment les publications de la Coalition to diversify computing de la Computer Research Association. [↩]
3. Nom choisi en hommage au film Minority Report évidemment, où les publicités personnalisent leurs messages en fonction de l’identification qu’il font des passants. [↩]
4. Le problème est le même sur Internet du reste : malgré les apparences, le réseau n’est pas le même selon les personnes et les frontières géographiques et politiques y ont un poids bien plus important que nous ne le supposons d’instinct. [↩]