Ce fait est documenté et dénoncé depuis des années en Allemagne. Or, la Bundesdruckerei, l’institution publique en charge de ces appareils rejette toute accusation de discrimination. Elle affirme que ces distributeurs automatiques sont parmi les plus modernes au monde et ne font pas de différence selon la couleur de la peau mais dépendent de la qualité de la situation d’éclairage respective. En outre, le système optique serait tout aussi innocent de racisme que la Bundesdruckerei elle-même.
Quiconque effectue une brève recherche sur Internet trouvera néanmoins rapidement des histoires similaires provenant du monde entier. Ces histoires font l’objet de critiques de la part de journalistes et de militants depuis plus de quinze ans. Car, quel que soit le degré de modernité d’un système, il reflétera toujours le racisme dont ses concepteurs ont fait preuve : ainsi, en biométrie, la technologie a été développée avec des bases de données constituées principalement de personnes blanches. La technologie n’a donc pas été conçue pour les personnes ne correspondant pas à cette norme de blanchité implicite et inhérente au système.
Plusieurs études prouvent cette caractéristique raciste de la technologie. En 2018, par exemple, le Massachussets Institute of Technology a révélé que les bases de données qui alimentaient les systèmes de reconnaissance faciale des leaders du marché Microsoft, IBM et MEGvii of China étaient composées de 77 % de personnes considérées comme hommes et de 83 % de personnes considérées blanches. En conséquence, les hommes blancs ont été correctement reconnus par le système dans 99,2 % des cas alors que cela n’était que le cas pour 65,3 % des femmes noires. Le fait qu’en 2016, pas une seule femme noire n’était salariée dans les dix plus grandes entreprises technologiques de la Silicon Valley, et dans trois parmi ces dernières pas une seule personne noire du tout, n’a probablement pas aidé à penser le système en dehors de la norme hégémonique de l’homme blanc.
Mais ce problème ne se résume pas à un effort supplémentaire fastidieux dans les procédures civiques les plus simples pour les Noirs : les tendances racistes des développeurs de technologies et des autorités, associées au racisme structurel et mortel de la société, peuvent ruiner des vies entières. Aux États-Unis, en juin dernier, un innocent homme noir a été arrêté parce qu’une caméra de surveillance équipée d’une intelligence artificielle l’a pris pour un autre homme noir. En ce sens, l’antiracisme doit également observer d’un œil critique les développements technologiques, car ceux-ci représentent généralement les intérêts de ceux qui investissent dans ces développements et en bénéficient en fin de compte.
https://taz.de/Rassismus-im-Bild/ !5700872/
[https://metro.co.uk/2020/04/01/race-problem-artificial-intelligence-machines-learning-racist-12478025/]
[https://www.raconteur.net/technology/biometrics-ethics-biashttps://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest.htmlhttps://taz.de/Rassismus-im-Bild/!5700872/]
