São Paulo – Les entreprises de technologie numérique utilisent des algorithmes à diverses fins. Ce sont des modèles et des séquences automatisés pour résoudre un problème. Ils se chargent par exemple de diffuser des contenus spécifiques à chacun sur les réseaux sociaux. Ils sont également à l’origine d’expériences d’intelligence artificielle, où ils «commandent» des stratégies d’apprentissage automatique. Cependant, ce sont les gens qui les programment. Cela dit, la science se penche maintenant sur les problèmes humains que ces algorithmes transmettent. Des questions telles que le racisme, le sexisme et le classisme.
« J’utilise le terme ‘racisme algorithmique’ pour expliquer comment les technologies et les imaginaires sociotechniques dans un monde façonné par le privilège blanc renforcent l’ordonnancement racialisé des connaissances, des ressources, de l’espace et de la violence au détriment des groupes non blancs », résume le chercheur Tarcízio Silva, de la Fundação Oswaldo Cruz (Fiocruz), dans un article du Centre d’études stratégiques de Fiocruz Antonio Ivo de Carvalho (CEE-Fiocruz).
Ainsi, alors que la société discute de la régulation des réseaux, Tarcizio plaide pour la nécessité d’inscrire le sujet du « racisme algorithmique » à l’ordre du jour. Des initiatives pour comprendre et contrôler les nouvelles technologies, en particulier les réseaux sociaux et l’intelligence artificielle (IA), sont en évidence dans le monde entier. Au Brésil, le gouvernement Luiz Inácio Lula da Silva (PT) a adopté un programme de débats sur la lutte contre la culture de la haine dans ces milieux. La semaine dernière, le ministère de la Justice a publié une ordonnance obligeant les entreprises à retirer des ondes les contenus inappropriés incitant à la violence.
racisme technologique
Dans ce contexte, Tarcizio rappelle que les décisions des réseaux, la distribution de contenus, entre autres actions, ne sont pas exemptées. «Le principal problème à la surface est que les systèmes algorithmiques peuvent transformer les décisions et les processus en boîtes opaques impénétrables, c’est-à-dire que des technologies pleines de problèmes sont diffusées dans la société et peuvent aggraver la discrimination, allant des moteurs de recherche qui représentent négativement les Noirs aux logiciels de police prédictive. . – utilisation de données et d’analyses pour prédire la criminalité – qui renforcent la sélectivité criminelle », dit
Par conséquent, le chercheur attire l’attention sur la méthode d’élaboration de ces mécanismes. Bref, il plaide pour la transparence. « Le développement des technologies algorithmiques se nourrit de l’histoire sociale pour proposer une prétendue intelligence artificielle. Mais cette ‘désintelligence’ artificielle, qui actualise des oppressions telles que le racisme structurel, est vendue comme neutre », dit-il.
racisme structurel
C’est pour ces raisons et d’autres que Tarcizio voit la question du racisme algorithmique comme une conséquence logique du racisme structurel. Plus que cela, une « mise à jour », son « fer de lance à l’ère de la datatification de la société ». « Le maintien du racisme comme système de production d’avantages en faveur d’un groupe hégémonique, la blancheur, est profondément dépendant d’une épistémologie de l’ignorance pour le maintien du pouvoir. En d’autres termes, la blancheur maintient une compréhension limitée de la société afin que les structures de pouvoir racialisées et sexuées ne soient pas remises en question », soutient-il.
Enfin, le scientifique estime que la maîtrise des réseaux et autres nouvelles technologies est essentielle. « Le contrôle social de la technologie est un objectif indispensable si nous voulons un avenir démocratique et bénéfique pour le monde. Le Brésil est un exemple théorique de gouvernance multisectorielle de l’Internet, avec des mécanismes de participation de secteurs tels que le gouvernement, les entreprises, la société civile et le milieu universitaire dans la discussion sur les politiques, la réglementation et les voies Internet. Dans la pratique, cependant, le secteur privé a systématiquement agi contre les intérêts de la population, promouvant même parfois la désinformation sur la gouvernance.
