São Paulo – Dans une interview accordée à la Fondation Heinrich Böll, le sociologue Sérgio Amadeu, membre du Comité de gestion d’Internet au Brésil, docteur en sciences politiques et professeur à l’Université fédérale d’ABC, évoque les orientations possibles des plateformes numériques et des réseaux sociaux ce année électorale. Egalement créateur, éditeur et présentateur de podcast technopolitique va plus loin et discute de la dualité et des implications de l’utilisation de l’intelligence artificielle et des prédictions sur le métaverse et la réalité virtuelle, et leurs impacts actuels et futurs sur la vie quotidienne réelle.
Ces dernières années, les discussions dans les espaces numériques ont pris des proportions à la fois gigantesques et sérieuses, provoquant même des manifestations de masse dans le monde réel, comme celles de juillet 2013 au Brésil. Ainsi, ces manifestations ont été largement acceptées dans des espaces tels que Facebook et finiraient par être l’œuf du serpent dans l’émergence de l’extrême droite au Brésil. En conséquence, le processus a abouti à la destitution de la présidente élue Dilma Rousseff, en 2016. De plus, à l’élection de Jair Bolsonaro deux ans plus tard.
Parallèlement à cela, la diffusion des théories du complot sur Internet s’est accrue, dans laquelle les soi-disant grandes technologies contrôler comment et quand le flux d’informations parvient aux utilisateurs. Cependant, ce contrôle sert souvent de source de désinformation de masse.
Le télégramme comme outil du bolsonarisme pour diffuser de fausses nouvelles
« L’extrême droite du monde a décidé de rompre avec la démocratie et avec le débat rationnel basé sur des faits. Par conséquent, la désinformation est une stratégie globale du nouveau fascisme. Ainsi, ils attaquent la science et les universités, comme on le voit actuellement face à la pandémie », explique Amadeu.
C’est dans ce contexte que les réseaux sociaux tels que WhatsApp et YouTube ont joué un rôle fondamental dans la diffusion des idéaux ultra-conservateurs et fondamentalistes. Depuis, il est possible de constater une aggravation du scénario. Par exemple, avec la pandémie, le déni et les théories du complot font des ravages partout dans le monde. « Les plateformes sont gérées par des systèmes algorithmiques entièrement opaques. Nous ne pouvons pas donner plus de pouvoir aux plateformes. Ils se placent comme des espaces de débat public, donc, ils doivent suivre des principes démocratiques et non autocratiques », évalue le sociologue.
Enfin, il évalue que la situation est grave, mais que la société civile doit être consciente de ces actions et participer activement à ces débats, en veillant, à tout le moins, à la participation et à l’écoute des autres acteurs.
Découvrez les principales parties de l’interview
Nous sommes dans une année électorale et l’utilisation des plateformes de médias sociaux, des applications et l’utilisation des mégadonnées dans les campagnes ont de plus en plus de place dans le scénario électoral. Les élections brésiliennes de 2018 ont été marquées par des fusillades massives via Whatsapp et la propagation de la désinformation. Que peut-on attendre de cette année ? Les plateformes ont mis à jour leurs politiques de modération de contenu. Mais sont-ils mieux préparés au flot de désinformation ?
Le phénomène actuel de désinformation présente des différences importantes par rapport aux rumeurs traditionnelles et réside dans les conflits politiques. Premièrement, les réseaux numériques permettent une distribution massive et, en même temps, micro-segmentée, c’est-à-dire qu’il est possible d’atteindre des personnes spécifiques et de stimuler les peurs et les peurs de ces groupes sociaux. Deuxièmement, l’extrême droite du monde a décidé de rompre avec la démocratie et avec le débat rationnel basé sur des faits.
Par conséquent, la désinformation est une stratégie globale du nouveau fascisme. Ainsi, ils s’attaquent à la science et aux universités, comme on le voit actuellement face à la pandémie. Les plateformes, à leur tour, gagnent beaucoup d’argent grâce à la spectaculaire de la vie. Ce ne sont pas principalement les discours radicaux qui gagnent le plus d’accès dans les réseaux relationnels en ligne, ce sont des discours spectaculaires, même s’ils sont infondés, non informatifs.
En année électorale, le projet crée une plateforme pour débattre des propositions avec la population
Les plateformes sont gérées par des systèmes algorithmiques entièrement opaques. Dans une récente enquête Twitter intitulée « Examiner l’amplification algorithmique du contenu politique sur Twitter », il a été constaté que les algorithmes de Twitter amplifient les discours des politiciens et des sites Web de droite plus que d’autres perspectives idéologiques.
Sans aucun doute, les plateformes doivent modérer le contenu conformément à leurs conditions d’utilisation, mais elles doivent être sous contrôle public. Nous ne pouvons pas donner plus de pouvoir aux plateformes. Ils se placent comme des espaces de débat public, par conséquent, ils doivent suivre des principes démocratiques plutôt qu’autocratiques. Nous ne pouvons pas accepter qu’ils soient au-dessus de notre Constitution démocratique.
Les technologies qui utilisent l’intelligence artificielle sont de plus en plus utilisées au Brésil. Quels sont les risques et les opportunités que vous voyez pour ce scénario ? Quelle est votre opinion sur la nécessité de réglementer l’utilisation de ces technologies ?
L’intelligence artificielle (IA) est un terme générique pour un certain nombre de technologies. Actuellement, le machine learning et le deep learning sont les solutions d’IA les plus utilisées. Ils sont basés sur des données qui alimentent des systèmes statistiques de probabilités. Nous avons un énorme stockage et traitement de données afin d’extraire des modèles et de faire des prédictions.
Cependant, l’IA est ambivalente. Il est utilisé pour améliorer les diagnostics médicaux, trouver les meilleurs itinéraires pour la distribution des marchandises, mais aussi pour surveiller avec la biométrie faciale les classes dites « dangereuses » et les segments les plus vulnérables de la population.
« Flow Podcast » perd ses sponsors, la publication pro-nazisme cesse d’être diffusée ; Monark « s’éteint »
Mais dans quelle mesure cela peut-il devenir une marchandise entre les mains des processeurs de données ? Je pense qu’il faut avoir une agence indépendante, composée de représentants des pouvoirs de l’État et de la société civile, avec des techniciens capables de faire valoir la démocratie et les droits individuels et collectifs quand on pense à l’IA. L’actuelle Agence brésilienne de protection des données est subordonnée au Président de la République et capturée par des intérêts économiques. Il faut changer sa composition et ses fixations.
L’IA doit être sous le contrôle démocratique de la société. Nous devons interdire ou à tout le moins obtenir un moratoire sur les technologies d’IA utilisées pour perpétuer et amplifier la discrimination raciale, comme la biométrie faciale. Nous devons interdire l’utilisation de la biométrie vocale pour le marketing afin d’identifier l’état émotionnel des personnes. D’autre part, des solutions de détection des maladies de la voix sont utilisées et peuvent être utiles pour mener à bien la prévention.
Lisez l’interview complète de Sergio Amadeu avec le portail de la Fondation Heinrich Böll
Récemment, Mark Zuckerberg (créateur et président mondial de Facebook) a annoncé la nouvelle direction de ses réseaux sociaux, le Metaverse. Un espace numérique où, grâce aux avatars et à la réalité virtuelle, diverses interactions sociales seraient possibles, d’un voyage au supermarché à des réunions au travail ou entre amis. Quel est votre point de vue sur le sujet ?
Le métaverse est une gigantesque opération marketing visant à repositionner Facebook qui subit la pression de diverses agences étatiques en raison de pratiques algorithmiques non éthiques et antidémocratiques.
Sans aucun doute, il existe plusieurs projets qui visent à trouver des voies attrayantes avec des simulateurs virtuels et des espaces d’interaction numérique profonde. Il existe depuis 2003, l’espace virtuel 3D appelé Second Life. Je n’ai pas été excité.
Il existe plusieurs jeux et plates-formes à explorer en tant qu’univers virtuels. Par exemple, dans Minecraft, les utilisateurs explorent un monde pixélisé en trois dimensions construit par blocs, avec des milliers de possibilités de création. Il y a aussi VRChat, Roblox, entre autres espaces basés sur la simulation de la réalité.
Plus la puissance de calcul augmente, plus les cartes vidéo s’améliorent, plus les technologies holographiques avancent, plus nous aurons d’expériences 3D. Pour l’instant, nous avons un discours qui s’accompagne de promesses absurdes et de l’idée de créer des mondes numériques plus propriétaires que dans notre réalité.
Le rêve de Zuckeberg est d’amener tous les êtres vivants dans un espace où ses systèmes algorithmiques ont un contrôle total. L’humanité est bien plus grande que le rêve totalitaire du propriétaire de Facebook et de ses actionnaires majoritaires.
