Malgré la pléthore d’opinions et d’études présentées sur l’innovation technologique basée sur des données insérées dans la société des plateformes, nous voyons encore aujourd’hui des vies dans lesquelles les modérateurs demandent ce qu’est GPT et comment il fonctionne. Il convient de le mentionner : par « données », il faut considérer les informations obtenues à partir d’une certaine période dans le passé, dans le but de prédire les effets dans le futur.
Evidemment, les internautes qui savent de quoi il s’agit et qui ont déjà tenté au moins une question au sympathique robot en devoir éternel, lèvent le nez, car ils connaissent déjà l’essentiel : ils en redemandent. Ils savent même que nous sommes de plus en plus utilisés par les machines et ils voient qu’il est essentiel d’aiguiser et d’exploiter au maximum l’intentionnalité face à l’IA. Comment est-ce possible? En posant des questions de haute qualité – de préférence, issues de la pensée critique – afin de produire un bon objet d’analyse. Aussi, faites-le de manière contextualisée, en signalant dans quel but, certain public, etc., afin d’obtenir des réponses plus fines en temps réel.
Après l’explosion des données – matière première à usage aveugle – au cours des dernières décennies, nous connaissons les risques potentiels pour la démocratie causés par l’IA. La situation serait aggravée par le contexte de crise de l’information, la polarisation sociale et politique croissante dans les bulles numériques, la surveillance en hausse et le manque de protection de nos données. De plus, ce logiciel comme ChatGPT – formé avec de grandes données pour trouver des modèles statistiques et déterminer des poids et des mesures – est dangereusement sophistiqué pour la superindustrie de la désinformation est quelque chose de pacifié dans cette ère post-factuelle.
Diversité et trouble informationnel
Après tout, ce type d’IA simule et essaie d’imiter le cerveau humain, y ajoutant même nos valeurs erronées. Avouons-le : nous sommes remplis de croyances, de discrimination, de biais de confirmation, etc. qui transitent automatiquement par les données imputées aux algorithmes. Ceci, sans tenir compte du biais (avec des données incomplètes) des programmeurs et de l’équipe de développement — souvent constituée avec une diversité nulle (je ne fais pas référence ici à l’importance de la diversité des idées ou à la notion plus contemporaine en ESG/DEI de l’identité, de la diversité de genre, d’ethnie, etc., je dis au moins le moindre), est basée sur des données qui ne sont pas représentatives de la société en question. Ce problème devient plus évident, par exemple, dans la création de questions essentielles lors de l’interview des données : celles-ci seraient souvent inappropriées ou insuffisantes, car elles ne reflètent pas la composition des communautés enquêtées.
Mais suivez simplement la logique lorsque le questionneur, qu’il soit humain ou autre bot, lorsqu’il produit une invite (commande textuelle et de préférence contexte) demandant des réponses à quelque chose de faux, axiomatiquement, le résultat sera également faux. Dans ce cas, ce n’est pas quelque chose hors de portée de l’information, une erreur ou une hallucination — ce qui arrive parfois : c’est faux, exactement comme demandé, commande après commande, amplifiant le désordre informationnel déjà installé. Si la requête nécessitait encore le style d’un auteur particulier, la réponse affichée peut être encore plus facilement trompeuse ; après tout, la spécificité linguistique améliore l’apparence du canular.
Au plus fort de l’ère algorithmique, où l’éthique est à part, ChatGPT est configuré avec des algorithmes de grands modèles de langage (LLM). Ceux-ci configurent une distribution de probabilité sur des séquences de symboles ou de mots, ce qui révolutionne le traitement du langage naturel et l’apprentissage automatique profond pour la reconnaissance et la production de textes similaires à ceux générés par les humains, menteurs ou non. Cette circonstance peut encore compliquer la situation lorsque le système entre dans un mode perturbateur d’apprentissage auto-supervisé ; c’est-à-dire lorsqu’il commence à apprendre par lui-même, avec des éléments de caractère autonome. De cette façon, la machine elle-même nous amène à réfléchir sur le statut moral des systèmes d’IA – un sujet, cependant, pour un autre article.
Sur la (dé)confiance et les deepfakes
Il faut souligner le manque de sources et de références dans les réponses données par ChatGPT, par exemple : par conséquent, il n’est même pas possible de vérifier la véracité de ces informations numériques, taille c’est le remix. L’outil OpenAI à proprement parler ne produit rien de véritablement nouveau, il n’avance pas. Il fusionne simplement ce qui existe déjà sur Internet pour générer un résumé — de manière mécanique et semi-autonome —, répondant simplement à ce qui a été demandé, comme si c’était écrit par un être humain.
C’est un frein total à son utilisation par le journalisme, qui crédite systématiquement les sources d’où proviennent les informations — notamment dans les environnements numériques, en raison de la facilité d’insertion de liens vers des études, des vidéos, etc. Même ainsi, la méfiance croissante à l’égard de la presse s’est accrue avec peu de fluctuations au cours de la dernière décennie, comme l’ont enregistré les sondages de Gallup, Edelman et du Pew Institute, entre autres. Imaginez si les journalistes utilisaient ce que ces robots crachaient – généralement avec un ton très affirmé et 100% crédible – et nous découvrions alors que la vérité est très différente.
Lorsque les deepfakes sont apparus pour la première fois, nous pensions qu’ils seraient le comble de la désinformation. Après tout, il est difficile de contester la vidéo de quelqu’un disant quelque chose de scandaleux qu’il n’a pas dit avec des images et une voix produites par l’IA. La raison : l’attractivité et la tradition de fiabilité du reportage via les médias audiovisuels, dont tout le monde ne se rend pas compte lorsqu’il est, disons, recontextualisé. Comme la logique d’apprentissage automatique, il existe plusieurs outils créatifs comme DALL-E (maintenant DALL-E 2) et Midjourney. Ceux-ci produisent des images mélangées à partir de créations précédentes à partir d’invites – et suscitent l’étonnement et la fascination depuis quelques années maintenant.
AudioLM, par exemple, fonctionne selon la même logique : tout ce que vous avez à faire est d’imputer un morceau d’audio (brut ou non) pour que le robot sonore mappe, clone et continue à générer de l’audio produit par un codec audio neuronal. Dans le cas de la création synthétique de discours issus de voix humaines, le résultat attendu et, en grande partie, obtenu, est syntaxiquement correct et sémantiquement cohérent — et inclut les accents, les rythmes vocaux et le style du locuteur. La technologie d’AudioLM permet également de créer des continuités cohérentes et agréables à l’oreille humaine pour des morceaux de musique, avec des instruments comme le piano.
chaos irrésistible
Nous sommes habitués aux audios AI dans Alexa, Siri, Jukebox et autres assistants virtuels similaires. Évidemment, ils sont différents en ce qu’ils nécessitent un travail de transcription et d’étiquetage. Cependant, l’utilisation dans l’Internet des objets (IoT) est vaste et peut être mieux étudiée en termes de vérification automatique des systèmes de haut-parleurs. Dans AudioLM, il ne faut que quelques secondes d’audio à l’invite pour que le modèle d’apprentissage automatique utilise le traitement du langage naturel et apprenne les modèles sonores. Cette possibilité constitue certainement une cybermenace sérieuse pour les systèmes biométriques vocaux. Une mise en garde : contrairement à ChatGPT, AudioLM n’a pas encore été largement diffusé pour une utilisation par le grand public.
Cependant, ChatGPT en tant que générateur de conversations, époustouflantes ou non, a gagné une autre attraction dans la compétition pour attirer l’attention des utilisateurs. Ce nouveau leurre a des éléments addictifs et, bien sûr, est amélioré avec un renforcement humain dans cette expérience qui implique une forte symbologie de nature mentale.
Considérons pour l’instant, dans les processus de datafication, un exemple qui fédère les deepfake news textuelles, vidéo, photo ou audio uniquement — dont la prolifération est grande dans les messageries instantanées. Ajoutez à cette recette chaotique une bonne dose de la facilité d’écriture fallacieuse que ces programmes LLM jaillissent si rapidement. Enfin, ajoutez la possibilité que le texte soit écrit dans un style auctorial déterminé et nous avons une séduction bluffante qui s’avère être la cacophonie informationnelle la plus cohérente – et la plus dangereuse.
Résultat : c’est un plagiat camouflé produit à partir d’un système informatique et d’un modèle de apprentissage automatique développé pour améliorer la prise de décision automatisée grâce à des réseaux de neurones artificiels. Cet appareil génère, avec la logique connexionniste de son algorithme, le mot suivant et, ainsi, par exposition et successivement, assemble une variation de textes à partir d’un mélange qui, à proprement parler, peut même ne pas avoir de critères définis quant au choix des sources. À la limite, le processus créatif peut même rechercher des textes faux, complotistes – et même ceux au contenu haineux, qui, en raison du degré d’émotion qu’ils suscitent, influencent négativement et augmentent l’engagement dans certains réseaux, également en raison de l’effet des algorithmes qui contribuent à la formation de bulles.
Nous savons que lorsque l’intention est de maximiser l’intérêt et la pertinence — quels qu’ils soient et quels qu’ils soient — de s’engager, rien n’empêche d’agir dans cette société post-vraie dans laquelle nous vivons. Une crainte qui prévaut concerne la manière dont, parmi une variété de tâches linguistiques, les outils algorithmiques acquièrent des compétences pour lesquelles ils n’ont pas été formés et qui peuvent échapper au contrôle de leurs programmeurs humains en raison de la difficulté à faire de la rétro-ingénierie.
Il est important de considérer que ChatGPT et des technologies similaires comme Google’s Bard sont des moteurs puissants. Ce ne sont pas simplement des outils informatifs ; ce sont en fait des instruments de création. Par conséquent, des réflexions et des audits constants sont nécessaires dans ces modèles de langage d’IA générative, afin que nous puissions vérifier régulièrement les éventuelles failles éthiques intégrées dans leur structure et même leurs créations.
Après tout, les données avec lesquelles l’IA travaille sont, dans de nombreux cas, extraites d’Internet lui-même, ce qui entraîne d’éventuelles déformations intentionnelles, telles que des occurrences biaisées de toute la gamme de désinformation et de toxicité. Cela inclut également les récits extrémistes de toutes sortes et leur utilisation nocive ultérieure par des personnes imprudentes – ou, pire, de mauvaise nature -, alimentant des erreurs et diffusant des paramètres qui font partie de l’algorithme même de nos pensées.
Regardez la vidéo avec un témoignage sur le deepfake au Café Filosófico « Presente do Futuro », par Lucia Santaella en 2021 :
________________
(Opinions exprimées dans des articles publiés dans le Revue USP sont de la seule responsabilité de leurs auteurs et ne reflètent pas les opinions du véhicule ou les positions institutionnelles de l’Université de São Paulo. Accédez à nos paramètres éditoriaux pour les articles d’opinion ici.)
