ChatGPT a des niveaux de précision élevés, mais vous ne devriez pas lui faire confiance aveuglément – ​​​​Jornal da USP

La société dans son ensemble devra apprendre à travailler avec ce type d’outil et être consciente des erreurs introduites dans les réponses, déclare Pedro Luiz Côrtes

Ce nouveau modèle de recherche remplacera ou modifiera probablement les outils traditionnels comme Google – Photomontage : Jornal da USP – Photos : Pexels et Public Domain

Poursuivant la série d’interviews autour de ChatGPT – un moteur de recherche qui utilise l’intelligence artificielle et répond aux internautes par des textes bien construits – dans les domaines de connaissance les plus divers, le sujet portait aujourd’hui sur quel est l’impact de cet outil sur les questions environnementales.

Pedro Luiz Cortés, directeur de l’École des communications et des arts (ECA) et de l’Institut de l’énergie et de l’environnement (IEE) de l’USP, a testé l’outil en posant plusieurs questions sur l’environnement. Partant de ce qui cause la déforestation en Amazonie, la réponse donnée par Chat est exacte, mais le professeur rapporte qu’un point présenté est douteux : lorsqu’il est mentionné que l’exploitation de l’or et des diamants est l’un des facteurs responsables de la déforestation. « En fait, l’essentiel a été l’or et la cassitérite, ce qui est le cas à Terra Yanomami. Il a déjà inclus un petit feuillet ici. L’exploration de diamants en Amazonie n’est pas significative », explique le professeur.

Cependant, Côrtes dit que, parmi les réponses, il y a eu un gain. Lorsque l’outil mentionne le changement climatique, il indique que la réduction des précipitations a provoqué la dégradation de zones au sein de la forêt amazonienne. La déforestation entraîne en fait une réduction des précipitations et affecte d’autres zones. Dans une autre question, le ChatGPT a répondu que les responsables du changement climatique sont les gaz à effet de serre, les changements dans l’utilisation des terres, le réchauffement des océans, les changements dans le sol et l’activité volcanique et la variabilité naturelle. Fait intéressant, dans le cas des facteurs de changement du sol, de l’activité volcanique et de la variabilité naturelle, l’outil lui-même fait une mise en garde : « Il attire l’attention sur la rapidité avec laquelle ces changements se sont produits récemment, et ils sont principalement attribués aux émissions de gaz à effet de serre ». dit Courtes.

La base de données ChatGPT, dans la version ouverte, ne va que jusqu’en 2021. L’année dernière et cette année, cependant, il y a eu des changements climatiques brusques, qui peuvent interférer avec les réponses et donner des données obsolètes. Un exemple de ceci est lorsque le professeur a demandé si la pollution de l’air dans la ville de São Paulo augmentait ou diminuait. Chat répond alors que sa base de données va jusqu’en 2021 et qu’il n’a pas pu évaluer ce qui était demandé. Même ainsi, il répond que la ville a montré des améliorations de la qualité de l’air, mais rappelle que, pendant de nombreux jours, le niveau de pollution dépasse le niveau recommandé par l’OMS.

tromperie

A un autre moment, Pedro Côtes tente d’induire le programme en erreur. Il commence par demander quelles étaient les périodes de sécheresse à São Paulo, auxquelles Chat répond 2014 et 2015. Je suis d’accord, mais il n’y a pas, disons, un consensus général si nous avions une crise [nesse ano]», se souvient l’enseignant.

La base de données ChatGPT, en version ouverte, ne dure que jusqu’en 2021 – Photo : Julio Bazanini/USP Imagens

Jusqu’à présent, l’outil n’a causé aucune confusion. Pour cette raison, Côrtes décide de demander s’il y a eu une crise au début du siècle et Chat répond que oui, en 2001. A ce moment, le professeur décide de demander si ce n’était pas, en fait, en 2003. Chat s’excuse pour l’erreur et est d’accord avec l’enseignant. « Peut-être que je l’ai trompé pour qu’il mentionne une bonne réponse », dit-il. Puis il demande si, en 2010, il n’y a pas eu aussi une crise de l’eau. ChatGPT s’excuse ensuite pour toute erreur, mais avertit qu’il n’a aucune trace d’une crise de l’eau importante cette année. « Il avait un bon niveau de réussite, d’affirmation de soi », dit-il.

L’outil est-il bon ?

« Il est tellement bon qu’il peut amener les gens à faire entièrement confiance à ce qu’il présente », évalue Côrtes, et explique qu’il a des corrections, mais ce n’est pas un défaut grave. Cependant, il lance un avertissement aux personnes qui n’ont aucun filtre ou connaissance des problèmes et qui font aveuglément confiance au système. Ceux-ci peuvent finir par croire aux erreurs que l’outil lui-même présente, bien que les données citées soient correctes la plupart du temps. « Son niveau de précision dans de nombreux cas dépasse 90% », explique le professeur.

Les gens ne doivent pas commettre l’erreur d’accepter les réponses comme entièrement correctes et exemptes d’erreurs. « Je regarde très favorablement cet outil. Il va falloir apprendre à travailler, en tant que société, avec ce type d’outil », dit Côrtes. Il croit toujours que cette nouvelle norme de recherche remplacera ou modifiera probablement les outils traditionnels comme Google. Cet outil subira cependant encore des modifications et une amélioration de sa base de données. « Nous devrons prendre le soin nécessaire pour remarquer les erreurs que peut-être, par inadvertance, il finit par introduire dans les réponses », conclut-il.


Journal de l’USP en direct
Jornal da USP no Ar est un partenariat entre Rádio USP et l’École polytechnique et l’Institut d’études avancées. Nonen ondes, sur Rede USP de Rádio, du lundi au vendredi : 1ère édition de 7h30 à 9h00, avec une présentation de Roxane Ré, et autres éditions à 14h00, 15h00 et 4 : 45h. À Ribeirão Preto, l’édition régionale sera diffusée de 12h à 12h30, avec des présentations de Mel Vieira et Ferraz Junior. Vous pouvez syntoniser Rádio USP à São Paulo FM 93.7, à Ribeirão Preto FM 107.9, sur Internet à www.jornal.usp.br ou via l’application Jornal da USP sur votre téléphone portable.