La punition d’un avocat aux États-Unis pour l’utilisation abusive de ChatGPT ouvre la discussion sur l’utilisation de l’outil – Jornal da USP

La récente affaire très médiatisée impliquant l’utilisation de ChatGPT dans un procès aux États-Unis a entraîné la sanction et l’amende d’un avocat. La raison en était l’invention de précédents pour une compagnie aérienne, amenant l’avocat à avouer avoir utilisé l’outil comme source pour la recherche.

Le professeur Juliano Maranhão, du Département de philosophie et théorie générale du droit de la Faculté de droit de l’USP, fait partie de la commission de la faculté chargée de définir une politique de gouvernance pour l’utilisation de ChatGPT par les étudiants et les professeurs. « En matière d’intelligence artificielle, l’un des enjeux majeurs est la transparence, en vue de préserver la confiance dans les relations humaines », précise-t-il.

limites de l’outil

L’enseignant explique que, concernant les problèmes techniques, il y a un avertissement pour vérifier les informations générées à la fin des messages ChatGPT. De plus, il faut comprendre que le rôle de cet outil, contrairement à Google, n’est pas destiné aux recherches, mais aux conversations qui simulent la communication humaine. De cette façon, il n’y a aucun engagement envers la vérité.

Maranhão met en garde contre ce problème devenu récurrent : les hallucinations dites ChatGPT. « Par exemple, j’ai dit au GPT qui était Juliano Maranhão et il a commencé, sur la base des informations disponibles, en disant qu’il est professeur à la faculté de droit de l’USP, mais à partir de là, il a créé une série d’informations », illustre-t-il. De plus, il commente que l’un des problèmes majeurs est l’excès de confiance dans cet outil et qu’il est nécessaire de comprendre ses capacités et ses limites.

Châtiment

Outre la sanction avec une amende, le professeur estime que, dans un contexte brésilien, l’événement aurait également une réaction de l’Ordre des avocats brésiliens (OAB), puisqu’il y a eu négligence dans l’exercice de la profession. « Il est important de vérifier le précédent car, s’il n’est pas vérifié avec soin, vous pouvez utiliser et mentionner cette décision sans savoir que la décision peut apporter des éléments contraires à votre thèse », dit-il.

Ainsi, l’avocat a été sanctionné pour le manque de transparence dans l’utilisation de l’outil et, surtout, de manière pédagogique pour servir d’exemple dans une affaire comme celle-ci. Maranhão mentionne une relation possible avec le crime de mensonge idéologique au Brésil, dans lequel de fausses informations sont apportées à l’organisme public, cependant, ce n’est généralement pas le sujet.

« Je pense que le thème soulève une inquiétude, mais une inquiétude face à une nouvelle technologie. Il faut vraiment qu’il y ait une diffusion de la culture et une compréhension de son fonctionnement », note le professeur.

Politique de gouvernance ChatGPT

L’un des principaux enjeux, selon Juliano Maranhão, est la transparence quant à l’utilisation de ces outils, car il est essentiel de préserver la confiance dans les relations humaines. De plus, cette valeur de confiance croît à mesure que la présence des machines dans les interactions augmente.

« Par exemple, dans les collèges, l’utilisation de ChatGPT a généré une sorte de méfiance entre les professeurs et les étudiants, au point que les professeurs ont cessé de donner des devoirs parce qu’ils s’inquiétaient de savoir si les étudiants utiliseraient l’outil pour produire le résultat », illustre le professeur. D’autre part, il commente également que l’outil peut être utilisé positivement d’un point de vue didactique, tant qu’il y a transparence sur son utilisation.

Ainsi, l’une des premières mesures prises par la commission qui demande une politique de gouvernance pour ChatGPT est de mener une enquête sur son utilisation à l’université. Et, sur la base de ces recherches, définir des lignes directrices et des règles. « Il ne s’agit pas d’interdire. Mais, s’il est utilisé, soulignez qu’il a été utilisé, comment il a été utilisé, car cela apporte, encore une fois, la confiance dans l’outil qui peut être utilisé de manière positive et non de manière malveillante », souligne-t-il.

Enfin, Maranhão déclare que la question de l’utilisation de ChatGPT dépasse le domaine du droit et concerne différents segments de la société. Cependant, dans ce domaine, il existe des points plus sensibles concernant les informations personnelles des clients qui seront partagées avec l’IA, en plus du droit d’auteur des informations pouvant être présentes dans le texte généré par l’outil.