Geoffrey Hinton, prix Nobel de physique 2024 et l’un des pères du deep learning ou apprentissage profonda nécessité un effort scientifique plus important pour comprendre les risques des systèmes capables de dépasser certaines capacités humaines. Sa mise en garde contre l’intelligence artificielle (IA) s’inscrit dans une tradition de ceux qui ouvrent une frontière et sont aussi généralement les premiers à anticiper ses dangers.
Alexander Fleming en donne un exemple en 1945, lorsqu’il avertit qu’une mauvaise utilisation de la pénicilline pourrait favoriser l’émergence de bactéries résistantes. Trois décennies plus tard, les pionniers de l’ADN recombinant ont proposé des mesures de biosécurité et des niveaux de confinement en fonction du risque de chaque expérience, partant du principe que « la technologie est trop précieuse pour être abandonnée et trop puissante pour être développée sans garanties ». Dans les deux cas, la prudence émanait de la science elle-même. Les progrès se sont poursuivis accompagnés de protocoles et de responsabilités, ce qui nous enseigne que la prudence scientifique fait partie du progrès.
Dans des technologies beaucoup plus proches de notre vie quotidienne, cette discussion a un autre précédent. En 2011, Betsy Sparrow, Jenny Liu et Daniel Wegner ont publié quatre études qui ont donné naissance à ce que l’on appelle « l’effet Google », caractérisé par le fait que les personnes qui s’attendent à avoir accès à l’information dans le futur s’en souviennent peu, mais sans oublier comment y accéder, ce qui transforme Internet en une sorte de mémoire externe où les informations sont stockées collectivement en dehors de nous. Cette découverte évoque une réflexion attribuée à Albert Einstein, en 1921, lorsqu’on l’interrogeait sur une information qu’il ne connaissait pas, il expliquait que cela n’avait aucun sens de garder dans l’esprit des informations facilement disponibles dans les livres et ajoutait que la valeur de l’éducation universitaire résidait moins dans l’apprentissage d’un grand nombre de faits que dans l’entraînement de l’esprit à penser. Un siècle plus tard, ce constat prend une actualité surprenante, puisque la véritable clé est peut-être de décider de ce qu’il faut retenir, de ce que l’on peut déléguer à nos outils et quelles capacités intellectuelles il faut préserver.
Imaginons un étudiant consultant une équation avec l’IA. Si vous l’utilisez pour comparer des procédures, détecter des erreurs et explorer des solutions, la technologie vous permet d’élargir votre apprentissage. Mais si vous copiez simplement le résultat, vous réduisez la possibilité d’exercer votre raisonnement. La différence réside moins dans la machine que dans la relation cognitivo-émotionnelle qui s’établit avec elle.
De cette manière, Hinton attire l’attention sur les risques futurs ; L’« effet Google » nous rappelle que certaines transformations commencent en silence. Une proposition est que l’éducation à l’IA et avec l’IA nécessite de se demander d’où vient une déclaration, de reconstruire les procédures, de comparer les sources, de reconnaître l’incertitude et de maintenir les compétences de base.
L’enjeu est donc de savoir utiliser ces outils pour penser mieux, ne jamais penser moins. L’histoire de la science montre qu’une alerte responsable peut préserver ce qui fait la valeur d’une innovation. La prudence scientifique, loin de ralentir le progrès, contribue à lui donner une direction et un sens.
@betancourt_phd
