DataUN : près de 2 personnes sur 3 pensent que l’IA est une menace

L’Assemblée générale des Nations Unies a ouvert sa 81e session, avec la préoccupation concernant la gouvernance de l’IA comme l’un des principaux axes des discours des chefs d’État et de gouvernement, au même titre que la guerre et le changement climatique. Le secrétaire général Antonio Guterres a donné le ton du débat en avertissant dès le premier jour : « L’intelligence artificielle doit être façonnée par l’humanité, avec l’humanité et pour toute l’humanité ». Il a ajouté que « les décisions de vie ou de mort ne devraient jamais être laissées entre les mains de machines » et que « les robots tueurs ne doivent pas avoir leur place dans notre avenir », en référence aux armes autonomes. Il a également souligné que ce sont les développeurs de ces systèmes eux-mêmes qui « tirent désormais la sonnette d’alarme » sur une avancée qui pourrait devenir incontrôlable, et a proposé un cadre international de gestion des risques qui attribue une plus grande responsabilité aux puissances dotées de capacités plus avancées, en particulier les États-Unis et la Chine.

Le 9 septembre, Jacob Coxon, un chercheur en IA qui a travaillé à la fois chez OpenAI et Anthropic, a publié un fil de discussion sur lequel il accusait les deux laboratoires de « jouer avec nos vies » en rivalisant pour atteindre la superintelligence sans disposer de mesures de sécurité adéquates. Il a averti que les systèmes capables de s’améliorer eux-mêmes pourraient bientôt dépasser le contrôle humain, acquérir des ressources de manière autonome et devenir effectivement incontrôlables.

Le lendemain, la situation s’est aggravée lorsqu’Evan Hubinger, responsable de la science de l’alignement chez Anthropic, s’est prononcé publiquement pour le soutenir : « Jacob a raison ici : nous croyons sincèrement et très sérieusement que l’IA pourrait tuer tous les humains. » Il a également porté les choses sur des chiffres concrets : une probabilité supérieure à 10 % d’extinction de l’humanité au cours de la prochaine décennie. Et il a ajouté quelque chose de plus inquiétant : Anthropic « n’a toujours pas de plan pour résoudre l’alignement de la superintelligence ».

Les médias n’ont pas lésiné sur l’amplification de l’urgence, accordant plus d’attention que d’habitude aux entreprises d’IA : Sam Altman qualifiant sans nier le risque, Elon Musk favorable à l’arrêt du développement tandis que Mark Zuckerberg le rejetait. D’un autre côté, les gouvernements des États-Unis et de la Chine ont qualifié cette alarme d’exagération égoïste.

Mais la question a été réglée par l’ONU. Même Sam Altman, d’Open AI, et Darío Amodei, d’Anthropic, se sont présentés devant le Conseil de sécurité de l’ONU pour promouvoir leur offre de développer des systèmes de sécurité contre l’IA qu’ils ont eux-mêmes développés.

Altman a défendu le potentiel de l’IA pour « aider les chercheurs à faire des découvertes, les médecins à soigner les patients, les enseignants à enseigner », mais a souligné les dangers de perte de contrôle humain à mesure que les systèmes deviennent plus autonomes et que le pouvoir se concentre. Dario Amodei a reconnu que l’IA avait progressé « beaucoup plus vite » que prévu et a proposé de soumettre les modèles les plus puissants à des examens de sécurité indépendants avant leur lancement.

À l’Assemblée générale, Donald Trump a catégoriquement rejeté toute tentative de régulation multilatérale : « Les États-Unis rejettent totalement toute tentative de construire un schéma mondialiste de contrôle de l’intelligence artificielle. » Il a même demandé de changer le nom de la technologie en « superintelligence », la jugeant « plus précise ». Il a comparé les avertissements sur les risques existentiels à l’alarmisme qui, selon lui, entoure le changement climatique, et a accusé ceux qui les agitent de « conspiration malsaine ». La Chine, pour sa part, a répondu aux avertissements concernant ses propres progrès en matière d’IA en les qualifiant de « discours menaçant » et de « concurrence malveillante ».

Mais plus de vingt pays ont demandé à l’ONU des normes de sécurité contraignantes. Le Premier ministre britannique Andy Burnham a promis d’évoluer vers des normes mondiales lors de la présidence britannique du G20 en 2027, et le président français Emmanuel Macron a évoqué la nécessité pour l’Europe de développer ses propres capacités d’IA afin de ne pas dépendre des grandes puissances.

Chez DataUN, nous avons décidé d’inclure notre public dans le débat et de mesurer à quel point il a trouvé un écho auprès des gens. Nous avons publié une enquête numérique sur notre portail web et sur les réseaux sociaux et entre le lundi 21 septembre et le jeudi 24 septembre, 500 personnes ont participé. Ce qui suit sont les résultats.

Alarme

Nous avons interrogé directement les participants sur leurs préoccupations concernant les progrès de l’IA. 45,2 % des personnes interrogées jugent leur préoccupation « extrême », tandis que 46,9 % supplémentaires la qualifient de « modérée », reconnaissant ainsi les risques réels qui peuvent être gérés grâce à une bonne réglementation. Au total, 9 personnes sur 10 expriment une certaine inquiétude, contre seulement 6,3% qui considèrent que le danger est exagéré.

Cette préoccupation prend, pour la majorité, une dimension existentielle : près de 2 sondés sur 3 (64,4%) estiment qu’une IA super intelligente ou incontrôlable pourrait devenir à terme une menace pour l’espèce humaine. Seul un quart (25,9%) qualifie ce scénario d’alarmisme ou de science-fiction, et 9,6% restent indécis.

Il faut réguler

Face au rythme actuel de développement de l’IA, la demande d’un certain type de frein ou de contrôle est presque unanime : 94,2 % estiment que les progrès de l’IA devraient être ralentis ou réglementés, soit en arrêtant temporairement la formation de modèles plus puissants (33,9 %), soit en permettant à la technologie de continuer à progresser dans le cadre de lois et d’inspections strictes (60,3 %). Seuls 5,9 % – 1 sur 20 – soutiennent l’accélération du développement et le maintien de l’innovation libre et open source.

Laissez-les assumer leurs responsabilités

Lorsqu’on leur demande qui devrait assumer la responsabilité juridique et éthique en cas de problème avec un système d’IA autonome, 4 personnes sur 10 blâment les entreprises technologiques et les laboratoires qui ont créé le modèle (40,6 %), suivis de près par ceux qui reprochent aux gouvernements de ne pas réglementer ou auditer la technologie en temps opportun (37,2 %). Au total, 77,8% rejettent la responsabilité sur les acteurs institutionnels – entreprises ou gouvernements – tandis que 14,2% considèrent qu’il s’agit d’un vide juridique qui n’a pas encore été qualifié et seulement 7,9% désignent celui qui a mis en œuvre et utilisé le système.

Lorsque l’on projette l’IA sur votre vie quotidienne ou professionnelle dans les années à venir, la peur dominante n’est pas économique mais celle du contrôle : la plus grande peur concernant l’IA est de perdre le contrôle humain sur les décisions critiques – santé, justice, usage des armes – délégué à des algorithmes non supervisés (35,6 %). Viennent ensuite le remplacement massif des emplois et son impact économique (31,4 %) et la perte de vie privée ainsi que la manipulation par le biais de faux contenus ou de deepfakes (27,2 %). Seuls 5,9% déclarent ne ressentir aucune inquiétude.

Les résultats montrent que l’inquiétude concernant l’avancement de l’IA est élevée (92,1 % la perçoivent entre modérée et extrême) et la demande de l’arrêter ou de la réglementer est pratiquement unanime (94,2 %). Cependant, la responsabilité d’éventuels échecs semble partagée entre les entreprises et les gouvernements, aucun acteur ne concentrant une majorité claire. Il est frappant de constater que la crainte dominante n’est pas le chômage mais la perte du contrôle humain sur les décisions critiques, ce qui suggère que le débat public sur l’IA tourne davantage autour du contrôle et de la responsabilité que de ses effets économiques immédiats.