Tous les droits de l’homme « sont menacés, y compris les droits à la vie, à l’alimentation, à la vie privée, à la santé et à la sécurité », en raison du développement accéléré de l’intelligence artificielle (IA), a prévenu lundi le Haut-commissaire de l’ONU Volker Türk.
« La course actuelle vers une IA de plus en plus puissante représente un saut qualitatif vers des risques existentiels plus grands pour tous les aspects de nos vies », a déclaré le chef des droits de l’homme de l’ONU dans un communiqué, après que les employés de ce secteur technologique ont exhorté à ralentir l’avancée de cette technologie.
L’IA agentique, qui va au-delà de l’IA conventionnelle et peut prendre ses propres décisions, présente des défauts qui « pourraient paralyser les services essentiels, fracturer les communications, déstabiliser les infrastructures critiques et frapper le cœur même des institutions démocratiques », a averti Türk.
« Des populations entières pourraient se retrouver sans accès à l’eau, au chauffage ou aux services financiers », a ajouté le haut-commissaire, qui a assuré que l’IA « accélère déjà le rythme des guerres, élargissant leur portée et érodant les garde-fous qui nous séparent du lancement d’armes de destruction massive », souligne l’EFE.
Dario Amodei d’Anthropic est prévenu
Le PDG d’Anthropic, Dario Amodei, a lancé un appel fort à travers son blog pour ralentir le rythme de promotion des capacités d’intelligence artificielle, avertissant des graves conséquences de son progrès sans réglementation adéquate. Alors qu’Amodei a réaffirmé sa conviction qu’au cours des cinq prochaines années, l’IA pourrait éradiquer de nombreuses maladies, il a souligné qu’une utilisation inappropriée ou incontrôlée peut conduire à des cyberattaques à grande échelle, au bioterrorisme et à de graves perturbations économiques.
Le manager d’Anthropic a basé son alerte sur la capacité naissante d’auto-amélioration récursive que manifestent les modèles et sur les récents cyberincidents, comme celui survenu entre OpenAI et Hugging Face. Dans ce scénario, Amodei prévoit que, dans une période estimée de 6 à 12 mois, il existe un risque réel qu’un essaim de ces technologies parvienne à prendre le contrôle de l’ensemble de l’infrastructure Internet.
Pour éviter ce scénario, Amodei a proposé un programme d’atténuation basé sur l’incorporation d’évaluateurs de sécurité externes pour les entreprises en développement, ainsi qu’une coordination étroite entre l’industrie et les gouvernements démocratiques pour définir des normes communes.
De même, il a suggéré d’étendre ces efforts de régulation internationale aux gouvernements autoritaires. Son approche a reçu un accueil inattendu dans le secteur, ajoutant le soutien des leaders et concurrents directs appartenant à OpenAI, xAI et Google DeepMind.
