Vie privée, santé, sécurité, alimentation, accès à des services essentiels et fonctionnement des démocraties : pour l’ONU, la montée en puissance de l’intelligence artificielle change désormais la nature du risque. Lundi 14 septembre, le Haut-Commissaire aux droits de l’homme, Volker Türk, a réclamé une « action urgente » face à des systèmes capables d’agir avec une autonomie croissante. Son avertissement porte surtout sur un basculement : quelques entreprises développent aujourd’hui des technologies dont les défaillances pourraient avoir des conséquences pour des populations entières.
L’alerte va beaucoup plus loin que les controverses déjà connues sur les biais algorithmiques, la désinformation ou la protection des données personnelles. Dans une lettre ouverte adressée aux États et aux entreprises technologiques, Volker Türk estime que l’humanité se trouve « à l’aube d’un changement irréversible ».
À ses yeux, la course aux modèles d’intelligence artificielle les plus puissants ouvre une période dans laquelle les capacités techniques progressent plus rapidement que les mécanismes permettant de les contrôler. Et le pouvoir de décider de cette trajectoire reste fortement concentré entre les mains d’un petit nombre d’entreprises.
Quand une défaillance numérique atteint le monde réel
L’une des principales inquiétudes concerne l’IA dite agentique. Ces systèmes ne se contentent plus de produire un texte, une image ou une réponse à une commande. Ils peuvent recevoir un objectif, organiser différentes étapes et accomplir certaines tâches de manière autonome.
Plus leur accès aux systèmes informatiques augmente, plus une erreur, un détournement ou une attaque peut avoir des conséquences dans le monde réel. Volker Türk évoque des défaillances susceptibles d’interrompre les communications, de perturber les services financiers, de déstabiliser des infrastructures critiques ou d’affecter les institutions démocratiques.
C’est ce changement d’échelle qui conduit le Haut-Commissaire à affirmer que « tous les droits humains sont menacés ». Une perturbation touchant une infrastructure essentielle pourrait avoir des répercussions sur l’accès à l’eau potable, au chauffage, aux soins ou aux moyens de paiement.
La guerre également concernée
L’inquiétude s’étend aux conflits armés. Selon Volker Türk, l’IA agentique en accélère déjà le rythme et l’ampleur, tout en risquant d’éroder certains garde-fous entourant les armes les plus dangereuses.
La question n’est donc plus seulement de savoir ce qu’une intelligence artificielle sait faire, mais jusqu’où elle peut être autorisée à agir sans intervention humaine suffisante. Plus les décisions sont automatisées et rapides, plus le risque d’erreur ou d’escalade devient difficile à maîtriser.
Cette évolution intervient en pleine compétition technologique mondiale. Les entreprises développant les modèles les plus avancés se trouvent principalement aux États-Unis et en Chine, tandis que l’IA devient simultanément un enjeu économique, militaire et de souveraineté.
Une course que certains veulent ralentir
Les appels à la prudence viennent désormais jusque de l’industrie technologique. Des dirigeants américains du secteur ont plaidé pour une décélération permettant de mieux comprendre les capacités émergentes de l’IA et les risques qui les accompagnent.
Cette position reste très contestée. Donald Trump s’oppose notamment à un ralentissement et a qualifié de « canular » l’idée selon laquelle l’intelligence artificielle pourrait détruire l’humanité. Derrière cette confrontation apparaît une difficulté majeure : aucun pays ne veut freiner suffisamment pour permettre à son concurrent de prendre une avance stratégique.
L’ONU redoute précisément que cette compétition conduise les États à assouplir leurs exigences de sécurité afin de préserver leur attractivité ou leur puissance technologique.
Aucun pays ne peut réguler seul
Volker Türk appelle donc gouvernements et entreprises à définir des règles communes dans un cadre multilatéral. L’autorégulation du secteur peut constituer une première étape, reconnaît-il, mais elle ne peut suffire.
« Aucun pays ne peut réguler seul cette technologie. Aucune entreprise ne devrait pouvoir décider seule des risques que le monde doit accepter », prévient-il.
Cette question concerne particulièrement les pays qui ne développent pas eux-mêmes les modèles les plus puissants. Pour de nombreux États africains, le risque serait d’utiliser des technologies conçues ailleurs, selon des normes auxquelles ils auront peu participé, tout en subissant leurs conséquences économiques, sociales ou sécuritaires.
L’ONU ne remet pas en cause les possibilités offertes par l’intelligence artificielle dans la santé, l’éducation, la recherche ou encore l’agriculture. Son avertissement porte sur la vitesse à laquelle progressent ses capacités et sur la concentration du pouvoir permettant d’en définir les limites.
Le basculement se situe là : à mesure que l’IA acquiert la capacité d’agir sur les systèmes dont dépendent les sociétés, son contrôle ne relève plus seulement des ingénieurs. Il devient une question de droits humains, de souveraineté et de choix collectif.
La Rédaction
