Aucune intelligence artificielle ne devrait pouvoir décider de tuer un être humain. En réaffirmant ce principe devant des scientifiques réunis au Vatican, Léon XIV a appelé les États à interdire les armes autonomes létales et à instaurer une véritable supervision internationale des technologies intelligentes. Au-delà des usages militaires, le Pape réclame des règles capables de garantir la responsabilité humaine face à des systèmes toujours plus puissants.
Qui doit répondre d’une décision prise par une machine lorsqu’elle porte atteinte à une vie ou à une liberté ? Cette question a occupé une place centrale dans l’intervention de Léon XIV, le 30 octobre, devant les participants au colloque international consacré à l’avenir de l’intelligence artificielle, organisé par l’Académie pontificale pour la vie et le Future of Life Institute.
Le souverain pontife ne conteste pas les possibilités offertes par ces technologies. Il estime cependant que leur développement ne saurait être considéré comme une course à la puissance dans laquelle la sécurité, la justice et la dignité humaine deviendraient secondaires.
Des décisions qui ne peuvent être automatisées
La principale inquiétude de Léon XIV concerne les systèmes capables d’intervenir dans des décisions aux conséquences irréversibles. Une personne inscrite sur une liste de cibles militaires ou dans une base de données de contrôle aux frontières ne doit jamais être réduite à une simple information traitée par un algorithme.
Pour le Pape, les décisions touchant à la vie, à la liberté et à l’emploi de la force doivent demeurer sous un contrôle humain effectif et responsable. Il reprend ainsi une position défendue par François devant le G7 en 2024 : aucune machine ne doit recevoir le pouvoir de décider de mettre fin à une existence humaine.
Cette exigence prend une dimension diplomatique immédiate. À l’approche des discussions internationales prévues à Genève en novembre sur les armes conventionnelles, Léon XIV encourage les États à avancer vers l’interdiction des systèmes d’armes autonomes létales. Il demande ainsi que l’intelligence artificielle soit « désarmée » lorsqu’elle menace de soustraire l’usage de la violence à la responsabilité humaine.
Des règles internationales plutôt que de simples principes
L’intervention du Pape dépasse toutefois la seule question militaire. Selon lui, les grands principes éthiques qui devraient encadrer l’intelligence artificielle sont déjà largement identifiés. Ce qui manque désormais, ce sont des institutions capables de les faire respecter.
Léon XIV préconise des normes communes, une supervision indépendante et des mécanismes permettant d’identifier les responsables lorsqu’un système provoque un préjudice. Les décisions prises dans le développement ou l’utilisation de l’IA devraient pouvoir être examinées, contestées et, si nécessaire, donner lieu à réparation.
Il s’agit d’éviter que les entreprises, les gouvernements ou les concepteurs de systèmes automatisés puissent se retrancher derrière la complexité technique pour échapper à leurs responsabilités.
Une technologie au service de tous
Le Pape met également en garde contre une confusion croissante entre machines et personnes. Attribuer une personnalité juridique à des systèmes artificiels pourrait, selon lui, brouiller la distinction entre un outil et les êtres humains qui le conçoivent ou l’utilisent.
Cette réflexion rejoint une autre préoccupation : la répartition des bénéfices du progrès. Les technologies intelligentes ne doivent pas devenir le privilège d’une minorité, mais contribuer à améliorer l’accès aux soins, aux connaissances et aux possibilités de développement, particulièrement pour les populations défavorisées.
Léon XIV refuse ainsi de présenter l’avenir de l’IA comme une fatalité technologique. Les applications de ces systèmes résultent de choix humains et peuvent, à ce titre, être orientées, corrigées ou abandonnées.
En appelant à une gouvernance internationale de l’intelligence artificielle, le Pape déplace le débat de la seule performance vers la responsabilité. La question n’est plus simplement de savoir jusqu’où les machines peuvent aller, mais quelles décisions les sociétés acceptent de leur confier et quelles limites elles entendent leur imposer.
La Rédaction
