Le pape veut désarmer l’IA 10 juin 2026
Dans sa première encyclique « Magnifica humanitas » (« Magnifique humanité »), le pape a appelé à « désarmer l’IA ». « Il ne suffit pas de la réglementer mais de la soustraire aux monopoles ». Ce texte, qui trace les orientations idéologiques de l’institution catholique, que nous n’abordons pas ici, met le doigt sur les dangers de l’usage croissant de cette technologie qui contribue à la militarisation de la société (1).
La croissance foudroyante de l’IA alarme de plus en plus largement.
Dans le contexte de guerre au ProcheOrient et en Ukraine, le secteur de la défense présente un énorme potentiel lucratif pour les monopoles. La course aux armements bat son plein, avec des armes dopées à l’IA, et des perspectives de fabuleux contrats en milliards de dollars. Le secteur de l’IA l’a bien compris, puisqu’il se tourne de plus en plus vers le militaire, comme Meta, Open IA et Palantir, concurrents pour le marché du Pentagone.
La France veut jouer sa carte et en profiter elle aussi, aspirant au créneau de tête de l’application militaire de l’IA en Europe, bien que prétendant garantir un usage « éthique » de cet armement . « Comme l’atome en son temps, la maîtrise de l’IA de défense est un outil indispensable de souveraineté », a déclaré S. Lecornu.
L’IA est « embarquée » dans le matériel militaire afin d’accroitre son autonomie. Elle équipe les 4 000 drones d’attaque fournis à l’Ukraine.
Thales a regroupé en une même entité, CortAIx, ses experts et programmes en intelligence artificielle, MBDA a créé sa propre structure, Neodes Systems, pour optimiser ses missiles.
Ethique ? On a appris qu’en France, la DGSI a signé un nouveau contrat de trois ans avec Palantir, entreprise tout sauf éthique, fondée par le milliardaire libertarien Peter Thiel, maître d’œuvre du rapprochement entre une partie de la Silicon Valley et Donald Trump. Palantir, qui utilise l’IA aussi bien pour traquer les migrants (comme ICE aux USA) que pour évaluer des cibles militaires en temps réel.
Selon Amnesty, l’un des outils de Palantir « automatise un processus déjà très faillible et opaque, qui a des antécédents en matière de non-respect des procédures régulières et des droits humains ». Le recours à l’IA dans les guerres récentes menées par Israël et les USA pour identifier des cibles à bombarder soulève de plus en plus de critiques.
Aux USA, Anthropic, utilisée par le Pentagone dans le domaine militaire, avait deux lignes rouges : son IA, Claude, ne devait pas être utilisée pour des armes autonomes, non supervisées par un humain, ni pour de la surveillance de masse.
Qu’à cela ne tienne, le Pentagone a choisi un autre fournisseur, Open IA, plus accommodant. La responsable du secteur robotique, en désaccord avec l’usage de ces armes a, elle, démissionné.
Au Royaume-Uni, au sein de Deep Mind, laboratoire de Google, 600 salariés, cadres dirigeants compris, ont signé une lettre d’opposition à cette IA. Un mouvement social s’y est déclaré car les salariés ne veulent pas que leur travail serve aux guerres d’Israël et des Américains, à des génocides et des crimes de guerre.
Aux USA, Human Rights Watch a lancé le mouvement « Stop Killers Robots », dénonçant la possibilité du meurtre automatisé par des robots, sans intervention humaine.
La délégation de la force létale à une machine provoque une inquiétude grandissante. Il est avéré que les « SALA » – Systèmes Autonomes d’Armes Létales Autonomes, peuvent contenir des biais de toute nature, entraînant des décisions discriminatoires ou erronées. C’est ce qu’a mis en lumière l’attaque d’une école de filles en Iran par l’armée américaine, basée sur des données périmées : plus de 100 victimes.
Une enquête menée par deux médias indépendants israéliens, « +972 » et « Local Call » a révélé le recours à l’IA Lavender à Gaza. Censée identifier et cibler les militants du Hamas (!), cette technologie fiable à seulement 90 %, avec une marge de décision de 20 secondes, a provoqué des tueries de masse dans les populations civiles.
Dès le début de la guerre, l’armée israélienne a décidé que la mort de 15 à 20 civils était « acceptable » pour une frappe si une cible était localisée.
Ces IA participent à la course à des armements de plus en plus dangereux.
Il n’y a pas de guerre « éthique ».
La voix du pape rappelle, dans son domaine, les grandes interrogations qui se sont développées parmi les chercheurs qui ont participé à la mise au point de la bombe atomique. ★