« Algoréthique »
Le message fort du Pape François au G7 ainsi qu'à l'Humanité
par Chiara Sottocorona, journaliste
« L’IA ne doit pas condamner l’humanité à dépendre des machines ». Pour la première fois, le Souverain Pontife a pris la parole devant les dirigeants des sept pays les plus industrialisés de la planète, le 14 juin à Borgo Egnazia, dans le Sud de l’Italie. Face au président américain George BIDEN, au chef du gouvernement britannique Rishi SUNAK, au président français Emmanuel MACRON, au chancelier allemande Olaf SCHOLZ, au premier ministre canadien Justin TRUDEAU, au premier ministre japonais Fumio KISHIDA, tous réunis par l’hôte Giorgia MELONI, la présidente du conseil italien, qui a organisé le G7 dans le Pouille, le Pape François a proposé sa réflexion sur les effets et les risques de l’intelligence artificielle, une technologie qu’il a défini « autant fascinant, que redoutable ».
« Nous devons être clairs sur le fait que la décision doit toujours revenir à l’être humain » a souligné le Pape François, assis à la table ovale, entre Emmanuel MACRON et Giorgia MELONI. « Nous condamnerions l’humanité à un avenir sans espoir si nous retirions aux gens la capacité de décider par eux-mêmes de leur vie, les condamnant à dépendre des choix des machines » a-t-il assuré, appelant « à garantir et protéger un espace de contrôle humain significatif sur le processus de choix des programmes d’intelligence artificielle».
En effet, comme explique Delphine ALLAIRE sur le site de la Cité du Vatican, Vatican News, l’évêque de Rome rappelle qu’un outil simple reste sous le contrôle de l’être humain qui l’utilise, à l’inverse de l’IA qui peut s’adapter de manière autonome à la tâche qui lui est assignée et – si elle est conçue de cette manière- faire des choix indépendants de l’être humain pour atteindre l’objectif fixé. Ainsi l’être humain décide dans son cœur, la machine elle choisit seulement parmi plusieurs possibilités sur des critères définis ou des déductions statistiques. Le Pape a donc exhorté à remettre la personne humaine « au centre d’une éthique partagé », parce qu’il n’est pas possible que des questions vitales, des guerres à l’information, du fonctionnement des démocraties à la liberté même des personnes, soient confiées aux évaluations d’une machine qui « ne peut qu’examiner des réalités formalisées en termes numériques ».
Une des préoccupations majeure qu’il a exprimé a été le cas concret des conflits armés pour lequel il devient urgent de repenser le développement et l’utilisation de dispositifs tels que les «armes autonomes létales», afin d’en interdire l’usage. La parole du Pape représente un fort avertissement : «Aucune machine ne devrait jamais choisir d’ôter la vie à un être humain. »
(Photo publiée par Le Corriere della Sera)
Sa Sainteté a bien reconnu dans son discours que la révolution « cognitive-industrielle » en cours pourrait avoir des effets bénéfiques : « Par exemple, l’intelligence artificielle pourrait permettre une démocratisation de l’accès au savoir, le progrès exponentiel de la recherche scientifique, la possibilité de déléguer à des machines des tâches épuisantes… mais, en même temps, elle pourrait entraîner une plus grande injustice entre nations avancées et nations en développement, entre classes sociales dominantes et classes sociales opprimées, mettant ainsi en péril la possibilité d’une « culture de la rencontre » au profit d’une culture du rejet ».
Pour que les programmes d’intelligence artificielle « soient des outils de construction du bien et d’un avenir meilleur » il a rappelé qu’ils doivent toujours être dédiés au bien de chaque être humain, ils doivent avoir « une inspiration éthique ».
Le parcours du Vatican à propos de « l’algoréthique »
« Ce néologisme, qui associe algorithmes et éthique, désigne une approche éthique de la question de l’IA. Il a été discuté pour la première fois en 2019 au Vatican et a été suivi par le document Rome Call for AI Ethics, qui a également été signé par des représentants du judaïsme et de l’islam et le sera bientôt par les religions orientales. » dit le père Paolo BENANTI, théologien et professeur à l’université GREGORIANA, conseiller du Pape, membre du Comité de Nations Unies et président de la Commission sur l’IA du gouvernement italien. Dans une interview à Le Corriere della Sera, il rappelle que : « L’intelligence artificielle est un grand multiplicateur. En ce sens elle est capable de multiplier le bien-être, la richesse et la recherche, de l’environnement à la médecine, ou au contraire d’accroître les inégalités et les injustices. Il s’agit de comprendre ce que nous voulons multiplier. Cela nécessite une approche éthique ».
Le Pape François a consacré deux documents à ce thème cette année : le message pour les Journées Mondiales de la Paix et des communications sociales et le message au G7. Il reconnaît les réalisations et les possibilités offertes par la science, tout en mettant en garde contre les risques : tels que les « systèmes d’armes autonomes mortels » et « les algorithmes qui remplacent la prise de décision humaine », ou le danger d’une « dictature technologique », ou encore le contrôle des données, « la manipulation de l’information qui peut influencer les décisions et s’attaquer aux démocraties ».
Enfin le Saint-Père a relancé encore sa réflexion sur l’influence de l’IA, et surtout de l’IA générative, sur la société et de son impact sur le travail, le 22 juin en recevant en audience à Rome les participants à la Conférence annuelle de la Fondation Centesimus Annus (présente en 15 pays, avec 35 groupes de travail).
Et il a invité chacun à se poser la question fondamentale : à quoi sert l’IA ?
« Sert-elle à satisfaire les besoins de l’humanité, à améliorer le bien-être et le développement intégral des personnes, ou sert-elle à enrichir et à accroître le pouvoir déjà élevé de quelques géants technologiques malgré les dangers pour l’humanité ? » s’est interrogé le Saint Pontife, en rappelant que : « C’est sur le front de l’innovation technologique que se jouera l’avenir de l’économie, de la civilisation, de l’humanité elle-même ».
