Le 1er décembre 2021 l’Institut EuropIA donnait au Palais des congrès d’Antibes, une conférence consacrée à l’éthique dans les développements de l’ IA, sous la présidence de Charles-Ange Ginésy, Président du Département des Alpes-Maritimes et Jean Leonetti, Maire d’Antibes Juan- les-Pins et Président de la CASA, qui ont réaffirmé la volonté de la région, de l’université Nice-côte d’azur, et de la CCI, de faire des Alpes-Maritimes une terre d’IA rayonnant dans le monde, attirant des talents du monde entier, et formant ses étudiant(e)s aux technologies de demain avec détermination.
Nos conférenciers se sont exprimés sur les enjeux de l’IA et le principe primordial de l’éthique:
– Luc Ferry, Philosophe et écrivain
– Serena Villata, Directrice Scientifique du 3IA Côte d’Azur et titulaire de la Chaire 3IA sur l’argumentation artificielle pour les humains.
– Marina Teller, Professeure de droit privé à Université Côte
d’Azur. Spécialisée en droit économique et financier, elle dirige le master 2 Droit bancaire et fintech. Depuis 2019, elle est titulaire d’une Chaire 3 IA dédiée au droit Économique et à l’IA. Expert EuropIA, IA & Ethique.
– Ludovic Dibiaggio, Directeur du centre de recherche KTO SKEMA Business School, Président d’Otésia.
Cette conférence a été animée par le journaliste Éric Revel.
Tout d’abord, le Président de l’Institut EuropIA Marco LANDI, insista sur les questions suivantes: pourquoi faut-il parler de l’IA, et comment la quantifier? C’est pourquoi à travers la MIA, EuropIA s’est donné 3 objectifs:
1-garder l’humain au cœur du débat, car pourquoi l’IA, si ce n’est pour améliorer notre vie?
2- l’IA doit être inclusive, car comment accepter que seulement 8% de jeunes-filles choisissent de faire des études dans les nouvelles technologies?
3-interpeler L’Europe qui doit impérativement sortir de sa torpeur et unir ses potentialités pour lutter à égalité avec les grandes puissances comme les USA qui trustent les GAFA, la Chine qui compte 2 sociétés d’ampleur, et la Corée 1, passées en 20 ans à des niveaux inimaginables:
Le CA d’Apple égale le PIB de la France! Ces croissances phénoménales donnent à ces compagnies un pouvoir incroyable: Europe réveille-toi!
Marco LANDI appela l’Europe à investir davantage dans des centres de recherche IA, à soutenir financièrement des start-up innovantes, et à recruter des chercheurs. Si on veut attirer des talents nombreux, il faut les payer largement, convaincre des investisseurs et donner envie à ces talents de rester sur notre territoire pour sa douceur de vivre et son éco- système technologique unique. Point d’orgue: en février 2022, le premier Salon international de l’IA (WAICF) se tiendra à CANNES et les plus grandes entreprises de l’IA seront présentes:130 sont déjà inscrites!!!
L’heure était venue de présenter son prestigieux invité:
Luc FERRY, philosophe, et ancien ministre, invité aux fins de nous aider par sa réflexion à penser l’inclusion éthique de l’IA dans nos sociétés modernes. Représentant l’humanisme moderne qui porte une voix très complexe et en même temps très compréhensible, Il montra combien L’IA est une transversale incontournable qui va révolutionner nos vies jusque dans notre intimité. Il nous présenta cette 3° révolution industrielle comme intimement liée à l’IA dans tous les domaines.
Il y a 3 types d’IA:
-L’IA faible et étroite, qui ne sait faire qu’une chose :ce pour quoi elle est programmée,
-La seconde est large, avec des systèmes experts multidisciplinaires,
-La troisième est forte, ce serait une IA qui penserait et aurait la conscience de soi :GOOGLE y travaille avec son université de la singularité, dans laquelle on essaie de copier le réseau neuronal d’un cerveau humain. C’est un point de vue matérialiste qui assimile un homme à son corps, donc la pensée dans cette optique est sortie de la matière et on peut penser qu’on va parvenir à créer un cerveau artificiel qui pourrait penser… Pour Luc FERRY, c’est une utopie proche du délire!
Dans l’évolution fulgurante de l’IA il y a 3 booster:
-la puissance des ordinateurs qui double tous les 2 ans pour analyser les données du big data: actuellement, 140 millions de milliards d »opération par seconde…
-La qualité des raisonnements des algorithmes par le calcul des probabilités: gagner du temps et de l’espace en évitant les biais.
-La quantité de données dont on nourrit les big data.
Le débat éthique est de plus très ambivalent car, dans l’économie collaborative (qui ne l’est pas vraiment) elle crée en permanence des conflits binaires entre deux légitimités différentes, et l’éthique se défend pour les deux argumentations! L’expansion de l’IA s’ intéresse aussi à présent à des domaines hautement subversifs au plan éthique:la voiture autonome, la santé avec l’ARN messager, l’homme augmenté avec la fin à moyen terme des handicaps, le vieillissement maîtrisé avec le remplacement automatique des cellules vieillissantes, conduisant un jour à l’homme immortel ? Le spectre du transhumanisme prend corps.
Ces défis éthiques sont très inquiétants notamment avec Facebook qui envisage de connecter directement les cerveaux…
Rien de toutes ces problématiques n’existerait sans l’IA. C’est un problème moral de responsabilité sociétale qu’on retrouve au niveau des échanges incontrôlables des réseaux sociaux:6000 tweets par seconde, 4 milliards de posts par jour! La seule solution serait d’interdire l’anonymat pour responsabiliser les auteurs .L’Europe doit absolument s’unir, au moins à 10, par un nouveau traité de Rome pour investir dans cette 3° révolution industrielle, ce qui suppose d’harmoniser les règles sociales et fiscales. Sinon nous resterons les sous-traitants des USA.
Ludovic DIBIAGGIO directeur de l’observatoire de l’IA oriente son propos sur l’évolution électronique de la puissance des puces qui a modifié la puissance des ordinateurs à partir de 2012.En mettant différents types de systèmes électroniques en parallèle on est passé à des dimensions exponentielles dont l’évolution est impossible à prédire. Par exemple, le réchauffement climatique présente des enjeux extraordinaires où l’IA va permettre le découplage nécessaire à la réduction des températures. Ces modèles de prédiction permettront d’optimiser la gestion de villes intelligentes (smart city) en gérant au plus juste les besoins énergétiques. L’augmentation de la capacité de calcul n’augmentera pas la chaleur produite en déplaçant les data center dans des régions plus froides pour réduire leur empreinte carbone. On décentralisera l’IA (edge computeur) et l’IA évoluera parallèlement aux neurosciences, en cherchant à imiter à grande échelle la structure cérébrale économe en énergie.
Serena VILLATA, en informaticienne, porta un regard technique et éthique sur les biais algorithmiques. Les données utilisées pour entraîner un algorithme d’apprentissage automatique reflètent des valeurs implicites. Dans deux domaines notamment, comme:
1- le harcèlement en ligne, qui ne peut être supprimé par les modérateurs humains. Cette tâche peut être influencée par les biais pour discriminer certains types de public et des algorithmes de modération peuvent contenir des biais encodés.
2-Les agents conversationnels sont capables d’interagir avec l’interlocuteur en étant évidemment biaisés et en diffusant des discriminations directes ou indirectes. Comment identifier et réduire ces biais?
Il faut étudier la construction de cet algorithme donc, les biais sont dans les données qui ont nourri la construction de l’algorithme et ce sont les développeurs humains qui les y ont introduits volontairement.
Ce n’est donc pas la machine qui génère ces biais …L’éthique reste dans les mains de l’homme qui en est la source…
Pour finir, ce sera Marina TELLER, professeur de droit privé, qui rappellera que le droit a des choses à dire à l’IA et que le premier concept est le principe de responsabilité qui est une éthique pour la civilisation technologique: « ce sont les ingénieurs avec leurs inventions, qui font le droit et le progrès du droit ».
En matière d’éthique, la morale commande, l’éthique recommande, et le droit décide.
Les juristes font des recommandations depuis 2019 avec au premier plan, l’OMS, l’OCDE, l’UNESCO, et La commission européenne qui privilégie l’excellence et la confiance, tous préconisant l’idée de la responsabilité.
Une « proposition de règlement » sera soumise au débat en première mondiale, l’Europe prenant les commandes de la régulation internationale de l’IA. Ce sera un processus long et complexe, mais ce texte sera assorti de sanctions très lourdes de portée opérationnelle allant jusqu’à 30 millions d’euros ou 6% du CA annuel;
Une pyramide des risques est ainsi édifiée identifiant:
1-les risques inacceptables qui seront interdits
2-L’IA à hauts risques qui s’exposera fortement et devra rendre des comptes sur ses process, ses objectifs, etc…
3-les risques limités, comme les « chat bot » qui s’obligeront à une information de transparence,
4-les risques minimum qui échapperont à toute régulation,
Cette approche par les risques produit un régime de risques diversifiés. Ce doit être une éthique d’avenir, de responsabilité future pour les enjeux futurs de l’humanité.
Le principe de responsabilité se heurte au principe de réalité, et les juristes sont présents dans les débats dont l’ambition est de se doter de règles. Il faut s’en féliciter, mais l’IA c’est le combat de notre génération et il se fera au coeur des entreprises et avec elles. Les Bigtech ont un rôle majeur à jouer aussi grand que
leur pouvoir. La régulation des systèmes d’IA sera indissociable de la régulation des géants des Bigtech. Ce sera un combat éthique, juridique et politique.
Ainsi s’achève une conférence passionnante qui a éclairé le public sur la difficulté et la complexité à trouver le juste équilibre entre le progrès…et ses dangers en matière d’éthique.
MARIE-HÉLÈNE PARENT
