Le moment est venu de démocratiser notre avenir numérique
par George Metakides,
professeur émérite à l’Université de Patras (Grèce)
Les récents développements prodigieux de l’IA appellent à une action rapide et vigoureuse, libérée des illusions du début du XXIe siècle, afin que le potentiel positif de ces technologies puisse commencer à être exploité pour le bien collectif.
Après l’effondrement de l’Union soviétique, l’existence de la démocratie représentative libérale de type occidental ne se sentait plus menacée, et semblait « aller de soi ». La théorie émergeait, selon laquelle la démocratie libérale était un « état naturel » qui devait être nourri, préservé et diffusé par le « pouvoir de marché » et la mondialisation. Il en découlait un sentiment d’euphorie mis en exergue de façon emblématique dans la « Fin de l’histoire » de Francis Fukuyama.
Alors que les développements géopolitiques connexes à ce nouvel ordre des choses étaient discutés par les historiens et les politologues, on oublia trop souvent que, pratiquement au même moment, le World Wide Web naissait et commençait à prospérer, renforçant encore l’euphorie des années 1990 en augurant un âge d’or numérique de la démocratie – une renaissance culturelle qui réinventerait la démocratie comme une agora athénienne numérique où les biens ainsi que les idées seraient librement échangés. On pensait, avec des preuves préliminaires substantielles (par exemple, les premiers espoirs associés au Printemps arabe), que serait permise une participation citoyenne plus directe et plus informée dans des sociétés démocratiques et ouvertes.
Hélas, cette vision d’abondance, de prospérité et de bonheur démocratique numérique s’est avérée n’être qu’une illusion. Les propriétés positives indéniables du Web se sont accompagnées d’un nombre croissant de caractéristiques négatives. Alors que la démocratie commençait à reculer dans le monde entier, le scepticisme quant à l’impact d’Internet a commencé à croître, conduisant finalement Tim Berners-Lee [NDLT : Tim Berners-Lee est un physicien et informaticien britannique, chercheur au CERN] à appeler, en 2019, à « une action mondiale pour sauver le Web de la manipulation politique, des fausses nouvelles, de la manipulation de la vie privée et d’autres forces malveillantes qui menacent de nuire et de plonger le monde dans une dystopie numérique. » Cette dystopie est désormais encore exacerbée par l’avènement de l’IA générative et la facilitation de la désinformation alimentée par l’IA, le comportement des réseaux sociaux piloté par la foule, la polarisation des extrêmes menaçant la démocratie, et les dangers que ces réseaux font peser sur la santé mentale des enfants.
En fait, démocratie et numérique vivent des « vies parallèles » depuis les années 1990. L’euphorie qui a immédiatement suivi l’effondrement de l’Union soviétique a provoqué un affaiblissement de la défense et de la promotion de la démocratie, ce que Timothy Snyder [NDLT : Timothy D. Snyder est un historien américain, spécialiste de l’histoire de l’Europe] a appelé un « désarmement moral unilatéral ». Simultanément, un sentiment d’euphorie aussi puissant et un techno-optimisme débridé ont empêché d’anticiper certains des impacts négatifs des technologies numériques et de l’émergence de la Big Tech : la monétisation à grande échelle des données personnelles et la possibilité d’utiliser leurs plateformes pour perturber et corrompre les processus démocratiques. L’utopisme marchand et le techno-utopisme allaient de pair et se sont renforcés mutuellement.
Comme les temps changent ! Au début du XXIe siècle, les « activistes du numérique » s’inquiétaient, à juste titre, d’un éventuel contrôle gouvernemental sur la sphère publique numérique, mais ils n’ont pas réussi à anticiper la menace d’un contrôle exercé par un très petit nombre de très grandes entreprises. Il est ironique qu’aujourd’hui ils appellent, à raison, à une intervention vigoureuse des gouvernements pour nous sauver de la domination et du contrôle de la Big Tech.
Au début du Printemps arabe, fin 2010, le rôle des médias sociaux a été glorifié, comme illustré par la proposition d’attribution du prix Nobel à Twitter. Avance rapide au début 2024 : le sénateur Lindsay Graham déclare à Mark Zuckerberg, PDG de Meta, au cours d’une audience du Sénat américain, qu’il a « du sang sur les mains » !
La Federal Trade Commission (FTC) des États-Unis poursuit désormais les grandes entreprises technologiques dans le but de réduire leur emprise monopolistique, et les accuse de « réécrire subrepticement leurs politiques de confidentialité pour s’autoriser à utiliser les données des consommateurs pour développer leurs produits d’IA ». Dans l’UE, une dynamique similaire est en cours à travers la législation sur les marchés numériques, le règlement sur les services numériques et la loi sur l’IA récemment approuvée. La voie est ainsi ouverte à une approche de « techno-optimisme tempéré » qui, peut-être ironiquement encore une fois, pourrait être favorisée par le battage médiatique autour des développements de l’IA générative, en termes d’attentes comme de craintes.
La société civile et les décideurs politiques sont plus que jamais prêts à soutenir une approche de régulation et d’investissement public visant à minimiser les risques que comportent les technologies numériques, et en particulier l’IA, et en même temps à contribuer à exploiter le potentiel bénéfique de ces technologies pour le bien collectif.
Ils mesurent également de plus en plus les menaces que représente une concentration sans précédent du pouvoir économique et politique entre les mains de quelques très grandes entreprises. Ensemble, les « Sept Magnifiques » (Apple, Amazon, Google, Meta, Microsoft, NVIDIA et le groupe de sociétés détenues par Elon Musk) affichent actuellement une valorisation d’environ 13 000 milliards de dollars, rivalisant avec la somme des PIB des quatre plus grandes économies européennes (Allemagne, France, Royaume-Uni et Italie réunies !) Leur puissance économique s’accompagne du pouvoir, politique, lui, de manipuler et polariser les populations, de donner aux peuples une mentalité de troupeau, à tel point que la sphère publique essentielle au bon fonctionnement de la démocratie libérale en résulte gravement corrompue.
Le fait que la concentration du pouvoir économique et politique représente un danger pour la démocratie a été reconnu aux États-Unis en 1890, comme l’a constaté le sénateur John Sherman, ce qui a conduit à une législation antitrust vigoureuse (le Sherman Antitrust Act), célèbre pour avoir entrainé 20 ans plus tard le démantèlement de la Standard Oil et d’AT&T, dans les années 80. Cet esprit s’est affaibli par la suite, et ne s’est pas rétabli depuis. Les initiatives réglementaires aux États-Unis et dans l’UE, mentionnées ci-avant, visent à raviver cet esprit, en les outils juridiques antitrust pour les adapter à l’évolution de l’écosystème numérique.
La sensibilisation du public et la prise de conscience généralisée déclenchées par les récents développements de l’IA peuvent nous aider à ne pas être collectivement entrainés à nouveau dans ce techno-optimisme passif qui a permis, par exemple, le développement non réglementé et, à bien des égards, catastrophique, des plateformes de réseaux sociaux.
Elles peuvent également accompagner le cadre réglementaire que l’UE a mis en place, et qui doivent maintenant être promus en vue d’une adoption universelle, ou en tout cas la plus large possible, avec des ajustements, en tirant parti de « l’effet Bruxelles ». Cet élan doit s’accompagner d’investissements publics généreux permettant à toutes les entreprises comme aux gouvernements nationaux et locaux, du monde entier, de développer des outils numériques conçus pour aider les gens plutôt que pour les remplacer.
Ces investissements sont absolument nécessaires pour mettre à la disposition de tous les trois principaux prérequis à une recherche et un développement innovant et centré sur l’humain : la puissance de calcul ; des données multilingues et organisées localement ; et des ressources humaines possédant l’expertise requise pour les utiliser. Ne pas fournir d’investissements pour permettre une telle « démocratisation de l’avenir de l’IA » signifierait non seulement céder à la domination technologique actuelle, mais aussi laisser exclusivement entre les mains du Big Tech le pouvoir de déterminer les orientations futures de la recherche. Cela signifierait, par conséquence, abandonner toute prétention à une sphère publique démocratique, car les grandes entreprises technologiques continueraient, pour citer la lettre ouverte de Tim Berners-Lee de mars 2024, à « exploiter le temps et les données des gens avec la création de profils approfondis qui permettent des activités ciblées, la publicité et, en fin de compte, le contrôle de l’information dont les gens sont nourris ».
Dans l’histoire du développement technologique, les propriétaires d’entreprises innovantes (des barons des chemins de fer, de l’acier, et jusqu’aux rois du pétrole) ont toujours bénéficié d’un « délai de grâce », période pendant laquelle ils établissent leurs propres règles et réalisent de gros profits générés par leur innovation. Puis arrive un moment où la société prend conscience que, au-delà d’un certain point, une telle situation conduit à des abus, à la destruction de la concurrence sur le marché et, à terme, nuit au bien-être collectif. La société décide alors d’agir, à travers la mise en place de réglementations accompagnées d’investissements publics.
Les oligarques numériques ont bénéficié d’un tel délai de grâce depuis trop longtemps. Le moment est venu de démocratiser notre avenir numérique.
George Metakides est Professeur émérite de logique à l’Université de Patras, co-fondateur et Président honoraire du Digital Enlightenment Forum, et conseiller auprès de plusieurs organisations internationales. Il a été Digital Humanism Fellow à l’Institut für die Wissenschaften vom Menschen de Vienne en 2023-2024.
Article original (anglais) : https://www.iwm.at/publication/iwmpost-article/the-time-to-democratize-our-digital-future-has-come publié dans IWMpost 133: False Prophets, False Promises © gguy / shutterstock.com
Traduction française : Michel Bosco, Expert « IA pour l’Espace » de l’Institut EuropIA.