INTELLIGENCE ARTIFICIELLE ET POUVOIR

artificial intelligence, brain, think-4815728.jpg
artificial intelligence, brain, think-4815728.jpg

INTELLIGENCE ARTIFICIELLE ET POUVOIR

Alors que l’intelligence artificielle prend de plus en plus de place dans nos vies, certains craignent que cette révolution technologique nous amène à un asservissement des humains par les machines. Mais une IA pourrait-elle réellement dominer notre espèce, de sa propre volonté ?

Les systèmes d’intelligence artificielle ont intégré nos vies, qu’il s’agisse des domaines de la médecine, de la sécurité informatique, de la conduite autonome ou de la surveillance des foules (et bien d’autres). Le fait est que les machines apprennent vite, deviennent surpuissantes. Alors forcément, une question se pose : une IA pourrait-elle un jour, d’elle-même, prendre le contrôle des humains ? Ce genre de scénario dramatique, les films d’Hollywood nous y ont habitués. Dans Terminator, par exemple, un système de défense informatique – Skynet – prend conscience de lui et déclenche une guerre nucléaire, anéantissant une grande partie de l’humanité. Mais est-ce pour autant plausible ? Non, répond Anthony Zador, neuroscientifique au laboratoire de Cold Spring Harbor.
Cette vision du futur, dit-il, reflète une véritable incompréhension de ce que représente une intelligence artificielle. « Nous surestimons considérablement la menace d’une prise de contrôle accidentelle de l’IA, car nous avons tendance à associer l’intelligence à la volonté de parvenir à la domination, explique le chercheur. Cette confusion est compréhensible : au cours de notre histoire évolutive, l’intelligence était la clé de la domination sociale. Or l’intelligence en soi ne génère pas de but en soi – comme la volonté de domination. C’est simplement un moyen de l’atteindre ».
À côté de ça, tous les êtres vivants se caractérisent par leur « intelligence naturelle ». Tous ont, grâce à la sélection naturelle, développé d’innombrables stratégies visant à perpétuer leur espèce. Cet objectif – rester en vie – est profondément câblé dans le système nerveux de tous les organismes, même les plus simples. Mais les systèmes d’IA n’ont jamais été concernés par la sélection naturelle. Ils n’ont ainsi pas eu besoin de développer d’instinct de survie qui mène à l’impulsion de vouloir dominer les autres.
Une intelligence artificielle ne pourra donc pas, d’elle-même, prendre la décision d’asservir une autre espèce dans le simple but de survivre à tout prix. Elle ne pourra le faire que si une entité (une personne, une entreprise) lui demande de le faire. Se concentrer sur les véritables risques
Pour le chercheur, cette inquiétude vis-à-vis de cette potentielle « prise » de contrôle des machines nous distrait des véritables risques de l’IA. Dans un futur proche, si ce n’est pas déjà fait, certains systèmes intelligents seront transformés en armes autonomes. Quand d’autres, en remplaçant nos emplois, auront le pouvoir de perturber toute une économie en place depuis des décennies. L’accessibilité limitée à ces systèmes pourrait également creuser davantage les inégalités sociales. Sans oublier les débordements imprévus. Tous ces problèmes sont plus inquiétants qu’une prise de contrôle par les robots.
Mais ces risques, néanmoins, peuvent être contenus si nous en prenons rapidement conscience. Et ce qui nous faisait autrefois peur pourrait en réalité être tourné à notre avantage. Des armes plus puissantes et intelligentes pourraient effectivement avoir des effets dissuasifs. On le voit aujourd’hui avec les armes nucléaires brandies par la Russie, les USA, et la Chine, chacun se gardant bien de déclencher l’horreur d’une guerre nucléaire.

Une intelligence artificielle ne pourra pas, d’elle-même, prendre la décision d’asservir une autre espèce dans le simple but de survivre à tout prix.

L’intelligence artificielle pourrait également stimuler l’économie en étant plus productive, mais aussi nous libérer des emplois les plus contraignants pour en créer de nouveaux, plus accessibles et agréables. Quant aux inégalités, de nouvelles politiques budgétaires peuvent être mises en place.
On voit donc, que, de défi économique, la révolution numérique et notamment l’Intelligence Artificielle (IA) devient maintenant un problème politique, notamment en termes de gouvernance. L’essentiel du conflit politique qui soulève la question de cette gouvernance mondiale est de savoir quels types d’acteurs (un État ou une entreprise du numérique) dirigeront ces processus, créant une asymétrie mondiale en termes de commerce, de géopolitique, de flux d’informations, de structures sociales et de pouvoir politique ?
Certaines études suggèrent que d’ici 2030, l’Intelligence Artificielle (IA) pourrait contribuer à l’économie mondiale à hauteur de 13,33 billions d’euros (plus que la production actuelle de la Chine et de l’Inde combinées). Cela implique de remettre en question le système international tel que nous le connaissons aujourd’hui.
L’Intelligence Artificielle génère un nouveau système à grande échelle fondé sur des services tels que la gestion du trafic et les véhicules intelligents, les systèmes bancaires internationaux, et les nouveaux écosystèmes de santé. L’IA va créer des chaînes de valeur globales comprenant l’Internet des Objets (IoT) et la robotique (Industrie 4.0). Sans oublier l’électronique, avec une nouvelle génération de microprocesseurs et de puces hautement spécialisées, la « nourriture » de l’IA est l’Internet – une source majeure de données, de puissance de calcul et d’infrastructures de télécommunication.
Tous les pays n’en bénéficieront pas de la même façon, étant donné que la richesse reposant sur l’Intelligence Artificielle dépendra de la disposition de chaque état à être « connecté » à Internet. Ceci est l’essence-même du problème politique entre l’espace non-territorial basé sur des réseaux informatiques à grande échelle, et les états-nations.
Les gouvernements démocratiques comme non démocratiques peinent à asseoir leur autorité sur plusieurs terrains. Premièrement, ils ont besoin de réglementer les entreprises privées mondiales exerçant un monopole de fait (telles que Google, Facebook, Apple et Amazon) qui instaurent de nouvelles règles de concurrence, créent de nouveaux marchés de la technologie et brouillent les frontières entre les différentes industries. Deuxièmement, de nombreux pays perçoivent la gouvernance d’Internet comme étant trop américano-centrée. Un bon exemple est celui de la gouvernance des adresses IP, qui a créé le précédent d’avoir une « ressource universelle » gérée par une institution privée basée aux États-Unis telle que l’ICANN. Troisièmement, la grande majorité des innovations numériques et des technologies et applications de l’Intelligence Artificielle proviennent d’un écosystème public-privé unique aux États-Unis : la Silicon Valley. Enfin, bien qu’Internet soit mondial, le développement de ses infrastructures (telles que la 5G) requiert des investissements considérables de la part d’opérateurs télécom locaux (et auparavant publics) dont les modèles d’entreprise sont moins durables.
Alors que l’Union Européenne peine à réglementer les plateformes mondiales de la Silicon Valley, la Chine a commencé à les bloquer avec un « mur numérique », faisant la promotion du protectionnisme afin d’entrer dans le jeu de la technologie mondiale et de rivaliser avec les plus grands. Parmi les géants chinois de la technologie, on trouve par exemple Tencent, Baidu, Alibaba, et l’impressionnante Digital Silk Road (« route numérique de la soie ») dont le but est de connecter l’Union Européenne avec la Chine à l’aide de différents types d’infrastructures, dont les satellites, la 5G et les câbles sous-marins. Ce projet pourrait être l’infrastructure qui permettrait à la Chine, d’ici 2030, de devenir le « principal centre d’innovation en Intelligence Artificielle du monde, transformant le pays en chef de file mondial de l’innovation et faisant de lui la plus grande puissance économique », selon la déclaration du plan national de la Chine pour l’IA.
Si l’Europe ne réagit pas plus fermement, elle devra se contenter du second rôle et d’alliances stratégiques synonymes de « cyber-vassalisation ». L’Afrique, quant à elle, s’annonce déjà comme un grand terrain d’affrontement, clairement menacé de « cyber-colonisation ».
La réaction du gouvernement américain est passée de la promotion de la mondialisation au soutien du protectionnisme et du nationalisme économique. Il est possible d’interpréter le veto sur Huawei de deux façons, dans la mesure où cette décision met non seulement la technologie de télécommunication chinoise au défi de bloquer sa domination technologique potentielle, mais limite également de manière subtile le pouvoir monopolistique du système d’exploitation mobile le plus répandu au monde : Google.
La Silicon Valley ne doit pas seulement faire face à une opposition de la part des partisans du nationalisme économique. La région est certes connue pour son innovation technologique et sa prospérité économique, mais nombre de ses résidents se trouvent en difficulté en raison d’importantes inégalités concernant l’accès au logement, aux services de santé et à l’éducation. Le maire de San Francisco, London Breed, donne actuellement la priorité à un plan favorisant l’accès au logement, et les voix de gauche au sein du Parti Démocrate exigent des mesures réglementaires afin de limiter le pouvoir des grandes plateformes numériques américaines. Mais les États-Unis ne peuvent pas se permettre de réglementer leurs plateformes, à moins que la Chine n’introduise des mesures similaires.
En outre, la réserve fédérale des États-Unis a conservé des taux d’intérêt positifs depuis la fin de la récession, contrairement à ceux de l’Union Européenne. Bien que l’écart entre ces taux soit étroit, il est possible d’imaginer qu’il y aura à l’avenir plus de contrôle des start-ups de la technologie, et peut-être aussi des changements dans les flux d’investissement de ces start-up vers d’autres secteurs et régions des États-Unis. Cela pourrait encourager l’usage de l’IA et des robots comme une main-d’oeuvre à bas coût et le retour de l’industrie dans les régions ouvrières des États-Unis. Si l’hypothèse est correcte, le gouvernement américain considère que façonner et servir son marché national est plus important que le commerce international – un jeu que la Chine pourrait facilement gagner.
Comment la Silicon Valley peut-elle agir ? Les géants de la technologie font l’apologie d’infrastructures à « IA ouverte », ce qui signifie « ouvrir la boîte » des algorithmes et propager les innovations, aidant ainsi les industries à accéder à cette technologie et aux plateformes numériques mondiales.
Les recherches de Tristan Harris, ancien ingénieur de Google et créateur du « Center for Humane Technology », ont dénoncé certains excès des grandes plates-formes.
Même si leurs produits ont sans conteste bénéficié aux utilisateurs du monde entier, ces entreprises sont aussi engagées dans une course à somme nulle pour capter notre attention, dont elles ont besoin pour monétiser leurs produits. Constamment forcées de surpasser leurs concurrents, les différentes plates-formes s’appuient sur les dernières avancées des neurosciences pour déployer des techniques de plus en plus persuasives et addictives, afin de garder les utilisateurs collés à leurs écrans. Ce faisant, elles influencent notre perception de la réalité, nos choix et comportements, dans une forme de soft power puissante et totalement dérégulée à ce jour. Le développement de l’IA et son utilisation à travers le monde sont donc constitutifs d’un type de puissance permettant d’influencer, par des moyens non coercitifs, le comportement d’acteurs, ou la définition que ces acteurs ont de leurs propres intérêts.
En ce sens, on peut donc parler d’un « projet politique » de la part des empires numériques, lequel se mêle à la simple recherche de profits.

Si l’Europe ne réagit pas plus fermement, elle devra se contenter du second rôle et d’alliances stratégiques synonymes de « cyber-vassalisation ».

Toutefois, l’annonce de Facebook de la crypto-monnaie «Libra » a ajouté une nouvelle dimension à la question : l’entreprise a essayé d’innover et de rivaliser avec le système bancaire. L’écosystème de l’IA Libra et de la blockchain englobait divers secteurs adossés aux dépôts d’argent et à la dette publique, tels que les services de paiement, le commerce, la chaîne d’approvisionnement mondiale et l’industrie automobile. Son site – et ce n’était pas une coïncidence – se trouvait à Genève, à l’extérieur de la zone euro mais à l’intérieur de l’Europe ; loin de la Silicon Valley, mais soutenu par une impressionnante alliance basée aux États-Unis. Facebook avait l’ambition de devenir une institution en zone neutre. Malheureusement, ce projet rebaptisé DIEM a fait flop et se démantèle faute d’avoir su convaincre les régulateurs, pour se reconcentrer sur le marché américain, dans un climat de méfiance.
La question cruciale qui se présente maintenant est celle de la gouvernance globale dans la lutte entre les états et les multinationales de la technologie : quel genre d’institutions et de leadership émergeront dans l’avenir pour faire face à ce défi ?
Peut-on d’ores et déjà analyser la montée en puissance de ce que l’on pourrait appeler les « empires numériques » ? Ces derniers sont le fruit d’une association entre des multinationales, plus ou moins soutenues ou contrôlées par des États qui ont financé le développement des bases technoscientifiques sur lesquelles ces entreprises ont pu innover et prospérer.
Le continent africain est pratiquement vierge en termes d’infrastructures numériques orientées vers l’IA. Le gouvernement kenyan est à ce jour le seul à développer une stratégie en la matière. L’Afrique a pourtant un énorme potentiel pour explorer les applications de l’IA et inventer de nouveaux modèles d’affaires et de services. Les investissements chinois en Afrique se sont intensifiés cette dernière décennie, et la Chine est actuellement le premier partenaire commercial des pays africains, suivie de l’Inde, de la France, des États-Unis et de l’Allemagne. L’Afrique est probablement le continent où les cyber-impérialismes sont les plus flagrants. Les exemples de l’implantation industrielle chinoise y sont nombreux : Transsion Holdings fut la première compagnie de smartphone en Afrique en 2017. ZTE, le géant des télécoms chinois, fournit l’infrastructure au gouvernement éthiopien. CloudWalk Technology, une start-up basée à Guangzhou, a signé un accord avec le gouvernement zimbabwéen et travaillera notamment sur la reconnaissance faciale. etc, etc,…
Un phénomène cyber-colonialiste puissant est ici à l’oeuvre. Confrontée aux urgences croisées du développement, de la démographie et de l’explosion des inégalités sociales – que la Chine connaît bien –, encore traumatisée par le passif de la colonisation européenne, l’Afrique est en train de nouer avec la Chine un partenariat techno-industriel logique mais très déséquilibré.
À la manière des Américains en Europe après la guerre, la Chine exporte massivement en Afrique – en les finançant tout aussi massivement – ses solutions, ses technologies, ses standards, et surtout…le modèle de société qui va avec.
Ayant le champ libre vis-à-vis des Européens, les géants américains du numérique tentent de contre-attaquer. Google a, par exemple, récemment lancé son premier centre de recherche pour l’IA sur le continent à Accra.
Les GAFAMI multiplient, en outre, les incubateurs de start-up et les programmes de soutien au développement des talents africains. L’IA est d’ores et déjà un outil de puissance, et le sera de plus en plus, au fur et à mesure que ses applications – notamment dans le domaine militaire – se développeront. Se focaliser exclusivement sur le hard power serait toutefois une erreur, tant l’IA influence indirectement ses utilisateurs à travers le monde, culturellement, commercialement et politiquement. Ce soft power, qui bénéficie surtout aux empires numériques américain et chinois, pose des problématiques éthiques et de gouvernance majeures.
Historiquement, les empires ont été caractérisés par trois traits principaux :
1) un pouvoir exercé sur un large territoire ;
2) une inégalité relative entre le pouvoir central et les « régions » administrées, souvent associée à une volonté d’expansion ;
3) la mise en oeuvre d’un projet politique à travers différentes formes d’influence (économique, institutionnelle et idéologique).
Contrairement à l’idée commune selon laquelle la révolution numérique enclenche nécessairement une décentralisation économique, il est en réalité possible que l’IA provoque, ou renforce, un mouvement global de centralisation du pouvoir dans les mains d’une poignée d’acteurs. Ces empires numériques bénéficieraient d’économies d’échelle, et d’une accélération de leur concentration de puissance dans les domaines économique, militaire et politique grâce à l’IA. Ils deviendraient des pôles majeurs régissant l’ensemble des affaires internationales, avec un retour à une « logique de blocs ». Les frontières de ces nouveaux empires numériques publics-privés se déploieraient à une échelle continentale, avec notamment des empires américain et chinois, et des stratégies de non-alignement qui seraient le fait d’autres acteurs, comme l’Europe.
Henry Kissinger a exprimé son inquiétude à propos de l’IA dans « The Atlantic » en juin 2018. Dans un article intitulé « How the Enlightenment Ends » il explique que les sociétés humaines n’étaient pas préparées à la montée de l’IA. Sans la nommer explicitement, il dénonce l’impact de l’IA sur la campagne électorale américaine, en parlant de la capacité de
ciblage de micro-groupes, notamment sur les réseaux sociaux, et de la possibilité de brouiller le sens des priorités. Si l’IA permet d’influer sur les électeurs dans les pays démocratiques, elle permet aussi, dans les États autoritaires, de renforcer le contrôle des populations.
Les grandes plates-formes doivent intégrer ces enjeux éthiques et de gouvernance à leur stratégie. L’IA, comme toute révolution technologique, offre de grandes opportunités, mais présente également de nombreux risques, imbriqués de façon inextricable.
Au final, il ne fait aucun doute que l’IA va orienter de profondes mutations au cours des prochaines décennies. Mais nous aurons toujours la main dessus. C’est donc à nous de savoir ce que nous voulons (et allons) en faire.
Sources d’informations :
FORBES « Qui va gouverner l’IA »
A. HAWKINS, « Beijing’s Big Brother Tech Needs African Faces »
CAIRN INTERNATIONAL Géopolitique de l’IA : le retour des empires. Nicolas MIAILHE
H.KISSINGER « How the Enlightenment Ends », The ATLANTIC

Lascia un commento