Siècle des Intelligences

En inventant le code binaire il y a 170 ans, l’être humain n’avait certainement pas envisagé qu’il deviendrait lui-même une suite de 0 et de 1. Aujourd’hui, les algorithmes sont omniprésents dans tous les pans de la société et nous gouvernent directement ou indirectement. L’information est partout et l’algorithme permet à l’homme d’interagir avec cet écosystème informationnel et décisionnel. De fait, les systèmes algorithmiques envahissent notre quotidien notamment grâce à leur côté prédictif dans tous les secteurs d’activité. Ils sont le cœur opérationnel de tous les sites Internet et logiciels, comme des objets connectés, des systèmes d’information (SI), des plateformes, des Intelligences artificielles (IA), et des Blockchain. Certains en viennent à penser que le développement excessif des technologies a provoqué des modifications qui affectent et mettent en péril l’essence de l’homme devenu un simple rouage d’une machine, voire sa servitude. Influencé et conditionné par la machine, ce dernier perd sa capacité créatrice, son autonomie, et se retrouve dépourvu de tout objectif et de libre arbitre. Moyen et finalité de l’être humain, la technologie transforme celui-ci en outil de son propre développement.

Cette transformation digitale introduit un changement de repères contextuels et de perspectives axés sur l’information et sur son potentiel de valorisation financière. Désormais, la valeur de la donnée numérique est conditionnée par un ensemble de paramètres et de critères transversaux tels que son accessibilité, son intégrité, sa fiabilité, sa légitimité, sa finalité, sa confidentialité, etc. Dans ces conditions, ces algorithmes font sans doute partie des créations immatérielles les plus valorisées de notre économie contemporaine. La quasi-totalité des acteurs du marché fondent leur modèle sur la performance de leurs algorithmes et des données qui les alimentent. Les systèmes algorithmiques sont intrusifs et n’ont aucun scrupule à entrer dans l’intimité des personnes et à en étudier leurs comportements tant qu’ils servent un progrès, souvent assimilé à une promesse de business et à ses retombées commerciales… L’extrême concentration capitalistique au sein de quelques oligopoles apporte tous les moyens nécessaires à la prolifération exponentielle et tous azimuts des algorithmes de telle sorte que le droit et les réglementations semblent constamment en retard sur les dernières fonctionnalités qui s’invitent dans l’espace public. Parallèlement à cela, l’omniprésence de ces innovations technologiques dans la vie de tous les jours entrainent irrémédiablement des questionnements éthiques et moraux relatives au bien-fondé, la sécurité, la non-discrimination, le libre arbitre, la confidentialité et l’autonomie de celles-ci par rapport à l’être humain.

Dès lors, nous avons la conviction que pour appréhender et accompagner cette révolution digitale, il faut raisonner en transversalité, en continuum et non en silo car tout s’articule et s’entremêle. Il faudrait ainsi considérer le numérique non plus comme un outil purement instrumental mais plutôt comme un système socio-technologique constitué d’espaces d’intéressement et d’entre-définition variée voire comme la structure ou la matrice de l’organisation de l’humanité.

Les Sciences Humaines et Sociales (SHS) sont évidemment impliquées dans la réflexion tant sur l’éthique des systèmes que sur les sujets éthiques particuliers : juristes, sociologues, épistémologues, philosophes, spécialistes en sciences de l’information et de la communication, en sciences cognitives, psychologues, géographes, gestionnaires et économistes, anthropologues, ethnologues, linguistes, etc. Toutes ces disciplines apportent leurs visions, leurs approches et leurs arguments qui élaborent, développent, structurent et esquissent la réflexion éthique et qui en font sa richesse.

Dans l’inconscient collectif, l’éthique est par nature une science inexacte pleine d’approximations, voire même « fumeuse » car trop relative et subjective. On l’oppose souvent aux mathématiques, à l’informatique, et plus globalement aux sciences dites « dures ». En effet, depuis le siècle des Lumières et l’émergence de l’Encyclopédie, les civilisations humaines ont eu tendance à séparer, et à isoler pour ne pas dire à confronter les sciences dites « dures » ou « exactes » (par ex. mathématiques, physique, chimie, etc.) des sciences dites « molles » ou « douces » (par ex. philosophie, sociologie, anthropologie, etc.). Aujourd’hui, quand les professionnels des sciences humaines réfléchissent et parlent d’un monde numérique qui leur échappe, les experts scientifiques élaborent des innovations techniques sans prendre réellement conscience de leurs impacts, leurs effets et leurs conséquences sur la société. A mon sens, la principale faiblesse relative au digital se situe bien là ! En conséquence, sans contribution décisive et moderne de la communauté scientifique, cela revient à laisser la question du sens, de la légitimité et de la responsabilité des systèmes numériques uniquement à quelques acteurs prédominants du marché qui n’ont pas pour vocation de penser au bien de l’humanité.

Les grands penseurs d’un autre temps comme Platon, Pascal, Aristote ou Descartes qui étaient à la fois de grands scientifiques et philosophes n’existent plus ! Dorénavant, le philosophe scientifique est devenu une espèce en voie de disparition voire déjà éteinte. Dans cette période qui renonce à penser globalement et simultanément l’innovation, la technologie et le sens, il me parait donc essentiel de (ré-)instruire, d’une part, les scientifiques aux SHS afin de les ouvrir à des réflexions fondamentales pour le bien-être de notre société contemporaine, et d’autre part, les philosophes aux sciences mathématiques et physique pour améliorer leur connaissance vers ce que pourrait être une humanité digitale.

A bien y réfléchir, pour avoir un raisonnement éthique bien structuré, il faut être cartésien et rigoureux d’un point de vue de la méthode et de l’architecture ! Dans ces conditions, environ 500 ans après les derniers grands intellectuels pluridisciplinaires qu’étaient François Rabelais (« La science sans conscience n’est que ruine de l’âme ») et Léonard de Vinci (« Faire pour penser et penser pour faire »), nous pouvons constater que leurs pensées et leurs démarches sont plus que jamais d’actualité ! Un demi-millénaire après, il semble clair qu’il faut s’efforcer de revenir à une perception transversale et holistique pour répondre à la question suivante : comment aborder le monde actuel et comment préparer celui de demain ? Effet, la responsabilité personnelle et collective ne peut se réaliser et s’exercer sans la conscience et une compréhension d’ensemble de ses actions, existant à la fois dans le passé (comme un rapport et la conclusion des actions passées), et dans l’avenir, (comme une promesse). Ainsi, la pluridisciplinarité doit de nouveau s’imposer face à l’hyperspécialisation dû en grande partie par la mondialisation et à la concurrence internationale afin d’accompagner et renforcer l’humanité digitale qui se profile à l’horizon.

Il faut donc réhabiliter le mariage entre le numérique et l’éthique, c’est-à-dire entre le numérique et le sens, en instaurant un pont entre les deux jusqu’à ne plus les distinguer. L’un renvoie à l’autre et inversement. Le « et » se transforme en « est ». Cette union harmonieuse est l’une des conditions sine qua none pour tendre vers une humanité digitale à venir. Pour cela, il nous semble primordial de considérer un projet digital doué d’IA comme étant un organisme vivant artificiel interagissant constamment avec son environnement et les contextes multiformes qui l’entourent (par ex. technologiques, religieux, sanitaires, économiques, organisationnels, écologiques, historiques, humains, etc.). C’est donc le concept de l’Ethics by Evolution¹ que nous prônons ici et qui s’inscrit dans la continuité de celui de l’Ethics by Design² en augmentant ses capacités ! Cette nouvelle approche éthique propose une vision néo-darwinienne qui permet d’intégrer le paramètre de la temporalité et d’environnement, crucial lorsqu’elle est appliquée à des technologies qui évoluent dans le temps, afin d’anticiper et suivre au mieux les possibles conséquences des projets digitaux évolutifs, alors que l’Ethics by Design est réduite à proposer une éthique qui ne vaut qu’à un moment donné et de manière plus isolé lors de sa conception. Grâce à une amélioration continue et des critères éthiques évolutifs, tout au long de la durée de vie opérationnelle de la technologie concernée, l’Ethics by Evolution est ainsi plus proche du progrès technologique et humain, en expansion constante, et répond mieux aux problématiques, aux exigences, aux attentes et aux usages nouveaux qui en découlent.

Par ailleurs, l’éthique nécessite une vision, un dessein, une ambition qui se concrétise dans une représentation personnelle du bien commun (qui prend en compte simultanément le collectif et l’individuel), aisément communicable à un tiers. C’est la boussole qui donne la direction aux comportements, bonnes pratiques et usages à tenir. L’éthique appliquée au digital est l’affaire de tous, que ce soit les entreprises privées, les institutions publiques, et les membres de la société civile tels que les citoyens. Mais elle ne vient pas de manière naturelle…

Dès lors, penser la protection des données personnelles, la transparence, la non-discrimination vis-à-vis des consommateurs, la dépendance cognitive à la technologie, sont autant de sujets qui fondent l’action éthique qui constitue avant tout une réponse en responsabilité à une situation limite et complexe. D’ailleurs, il serait de bon sens que le Règlement Général sur la Protection des Données (RGPD) (n°2016/679) qui renforce et unifie la protection des données pour les individus au sein de l’Union européenne soit étendu et complété par cette approche centrée sur l’Ethics by Evolution englobant toutes les étapes du cycle de vie de la donnée (de sa collecte jusqu’à son usage). Conscients de cette nécessité, l’UNESCO, l’Union Européenne, les Etats qui les composent ainsi que les acteurs privés et publics de l’IA, ont pris l’initiative d’élaborer des stratégies transnationales de régulation éthique des systèmes d’IA. A cela, on voit apparaitre une multitude d’initiatives internationales³ centrées sur les principes éthiques relatifs à l’IA. La Commission européenne (CE) a notamment publié le 21 avril 2021 un projet de règlement établissant des règles harmonisées concernant l’IA. Ce projet inaugure une forme inédite de réglementation combinant à la fois : droit, normes, éthique et « compliance ». Tout ceci va bien sûr dans le bon sens ! La crainte, que nous pressentons, est que cette multitude d’approches seraient contre-productive pour la mise en lumière d’un cadre éthique de référence associé à l’IA, empêchant ainsi sa mise en application au niveau international.

Théoriquement, le souci éthique ne peut être efficace dans tous les domaines qu’à la seule condition d’être animé par le souhait de contribuer au bien-être de la personne, au bien de tous les hommes. C’est donc dès la conception, dès qu’il faudrait penser éthique en prenant en compte la nature des données, leur utilisation et leur management, ainsi que leurs finalités. Or ce n’est pas la vocation première des acteurs du marché de penser éthique au quotidien, c’est parfois même contre-intuitif dans un environnement marqué par la compétition permanente et accrue. Il faut donc les aider, leur donner un cadre de référence dans lequel s’inscrire naturellement.

Dans ce contexte, il nous parait essentiel de mettre en place un référentiel européen de l’éthique du numérique afin de constituer un socle commun de responsabilité, de prise de conscience relatif à l’impact à la fois social et écologique du digital et un cadre d’action simple. Ce référentiel se composera de principes et règles éthiques, ainsi que de préconisations et recommandations relatifs au digital.

Finalement, quelques siècles après le mouvement culturel européen aboutissant à l’émergence du siècle des Lumières qui proposait de dépasser l’obscurantisme et de promouvoir les connaissances, l’Europe pourrait de nouveau être l’initiateur d’une nouvelle vision plus transversale et de normalisation relative à l’accompagnement de l’IA. Cette révolution digitale rentrerait alors dans un siècle que l’on pourrait nommer le siècle des Intelligences. Et puis quand nous y pensons, l’expression « être une lumière » veut bien dire aussi « être intelligent » ! Dès lors, une telle approche normative relative à l’éthique des algorithmes ne doit pas être considérée comme une contrainte pour l’économie numérique européenne mais plutôt comme une opportunité tant pour les concepteurs que pour les commanditaires d’agir justement sur le monde et d’instaurer des gardes fous en portant une attention toute particulière au Design du dispositif algorithmique qui joue un rôle central dans l’interface Homme-Machine-Environnement. C’est aussi un moyen d’accroitre la confiance des citoyens face à l’expansion du digital.

Comment donc tendre vers plus de sens et d’harmonie entre les intentions, les mises en œuvre, et la finalité des outils technologiques ? L’équilibre entre la promesse de l’innovation utile et le risque de préjudice algorithmique est au cœur de cette question… Selon nous, un référentiel équilibré et ajusté peut répondre à cet impératif.

En définitive, il n’est nul besoin d’attendre le législateur pour agir en responsabilité, ni même de toujours anticiper le pire face à l’inconnu et aux risques potentiels des nouvelles technologies. Il revient aux influenceurs de la société civile, nous serons tentés de dire aux « Lumières » de cette société, aux décideurs politiques, aux professionnels du numérique, aux développeurs d’activités commerciales, à chacun d’entre nous, de réfléchir à la manière dont nous souhaitons influencer l’évolution des applications numériques. Réfléchir pour agir. D’où l’idée de créer une communauté Digital Ethics dont le mot d’ordre pourrait être en ce 500ème anniversaire, « Numérique sans éthique n’est que ruine de l’humanité » et qui prône donc pour une éthique de l’humanité digitale avant que cette révolution digitale ne dénature irréversiblement notre humanité actuelle.

Est-ce trop tard pour réveiller sa conscience et reprendre en main son destin ? Nous ne le pensons vraiment pas ! La seule solution pour l’homme de sortir de cette situation est d’assumer sa responsabilité et de surmonter l’inconscience qui gouverne son comportement. Si elle veut survivre, l’humanité est donc dans l’obligation de reprendre la maitrise sur ce raz-de-marée technologique…