Le numérique menace-t-il la démocratie ?

Par qui sommes-nous gouvernés, et d’abord qu’est-ce que la gouvernance ? Et les algorithmes dans tout cela ?

Antoinette Rouvroy est passionnée et passionnante et c’est au pas de course qu’il nous faut la suivre dans ses réflexions très argumentées sur les menaces que la numérisation fait peser sur notre démocratie. Plutôt que « gouvernance », elle propose le terme de « gouvernementalité », suivant en cela l’héritage de Foucault qui ne se cantonne pas au pouvoir des institutions mais aux rapports de co-construction des savoirs, des pouvoirs et la sujétisation. La gouvernementalité consiste donc à façonner le champ d’action d’autrui. Or, les algorithmes nous gouvernent en permanence sans avoir la légitimité pour cela. Car il n’y a pas de délibération collective sur les normes. Donc, nous sommes gouvernés sans le savoir et sans le contrôler.

Une analyse que ne partage pas Hugues Bersini, et pour cause : il écrit des algorithmes pour nous aider à vivre. Il reconnaît que ces calculs nous obligent à adopter certains comportements mais « nous avons besoin de ces algorithmes liberticides car ils sont efficaces. Il s’agit donc d’une nouvelle forme de gouvernance à étudier. »

Exemple tout récent : la nouvelle signalétique des films est-elle le fait d’un algorithme liberticide ? En effet, pourquoi confier aux algorithmes le soin de décrire des situations complexes et d’en tirer des conclusions morales ainsi que le font les humains ? S’interroge Antoinette Rouvroy. Bien sûr, « les machines peuvent tirer des règles à partir des données qu’on leur injecte mais cela signifie que ces normes dépendent du comportement de tous. C’est une automatisation, une tyrannie de la majorité. La question est : une juxtaposition non délibérée des usages de chacun doit-elle produire une norme non délibérée ? »

Des algorithmes liberticides

Et Hugues Bersini d’ajouter : « Netflix prédit le comportement des êtres humains. La firme va se baser sur cela pour recommander son produit et pas un autre plus original ou différent. En fait, cela supprime le débat public sur les films. »

Et aussi le débat sur la justice, avance Antoinette Rouvroy : que signifie en effet l’expression « se comporter en bon père de famille » ? « C’est le rôle du juge de l’interpréter. Mais si la recommandation d’action par les algorithmes se base sur les comportements d’individus juxtaposés, il n’y a plus de projet commun et public.  Nous assistons à l’émergence d’une idéologie de l’hyper individualisation où toutes les normes sont adaptées à chacun qui devient ainsi une microbulle dans la société. On assiste à une hypertrophie des sphères privées et une désertification de l’espace public au profit d’une logique sectorielle hyper fonctionnaliste. » Traduction libre : nous devenons nous-mêmes des robots régentés par des normes élaborées à partir d’une masse d’individus et qui s’appliquent à chacun de nous sans que cela soit discuté par la société. C’est donc bien une atteinte à la démocratie qui, elle, repose sur le débat collectif afin d’élaborer une gouvernance collective.

La preuve ? Ce qui s’est passé en France lors de la dernière campagne électorale pendant laquelle on a multiplié les questionnaires en porte à porte. « Les problèmes individuels ainsi collectés sont devenus des données numériques traitées par des algorithmes afin d’élaborer un état de la France, base du programme du président Macron. Chacun transcrit ses problèmes sans confrontation avec ceux des voisins, ce qui est l’inverse de la politique qui doit transcender un état de faits, non pas pour proposer des politiques sur mesures pour des consommateurs roi, mais pour une gestion collective pour le bien de tous. » 

Des algorithmes qui accroissent les inégalités

Nos deux conférenciers se sont aussi penchés sur l’expérience Compas aux Etats-Unis, révélée par l’équipe d’investigation du site américain ProPublica. Un logiciel de prédiction de la récidive, très utilisé dans l’univers carcéral américain, a tendance à défavoriser les condamnés noirs. Or, une décision de libération conditionnelle est très souvent basée sur ce logiciel Compas et de plus en plus de juges justifient leur jugement par la prédiction du logiciel. De plus, il est notoire que les policiers US arrêtent plus de personnes afro-descendantes que des blancs.

Bien sûr, rétorque Hugues Bersini, « les algorithmes ne sont responsables de rien ; il s’agit d’une réalité statistique à interpréter. Les bases de données doivent toujours être vérifiées et notamment afin de constater comment on les alimente ». Et la chercheuse de porter l’estocade : « le Big data n’est pas une réalité non biaisée, objective. C’est faux. Il ne dit rien de la matérialité du monde. Il produit des espaces spéculatifs. Nous sommes dans une sphère probabiliste. Un exemple : un algorithme de reconnaissance faciale destiné à prévenir le risque d’émeute en ville est basé sur des données récoltées à Beyrouth et appliquées à Paris. » Un autre évalue le risque de non remboursement de crédits selon les quartiers habités par les demandeurs de crédits. « Voilà une nouvelle forme de déterminisme social à cause d’une proximité numérique qui ne dit rien de la complexité de la vie réelle. Les algorithmes produisent donc des « effets de gouvernement » par manque de courage : on m’interdit de faire ce que je crois pouvoir faire, à savoir rembourser mon crédit, simplement parce que j’habite un quartier déterminé. Et cela parce que des banques appliquent les normes avancées par des algorithmes qui deviennent ainsi liberticides. Ils aident à un formatage social efficace, redoutable même. Ils accroissent le pouvoir des banques et amplifient les inégalités. »

Comment reprendre le contrôle ?

Un raisonnement partagé par Hugues Bersini qui insiste sur une reprise du contrôle des algorithmes. En effet, dit-il, « les algorithmes que nous élaborons nous forcent à nous poser des questions car nous devons nous imposer des règles en les créant. Ainsi, l’algorithme qui met en œuvre le décret inscriptions à l’école a montré le phénomène de ghettoïsation de certaines écoles à cause du critère de proximité pour inscrire les enfants. Donc, d’accord pour inviter des assemblées citoyennes à nous questionner sur le vivre ensemble grâce aux données apportées par les algorithmes. Nous aurons ainsi une décision citoyenne ainsi qu’une explicitation des règles sociales. »

Une proposition qui fait bondir Antoinette Rouvroy : « Les algorithmes ne voient rien mais ils défont nos manières de voir. Le monde n’est pas réductible à une prolifération de données. Nous ne sommes pas des amas de données. Ce sont des signaux quantifiables qui nous rendent calculables. Acceptons-nous cela ? » Avant, les statistiques voulaient donner une approximation mais avec une visée de neutralité ; « ce n’est plus le cas du Big data où l’idée de moyenne disparaît et surgit une nouvelle forme de modélisation du comportement par ce phénomène de personnalisation à l’échelle industrielle. Ainsi on tente de détecter des terroristes potentiels, afin de prévenir des événements graves mais rares. Mais que dire de l’usage de drones en Afghanistan qui tuent des suspects sans qu’on ait la moindre preuve de leur dangerosité ? En plus, ils tuent des sauveteurs qui tentaient de secourir les victimes et même les participants à un convoi funèbre… »

« Il y a moins d’erreurs par des machines que par des soldats », rétorque Hugues Bersini.

Mais le soldat peut être jugé. Ce qui n’est pas le cas d’une machine. Et, souligne Antoinette Rouvroy, « il bénéficie du doute, celui du juge conscient de sa propre ignorance. Mais nous risquons d’assister à une justice, pressée par l’arriéré judiciaire et le manque de moyens, qui se tourne vers les algorithmes et donc une sorte de robotisation des juges. Or, le droit autorise la remise en question par le recours, ce qui fait évoluer le droit. » Les algorithmes anticipent et élaborent la norme. Il nous faut désobéir à la norme pour la faire évoluer, la remettre en question sans cesse. »

« Mais les algorithmes sont sans cesse réécrits », proteste Hugues Bersini. « Ils sont efficaces et utiles pour l’analyse du climat, de l’économie, la gestion de l’eau, de l’électricité. Cependant, ils formatent nos comportements conditionnés par Google, Waze, etc, et on n’en discute même pas. Savez-vous que c’est Microsoft qui assure la gestion des soins de santé en France ? Il faut donc que les citoyens interviennent dans l’écriture des algorithmes ce qui améliorerait la démocratie participative », conclut-il.

Ce qui ne convainc pas Antoinette Rouvroy : « l’algorithme sera-t-il plus juste et démocratique ? Il nous faut, certes, développer une culture de l’algorithme mais aussi le sentiment d’équité et la légitimité donnée par notre système législatif. »

• Conférence donnée dans le cadre du cycle « Pour un numérique humain et critique », saison 5 : « Le milieu numérique est-il démocratique ». Cycle organisé par Culture & Démocratie, Gsara, Cesep, Pac, Revue Nouvelle, etc. https://www.cultureetdemocratie.be/chantiers/numerique/cycle-pour-un-numerique-humain-et-critique-saison-5
• Antoinette Rouvroy, chercheuse au FNRS et philosophe du droit à l’U-Namur, spécialisée dans l’étude de la gouvernementalité algorithmique.
• Hugues Bersini, professeur d’informatique et directeur du laboratoire d’intelligence artificielle de l’ULB.
• https://www.nouvelobs.com/rue89/rue89-etats-unis/20160524.RUE2964/etats-unis-un-algorithme-qui-predit-les-recidives-lese-les-noirs.html

Lire aussi :

Manifeste pour une justice numérique : https://www.cetri.be/Manifeste-pour-une-justice

Définitions :

• Algorithme : « Ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur. » Larousse.
• Gouvernance : Action de gouverner. Manière de gérer, d'administrer. Larousse.
• La gouvernementalité est « un concept créé par Michel Foucault qui désigne la rationalité propre au gouvernement de la population. Cette rationalité se retrouve à la fois dans des institutions et des analyses scientifiques, dans une forme de pouvoir sur la population que l'on appelle le gouvernement et dans la construction d'un État administratif qui a à gérer cette population. L'objectif de ce concept est de déconstruire le concept d’État et de montrer ce qu’il recouvre, comment il s'est construit et sur quels savoirs il repose ». Wikipedia.

Déjà paru sur entreleslignes.be :

https://www.entreleslignes.be/humeurs/zooms-curieux/les-algorithmes-champions-des-%C3%A9lections

https://www.entreleslignes.be/humeurs/zooms-curieux/travail-digital-la-nouvelle-ali%C3%A9nation

https://www.entreleslignes.be/humeurs/zooms-curieux/num%C3%A9rique-le-travail-notre-force%E2%80%A6

https://www.entreleslignes.be/humeurs/zooms-curieux/votre-vie-priv%C3%A9e-nous-int%C3%A9resse

https://www.entreleslignes.be/humeurs/zooms-curieux/l%E2%80%99inqui%C3%A9tante-alliance-du-digital-et-du-vivant

https://www.entreleslignes.be/humeurs/zooms-curieux/l%E2%80%99intelligence-artificielle-est-elle-intelligente

https://www.entreleslignes.be/humeurs/zooms-curieux/la-peur-devenue-folle

https://www.entreleslignes.be/humeurs/zooms-curieux/la-s%C3%A9curit%C3%A9-sociale-une-grand-m%C3%A8re-num%C3%A9rique

https://www.entreleslignes.be/humeurs/zooms-curieux/davos-%C3%A0-quoi-r%C3%AAvent-les-plus-riches-du-monde