Mes notes suite à la lecture de l’article de Félix Tréguer, publié en septembre 2021.
Mes notes
Il est frappant de constater les similitudes entre ces préconisations et les règles adoptées à l’époque du premier cycle d’informatisation de la société, dans les années 1960-1970. Afin de mettre en évidence cet « éternel retour » de modes devenus routiniers de gestion des controverses liées au numérique, ce chapitre propose de replacer l’automatisation actuelle des bureaucraties publiques dans une histoire plus longue de l’État et de l’informatique. Il s’agit ainsi de montrer que cette focale procédurale par laquelle on tente aujourd’hui de conjurer les dangers de l’informatique risque non seulement de se solder par un échec, mais qu’elle élude aussi nombre des enjeux démocratiques soulevés par la démultiplication des technologies numériques au sein des administrations et, plus largement, dans l’ensemble du monde social.
Sur « l’État digital » de la présidence Macron
L’« État digital » est aussi et surtout un État en voie d’automatisation : pour accompagner l’horizon du non-remplacement de près de 50 000 fonctionnaires d’ici à 2022, le plan Action Publique 2022 lancé en octobre 2018 misait sur des « technologies telles que l’intelligence artificielle et les RPA (“robotic process automation”), et ce afin de « d’automatiser les tâches répétitives et à faible valeur ajoutée ».
D’où l’importance de rappeler que s’il n’y a pas de dématérialisation de l’État (car l’infrastructure numérique est extrêmement matérielle1), on peut bien parler de déshumanisation de l’État.
Face à ce processus, des craintes s’expriment dans certains segments de la société. Sont notamment évoqués les risques pour la vie privée, l’avènement d’une « société de contrôle » appuyée sur l’informatique, l’opacité des as- semblages algorithmiques, les formes aggravées de déshumanisation induites par l’automatisation ou encore l’accentuation des inégalités structurelles. Au sein même des bureaucraties concernées par ces transformations, la peur du déclassement de l’humain par la machine, le surcroît de procédures, le risque de bugs techniques ou le phénomène rampant de privatisation suscitent également leur lot de résistances parmi les agents.
C’est exactement en ce sens que j’ai écrit l’article Éduquer au numérique d’accord. Mais pas n’importe lequel et pas n’importe comment. D’une certaine manière, l’éducation au numérique accompagne cet état de fait qu’est la numérisation et l’automatisation de l’état. Il la rend possible, il la légitimise.
Sur une histoire qui se répète
En dépit de l’impression qui domine généralement d’avoir à faire à des dé- fis tout à fait inédits, il est frappant d’observer la similitude des controverses actuelles avec celles ayant marqué le premier cycle d’informatisation de la so- ciété, dans les années 1960-1970.
Au XIXe siècle en effet, l’intégration et l’homogénéisation territoriale des États en lien avec le développement du capitalisme industriel allait en effet conduire à d’importants changements dans les modes d’organisation sociale. La bureaucratisation apparut alors comme une forme organisationnelle idoine permettant de restaurer des formes de contrôle social efficaces, en lien avec de nouveaux procédés techniques
Dans son étude sur la mécanisation croissante du traitement de l’information à partir du XIXe siècle, Delphine Gardey revient sur l’enjeu de l’organisation rationnelle des flux d’information au sein de ces nouvelles structures, un impératif qui créait « des contraintes de plus en plus fortes » et imposait d’« augmenter le volume autant que la rapidité de production des écritures ». Après les dispositifs comme le dactylotype ou la machine à écrire, ce serait bientôt au tour du télégraphe et du téléphone, puis aux technologies ancêtres de l’ordinateur comme la tabulatrice d’Hollerith, de venir outiller les bureaucraties.
À partir des années 1960, cette critique anti-bureaucratique va exercer une influence déterminante sur les luttes nourries par divers mouvements contestataires. Au sein de la contre-culture, la technocratie – cet amalgame des sciences et de la rationalité bureaucratique – essuie alors de violentes critiques. Aiguillés par les intellectuels ou des scientifiques, nombre de mouvements sociaux prennent ainsi pour cible la technologie qui, plus que toute autre, se présente comme l’instrument par excellence de la domina- tion bureaucratique : l’ordinateur. L’informatique leur apparaît comme le point d’aboutissement de ce gouvernement supposément « rationnel », froid et déshumanisé mais aussi extrêmement secret.
Effectivement, la bureaucratie et la technocratie irriguent la mentalité des pionniers de l’informatique, d’internet et du web. On ne peut que citer la publicité mythique d’Apple sur 1984. L’ordinateur personnel était la réponse, le syncrétisme idéologique des technologues et des hippies issus de la contre-culture. A (re)lire sur ce sujet : Aux sources de l’utopie numérique.
Alors, face aux contestations, les réformateurs d’État des années 1970 vont proposer une sorte de compromis capable d’assurer l’acceptabilité sociale de l’informatique. L’objectif implicite est de convaincre la population que non seulement l’informatique peut être encadrée afin que ses effets délétères soient contenus, mais qu’elle peut en outre rendre l’État plus souple et agile, moins autoritaire, plus en prise avec la aspirations démocratiques.
Le second pilier de ce pacte tacite proposée par les élites à une population encore largement rétive à l’informatique consiste à tirer partie de cette technologie pour promouvoir la transparence de l’État et à faire reculer le secret administratif.
Donc en effet on vend les technologies numériques en promettant efficacité, transparence et respect de la vie privée. On ne parle pas de 2021, on parle de la fin des années 70. La loi informatique est liberté est adopté en 1978 pour faire face au scandale Safari. Aujourd’hui ce projet ne ferait plus hausser le sourcil d’ailleurs.
Même s’il n’explique évidemment pas tout, ce compromis fondé sur le couple « protection de la vie privée » et « transparence administrative » semble avoir rempli son rôle. Au début des années 1980, après les contesta- tions des années 1960 et 1970, la mode néo-libérale marque le retour en force d’un relatif consensus autour du système économique dominant. L’informa- tique – qui n’est désormais plus l’apanage des grandes bureaucraties – semble désormais emporter l’adhésion du public.
En septembre 1985, un rapport officiel fait état de 970 000 ordinateurs domestiques en France contre 100 000 à la fin des années 1970, soit 860 000 foyers équipés et environ 1 700 000 utilisateurs. De plus en plus, l’ordinateur se donnait à penser comme une technologie émancipatrice. L’informatisation était en marche.
Sur la surveillance qui est advenue, sur la transparence qu’on attend toujours
Du côté de la protection de la vie privée et des données personnelles, force est de constater que la société de surveillance tant redoutée dans les années 1970 est bel et bien advenue. Dans les années 1990, l’essor rapide d’Internet a en effet marqué une nouvelle rupture dans l’histoire du capitalisme de surveillance : tandis qu’une grande part des activités sociales, économiques, politiques, migraient vers l’éther du « cyberespace », la quantité quasi infinie de traces numériques ainsi générées s’est transformée en une matière brute extraite et valorisée par une poignée d’acteurs économiques qui, à l’instar de Google, les exploitent à des fins de ciblage publicitaire.
En encourageant un logique de contrôle a posteriori en lieu et place d’autorisations accordées ex ante, le RGPD a même contribué à créer des marges de manœuvres pour les collectivités locales adeptes de « police prédictive » ou de vidéosurveillance automatisée. En ce sens, ce texte poursuit une évolution déjà ancienne tendant au recul tendanciel des pouvoirs de cette autorité administrative indépendante vis-à-vis des administrations publiques.
En matière de transparence aussi, les promesses des années 1970 ont fait long feu. Plus encore que nombre de textes équivalents à l’étranger, la loi CADA reste grevée d’importantes exceptions permettant aux administrations de s’opposer à la communication d’informations en leur possession.
Depuis, la plupart de ces politiques [d’open data/de transparence] se sont heurtées à la frilosité des administrations ou se sont enferrées dans un déterminisme technique qui ferait de la seule mise à disposition volontaire des données publiques le vecteur d’une capacitation citoyenne, sans qu’il soit nécessaire d’interroger leurs conditions d’appropriation. En réalité, la priorité semble plutôt consister à ouvrir le patrimoine des données publiques en vue de leur valorisation commerciale par des acteurs de marché, voire de permettre à ces derniers de prendre directement en charge certaines fonctions traditionnellement associées aux services publics. D’où une approche largement quantitative, qui continue de protéger des informations jugées sensibles par les administrations. Une fois inscrite dans ces schèmes de pensée, l’open data apparaît comme l’énième incarnation néo-libérale d’un discours technocratique ancien qui, sous cou- vert de modernisation et d’efficacité, contribue en fait à la privatisation des politiques publiques et à des formes avancées de dépolitisation.
Sur la question du transfert de fonctions du public au privé, un exemple récent qui peut sembler parlant est celui de Covid Tracker. Ce site d’intérêt général est réalisé par une équipe de bénévoles sous une forme privée, en se basant sur les données publiques de l’état (qui furent d’ailleurs difficile à obtenir initialement).
Sur la situation actuelle qui reproduit les erreurs du passé
Quarante ans plus tard, à l’heure où le Big Data ou l’intelligence artificielle s’accompagnent d’une recentralisation phénoménale des capacités de calcul, à l’heure où l’accumulation des crises et des législations d’exception conduit à l’hypertrophie du pouvoir exécutif et à la consolidation d’un contrôle policier de plus en plus diffus45, un tel découplage entre pouvoir et informatique paraît moins probable que jamais. Pourtant, dans ce contexte peu engageant, les controverses contemporaines continuent de miser sur les mêmes remèdes, faits de garde-fous pour les droits et libertés et d’obligations de transparence.
Sur le plan juridique, les « gardes-fou » adoptés par le législateur ou les juges s’avèrent eux aussi très fragiles. Compte tenu des logiques bureaucratique d’optimisation (fonctionnelle, budgétaire, etc.) des tâches administratives, l’innovation technologique (dans le contrôle d’identité, le placement des bachelier, etc.) tend systématiquement à créer un besoin, le- quel se traduit tôt ou tard par des réformes visant à légaliser des usages qui paraissaient auparavant techniquement inenvisageables ou socialement inacceptables. Même lorsque le législateur prévoit des garanties jugées fondamentales à un moment donné – par exemple l’interdiction de prendre une décision administrative sur le fondement exclusif d’un algorithme (un héritage des débats des années 1970) –, celles-ci peuvent plus tard se voir re- mises en cause sans vrai débat de société.
Ainsi, bien que les agents soient légalement censés garder la main et que ce sont eux qui doivent in fine prendre une décision, les biais cognitifs risquent de les conduire à suivre les recommandations des algorithmes, lesquels sont généralement parés d’une aura d’objectivité et réputés plus fiables que les jugements humains – une manifestation de cette « honte prométhéenne » des Hommes face aux machines qu’évoquait Günther Anders.
Sur des machines gouvernées par des machines
Cette analyse conduit à une autre interrogation : le fait d’accepter d’être administré par des machines ne conduit-il par à rompre avec l’horizon politique de l’humanisme, en acceptant de nous concevoir nous-mêmes – personnes administrées – comme des machines, c’est-à-dire comme les objets de gouvernement plutôt que des sujets politiques ?
La focale procédurale et le primat donné aux dispositifs socio-techniques dans l’évaluation des « risques » écarte aussi d’autres enjeux soulevés par la logique d’optimisation bureaucratique. Par exemple, l’une des justifications les plus courantes à l’informatisation des administrations tient à des enjeux comptables et budgétaires : en réalisant un saut qualitatif dans l’automatisation, l’IA permettrait de faire « passer à l’échelle » tel ou tel process bureaucratique en réalisant des économies d’échelle.
Passer à l’échelle, « scaler », maximiser son impact… Il y aurait tant à dire sur cet impensé de vouloir systématiquement massifier une solution technique ou technologique. Ça me fait d’ailleurs penser à l’ESS, ou à la tech for good, qui applique cette même idéologie, ce même langage au service « du bien ».
Parmi les autres enjeux fréquemment éludés par la focale procédurale, on pourrait encore évoquer le coût écologique engendré par le processus d’automatisation (l’un des arguments opposés par les abonnés Enedis à l’automatisation des relevés de leur consommation électrique via les compteurs connectés), la privatisation de l’expertise et l’affaiblissement des compétences des agents publics dès lors que les algorithmes sont le plus souvent conçus par des prestataires externes (ce dont ont pu se plaindre des syndicats policiers opposés à des partenariats avec des entreprises spécialisées dans des technologies de surveillance), l’incapacité fréquemment constatée des grands chantiers de dématérialisation à atteindre l’objectif de « simplification » des démarches et de réduction de la complexité bureaucratique, ou encore la légitimité des revendications de celles et ceux qui refusent de répondre aux multiples injonctions technologiques afin de continuer à bénéficier des services publics en exigeant de pouvoir accéder à des guichets physiques, peuplés d’humains en chair et en os.
Là aussi, en lien direct avec mon article Éduquer au numérique d’accord. Mais pas n’importe lequel et pas n’importe comment. Il y a une vraie légitimité à refuser l’injonction technologique sans être privé de ses droits de citoyens.
Face à tous ces défis, l’éthique dont il est beaucoup fait mention dans les controverses sur l’informatisation apparaît comme un lot de consolation parfaitement inapte. Constatant qu’elle était sans cesse bafouée dans la pra- tique des institutions, Castoriadis disait d’ailleurs de l’éthique qu’elle était un « cache-misère » : « la raison d’État », écrivait-il, « est infiniment plus forte que la raison pratique et que les Dix Commandements ».
Lire à ce sujet Le chercheur en éthique : un capital comme un autre ? sur Mais ou va le web.
Si, comme nous l’avons suggéré, l’automatisation aggrave les tendances totalitaires de la domination bureaucratique, et si la multiplication de procédures pour en contenir les effets délétères a fait la preuve de sa trop grande inefficacité, il est peut-être temps d’en tirer les conséquences. Sans forcément renoncer à dépasser l’antagonisme entre bureaucratie et démocratie, il s’agirait alors de nous en tenir à un principe de précaution en joignant nos voix à celles et ceux qui, en différents endroits du monde social, disent haut et fort leur refus d’un « État digital » et du projet technocratique dont il procède.