« Les outils techniques sont neutres, prenez ce couteau par exemple »

Cette phrase, on l'entend ou on la lit presque systématiquement lorsqu'il est question de l'impact des technologies dans nos vies. Le sous-entendu, c'est que cela n'a pas de sens de vouloir critiquer les technologies, puisque celles-ci seraient neutres et que leurs effets dépendraient exclusivement de nos usages et pratiques. Par exemple, Facebook ou Tiktok, ce n'est ni bien ni mal, ça dépend de ce qu'on y fait. Idem pour les systèmes d'IA génératives, ou pour des systèmes de vidéosurveillance.

Beaucoup a été écrit à ce sujet, et il est triste qu'encore aujourd'hui, il faille remettre en cause cette « neutralité de la technique » (omniprésente dans les débats sur l'IA, par exemple). Mais permettez-moi une petite démonstration à visée grand public, à l'aide d'une petite illustration que vous pouvez évidemment reprendre à votre compte.

Version modifiable sur Gimp

Vous voyez où je veux en venir ? Vous voyez la différence entre ces deux couteaux ? L'un a été conçu, « designé » (au sens du design) pour tuer, l'autre non. L'un est joli, coloré, l'autre est sombre, voire camouflé. Ce sont deux couteaux, mais pensés pour deux pratiques et usages totalement différents.

Les couteaux, comme n'importe quel objet technique (aussi simple ou complexe soit-il), ne sont absolument pas neutres. Ils sont conçus avec une intention, dans un but précis, avec des systèmes de biais et de croyance. Cette conception prédispose certaines pratiques et usages (on parle alors d'affordance). Rappelez-vous-en à chaque fois que vous lirez ou entendrez dire que tel algorithme ou telle IA est neutre...

Aller plus loin avec Damasio

Pour aller plus loin, je vous partage un passage du récent essai de Damasio, Vallée du silicium, que je trouve à la fois clair et puissant :

À ces approches technocritiques, la Silicon Valley oppose souvent ce cliché qu’il convient de fusiller sans sommation et à bout portant. Il s’énonce ainsi : la technologie est neutre, son impact ne dépend au fond que du bon ou mauvais usage qu’on en fait.

C’est une idée courte, et même une idée stupide, quadruplement stupide. Il n’est jamais inutile de redire pourquoi :

1° Parce que la technique porte en elle une valeur latente : l’efficacité. Autrement formulé : la possibilité d’agir sur nos environnements de façon forte. Toute machine prédétermine l’utilisateur à faire de l’efficacité la valeur de son action, avant tout choix de sa part. Cette valeur a contaminé tous les domaines au point qu’un startupeur se doit aujourd’hui d’être, sur les plans à la fois professionnels, économiques, sportifs ou sexuels, performant.

Plus profondément, la technique est une manière de dévoiler le réel comme ce qui doit être arraisonné, pointait déjà Heidegger, c’est-à-dire mis à la raison, mobilisé, exploité et mis en demeure de livrer une énergie qui puisse être extraite et accumulée. Ce qui, évidemment, n’a rien de neutre. D’autres rapports au réel étaient et demeurent possibles : la recherche d’harmonie, l’écoute, la contemplation, la symbiose…

2° Parce qu’en amont, l’innovation technologique dépend de la Recherche qui dépend elle-même des crédits de recherche ou du capital-risque investi, et donc déjà d’une forte présélection des découvertes, produits et services et qu’on juge a priori « utiles » à développer car lucratifs. La machine reste donc toujours « sociale avant d’être technique » (Deleuze), c’est-à-dire qu’elle présuppose en univers capitaliste, pour être finalement fabriquée, une attente du marché et une rentabilité. Des millions d’innovations qui amélioreraient notre condition commune ne passeront jamais le seuil de la fabrication. Aucune neutralité donc, dans la possibilité même d’exister.

Prenons deux exemples. Une puce RFID prédétermine, dès sa conception, qu’on va chercher à identifier chaussures, doudous, oiseaux, lynx, arbres, motos et même nos propres enfants afin d’assurer la traçabilité de ces cibles : rien ne peut plus exister et bouger sans être aimablement traqué. Donnez-moi vos coordonnées. L’IA générative : ses développements technologiques seront toujours soumis aux biais et aux impératifs (financiers, gouvernementaux, voire personnels) de ceux qui les contrôlent et en tirent profit, et non alignés sur une recherche du bien commun ou de l’éducation éclairée de tous.

3° Parce qu’en aval, une technologie induit une multitude d’effets, souvent difficiles à anticiper : elle réinvente des pratiques et reformate des comportements, elle enfante parfois une culture entière (le jeu massivement multijoueur, les danses internet, les animatiques) juste par les interactions nouvelles qu’elle offre. S’en servir, c’est déjà transformer ses rapports à soi et ses relations aux autres, se ménager de nouvelles prises et consentir à de futures emprises en mutilant d’anciennes capacités qu’on sous-traite à l’appli. Le numérique livre sans cesse des options inattendues qu’on n’imaginait pas entrer dans les usages. La géolocalisation par portable n’était pas prévue à l’origine, pas plus que l’explosion des SMS autocomplétés ou la généralisation d’une norme sociale : rester joignable. L’IA générative n’était pas conçue pour humilier des femmes avec des deepfakes pornographiques élaborés à partir de vidéos ordinaires. Tes mails n’avaient pas vocation à être lus et dataminés.

4° Enfin parce que toute technologie porte en elle un nouveau rapport au monde. On croit utiliser un frigo quand c’est notre façon de nous nourrir qui est révolutionnée par le stockage des aliments frais. La machine situe notre liberté et notre liberté s’exerce face à elle, en elle. Nous sommes libres de nos usages de la machine, libres même de ne pas l’utiliser, parfois. Mais c’est une liberté en situation, déjà située, un libre-arbitre qui s’exerce à l’intérieur d’un monde transformé et repotentialisé par la machine où il devient impossible de se comporter comme si elle n’existait pas. La voiture a littéralement « inventé » les routes, les parkings et les trottoirs, elle a appelé l’extraction du pétrole et intégralement refondé l’aménagement du territoire. Les réseaux sociaux ont inventé la communauté sans présence, l’auto-exposition, le selfie, l’exclusion possible, le harcèlement et la lapidation numériques. L’IA est en train d’inventer l’auto-discussion et le jumeau numérique, parmi des centaines de réinventions de nos façons de travailler.

À cette quadruple aune, croire encore en la neutralité des technologies qu’on nous propose n’est même plus de la naïveté. C’est une faute politique.