J’ai beaucoup apprécié la lecture de l’article To Make Big Tech Better, Make It Smaller, de Cory Doctorow1, que j’ai trouvé simple et parlant, pour expliquer l’impossibilité des Big Tech à réduire significativement l’importance de leurs erreurs. J’ai donc décidé d’en offrir une (rapide) traduction en français.
Bonne lecture !
Il est aussi important de réduire l’importance des erreurs des entreprises technologiques que de réduire leur prédominance.
En 2018, Frank Pasquale a publié « Tech Platforms and the Knowledge Problem« , dans lequel il proposait une taxonomie des réformateurs de la technologie : certains d’entre nous sont des « Jeffersoniens » et d’autres des « Hamiltoniens ». (En 2018, c’était une taxonomie très* zeitgeisty !).
Voici leurs positions :
- Hamiltoniens : « améliorer la réglementation des grandes entreprises plutôt que de les briser ».
- Jeffersonien : « La concentration même (du pouvoir, des brevets et des profits) dans les mégafirmes » est en soi un problème, car elle les rend à la fois irresponsables et dangereuses.
Dans un nouvel article pour l’EFF, je plaide en faveur des théories jeffersoniennes de la modération du contenu, ou, comme le titre l’indique : « Pour que les médias sociaux fonctionnent mieux, il faut qu’ils échouent mieux ».
Permettez-moi de commencer par dire que les plateformes Big Tech sont nulles en matière de modération et font beaucoup de choses incorrectes. Nous avons participé à l’élaboration des principes de Santa Clara, qui définissent des mesures concrètes que les plateformes pourraient et devraient prendre pour améliorer leur modération.
Mais même si elles font tout cela, elles seront toujours nulles, car elles se sont fixées une tâche impossible. Facebook affirme pouvoir modérer des conversations dans plus de 1 000 langues et plus de 100 pays. C’est une affirmation incroyablement stupide.
Les communautés sont en partie définies par leurs normes d’expression. Certains mots sont considérés comme des insultes par certaines communautés et pas par d’autres – et certaines communautés peuvent ne considérer un mot comme une insulte que s’il est utilisé par des personnes extérieures, mais pas par des membres du groupe.
Cela signifie que les modérateurs – qui s’appuient éventuellement sur des traductions automatiques à partir d’une langue qu’ils ne parlent pas – doivent déterminer non seulement si un mot est acceptable ou non, mais aussi si l’orateur est un membre de bonne foi de la communauté à ses yeux.
C’est ainsi que l’on obtient le défilé familier des horreurs de la modération, que Mike Masnick documente minutieusement sur Techdirt :
- Les discussions des utilisateurs noirs sur le racisme anti-noir sont supprimées parce qu’elles sont du racisme anti-noir.
- Les utilisateurs qui signalent de la désinformation sont suspendus pour avoir diffusé de la désinformation.
- Les scientifiques qui démystifient la désinformation sur les vaccins sont punis pour avoir diffusé de la désinformation.
- Les publicités des concepteurs de RPG sont bloquées car elles contiennent le mot « supplément » :
- Des commentaires faisant l’éloge d’un chat mignon comme étant un « beau minou » sont supprimés pour être obscènes.
Il n’est pas étonnant que la plupart des utilisateurs soient mécontents de ce que les plateformes laissent en place et de ce qu’elles retirent.
Alors pourquoi sommes-nous si nombreux à nous sentir obligés de rester sur ces plateformes alors que n’avons pas confiance dans leur jugement ? En deux mots, c’est le « switching costs« , ou coûts de changements2. C’est le terme économique pour désigner tout ce à quoi vous devez renoncer lorsque vous quittez un produit ou un service, comme une plateforme de médias sociaux.
Historiquement, la technologie a bénéficié de faibles coûts de changement. La flexibilité des systèmes numériques signifie qu’il est beaucoup plus facile de brancher un nouvel opérateur sur le système téléphonique ou d’ouvrir un fichier Microsoft Word avec les pages d’Apple que de faire accepter un accessoire Cuisinart à un mixeur KitchenAid.
Mais si les plateformes s’efforcent de créer des obstacles technologiques à l’interopérabilité, elles ont créé de nombreux obstacles juridiques : brevets, droits d’auteur, anti-contournement, droits d’auteur, cybersécurité, etc.
Ce sont ces obstacles qui empêchent les coopératives, les organisations à but non lucratif, les startups et autres de créer des produits qui font des trous dans le « jardin fermé » (walled garden) de Facebook – des services qui vous permettent de quitter Facebook sans couper le contact avec les amis, les communautés et les clients qui restent derrière.
Les coûts de changement élevés ont empêché les fédivers de décoller. Les gens détestent Facebook, mais ils aiment leurs communautés, et tant que ces dernières sont plus importantes que les premières, ils ne quitteront pas le navire. L’interopérabilité mettrait fin à ce jeu d’équilibre : Vous pourriez quitter Facebook et rester connecté, manger votre gâteau et l’avoir aussi.
Si la modération des grandes entreprises technologiques peut encore être améliorée, ce n’est qu’une partie de l’histoire. En donnant aux gens l’autodétermination technologique de se déplacer vers des communautés où les normes de ce qui est autorisé et de ce qui est interdit sont décidées par eux, les inévitables erreurs de Big Tech seront moins importantes.
Source de l’article en version originale (anglaise) : To Make Big Tech Better, Make It Smaller. Photo à la une de Aarón Blanco Tejedor sur Unsplash. Crédit aussi à Deepl qui m’a aidé à accélérer la traduction !
Notes de bas de page
- Cory est un écrivain, blogueur, activiste notamment à l’Electronic Frontier Foundation.
- En France on parle aussi beaucoup d’effets réseaux, voir mes cours d’économie numérique.