N’étant pas juriste, c’est avec prudence et humilité que je vous partage la réflexion suivante.
Comment est-ce possible qu’on laisse encore des entreprises privées lancer ce qu’il faut bien appeler des expérimentations à grande échelle, sans dispositif de contrôle, sur des produits aussi potentiellement dangereux que des programmes d’intelligence artificielle comme ChatGPT ? Alors que de l’aveu même de nombreux chercheurs en pointe dans le domaine, « on ne sait pas encore pourquoi ça marche aussi bien ».
On ne laisserait pas une entreprise agroalimentaire (dont on rappellera que le but n’est pas de nourrir les gens, mais de faire du profit en nourrissant les gens) lancer un nouveau produit révolutionnaire, à grande échelle, sans une première phase d’expérimentation suivie d’évaluation.
De la même manière, on ne laisserait pas une entreprise pharmaceutique (dont on rappellera que le but n’est pas de soigner les gens, mais de faire du profit en soignant les gens) lancer un nouveau produit révolutionnaire, à grande échelle, sans une première phase d’expérimentation suivie évaluation. Même dans l’urgence du COVID, certaines étapes ont été respectées, avec de nombreux organismes de contrôle.
Alors pourquoi laisse-t-on des entreprises numériques (dont on rappellera que le but n’est pas de rendre le monde meilleur, mais de faire du profit en rendant le monde meilleur [sic]) lancer des satellites dans l’espace ou mettre à disposition des IA génératives accessibles gratuitement au grand public ? Pourquoi ne met-on pas en place les mêmes types de contrôle, les mêmes étapes d’expérimentations progressives que dans les industries agroalimentaires et pharmaceutiques ?
Les libéraux technos-optimistes hurleront que cela tuerait « l’innovation ». À vrai dire, compte tenu de ce que l’innovation a apporté ces dernières années, peut-être qu’il ne serait pas plus mal de la faire ralentir un peu. Et profiter de ce temps pour discuter démocratiquement de ce qui est pertinent ou pas aujourd’hui, dans un monde en urgence environnementale et sociale.
Écrit en lisant et écoutant :
Avec philosophie, Épisode 1/3 : IA, un nouveau cap est-il franchi ?
Nous ne parvenons pas à comprendre “pourquoi ChatGPT semble avoir dépassé les limites des systèmes précédents qui traitent du langage naturel“. Ce système produit un langage qui a “les mêmes propriétés grammaticales, mais aussi rhétoriques du langage humain“. Ces performances sont à la fois “impressionnantes et inquiétantes“.
Daniel Andler, spécialiste de philosophie des sciences, en particulier des sciences cognitives et de l’intelligence artificielle
Tribune. Pour Naomi Klein, les IA organisent “le plus grand pillage de l’histoire de l’humanité” [€]
C’est ce que la Silicon Valley appelle couramment “disruption” – un tour de passe-passe qui a trop souvent fonctionné. On connaît le principe : foncez dans le Far West réglementaire ; clamez haut et fort que les vieilles règles ne peuvent pas s’appliquer à vos nouvelles technologies. Le temps de dépasser l’effet de nouveauté et de commencer à mesurer les dégâts sociaux, politiques et économiques de ces nouveaux jouets, la technologie est déjà si omniprésente que les législateurs et les tribunaux jettent l’éponge.
Naomi Klein, journaliste, essayiste, réalisatrice et altermondialiste canadienne
« Les IA génératives font diversion à celles des réseaux sociaux »
« Vous développez un avion de ligne, vous ne pouvez pas le faire décoller d’Orly du jour au lendemain. Il devrait en être de même pour les IA »
El Mahdi El Mhamd, ancien senior scientist chez Google
Sciences Po a eu raison d’interdire ChatGPT
Les firmes californiennes nous ont déjà fait systématiquement le coup du passage à l’acte, elles qui sont gouvernées, comme tout l’internet, par le rough consensus et le running code, devise de John Perry Barlow dans son manifeste pour l’indépendance du cyberespace (1996). Eh bien il faut le dire : non ! le cyberespace n’est en rien indépendant, et ne doit pas le devenir, même si les années 2010 du Far West des plateformes (de réseaux sociaux notamment) ont pu le faire croire.
Dominique Boullier, sociologue
Le titre est entre autres un clin d’oeil au livre Technologies partout, démocratie nulle part, de Yaël Benayoun et Irénée Régnault