Parution du
livre collectif
« Penser l'IA »

Ce mois-ci paraît le livre collectif Penser l’intelligence artificielle – Enjeux philosophiques, politiques et culturels de l’automatisation numérique, dirigé par Anne Alombert, Alban Leveau-Vallier, Baptiste Loreaux, aux Presses du réel. J’ai le plaisir d’y avoir contribué au travers d’un court chapitre. Parmi les autres contributeurs se trouvent notamment Grégory Chatonsky et Yves Citton, Judith Deschamps, Matthieu Garling, Pablo Jensen, Frédéric Kaplan, Jean Lassegue, Sofia Taipa ou encore Pierre Cassou-Noguès et Gwenola Wagon.

Voici le texte en quatrième de couverture :

Comment penser les technologies d’intelligence artificielle autrement qu’entre fascination aveugle et rejet irrationnel ? Cet ouvrage en propose une réflexion critique et transdisciplinaire. En effet, dans le contexte du déploiement fulgurant des IA génératives, ce livre revient sur l’histoire des technosciences informatique et cybernétique et interroge les enjeux philosophiques, politiques et culturels des dispositifs numériques contemporains. Quels sont les présupposés théoriques qui sous-tendent les innovations industrielles nommées « intelligence artificielle » ? Comment l’accélération technologique actuelle affecte-t-elle les institutions et les sociétés ? Quels sont les effets des générateurs automatiques de textes ou d’images sur les pratiques linguistiques et artistiques ? Pour répondre à ces questions, les vingt contributions de l’ouvrage articulent les points de vue de différentes disciplines : philosophie, mathématiques, anthropologie, histoire des idées, informatique, théorie politique, littérature, traduction, théorie des médias, esthétique, arts plastiques. Par-delà fascination naïve et rejet ignorant, cette diversité de perspectives propose un éclairage sur les enjeux des transformations technologiques et anthropologiques présentes et à venir.

Le chapitre que j’ai écrit pour l’occasion s’intitule « L’IA comme accélération de la domination bureaucratique et capitaliste ». J’y fais part d’une certaine frustration vis-à-vis des discours sur l’IA dans le champ intellectuel, et des effets de clôture qui tendent à disqualifier les critiques les plus radicales à l’encontre de ce nouveau paradigme informatique. En effet, à en croire certaines des voix les plus influentes de la critique du numérique, dénoncer l’IA « en bloc » n’aurait ainsi pas de sens.

Pour tenter de clarifier les termes du débat, je propose d’appréhender l’IA à la fois comme mot d’ordre technocratique et comme dispositif de pouvoir au sens foucaldien, c’est-à-dire un ensemble de dits (discours, règles juridiques, énoncés philosophiques ou scientifiques, etc.) et de non-dits (organisations, aménagements architecturaux, machines, etc.), lesquels sont destinés à stabiliser les rapports de pouvoir associés à la domination bureaucratique et capitaliste. Je tâche ainsi de replacer le dispositif « IA » dans l’histoire des techniques de communication pour l’envisager comme la radicalisation du processus d’informatisation engagé dans les années 1960.

À partir de là, on peut non seulement mieux cerner les logiques d’ores et déjà à l’œuvre, mais aussi tâcher d’en anticiper les effets à venir. Voici quelques extraits :

Aggravant les tendances déjà observées s’agissant de l’informatisation, l’IA amplifie (…) les discriminations structurelles sédimentées dans les rationalités et les pratiques des institutions. Comme l’illustre le cas des algorithmes dédiés à la « chasse aux fraudeurs » dans les agences de l’État providence ciblant les plus précaires, le prétendu gain d’efficacité se fait bien souvent au détriment des personnes les plus exposées à l’injustice sociale.

Ce n’est pas seulement en raison des biais induits par les jeux de données utilisés pour l’entraînement des modèles, ni à cause de la transposition dans le code informatique des préjugés des développeurs ou des utilisateurs – à l’image de ces logiciels de police prédictive expérimentés par les forces de l’ordre qui intègrent des croyances criminologiques décriées. C’est aussi et surtout que, comme l’écrit Dan McQuillan (2022), l’IA « forme des boucles de rétroaction avec le reste de la société » et les institutions qui la déploient : « C’est une “structure structurée qui devient une structure structurante” » écrit-il en référence au concept d’habitus proposé par Pierre Bourdieu. Ses optimisations statistiques réalisées sur la base des données passées peuvent ainsi s’apparenter à une forme d’habitus institutionnel cristallisé. Sauf qu’au détour de leur inscription informatique, les pratiques institutionnelles discriminatoires sont rendues encore moins visibles et donc moins contestables, que ce soit en raison de l’effet « boîte noire » (la difficulté à expliquer le résultat produit par l’algorithme) ou des biais d’automatisation (la confiance aveugle des humains vis-à-vis des recommandations produites par ces systèmes).

En opérant un saut qualitatif dans l’automatisation bureaucratique, l’IA pourrait également conduire à de nouveaux « désencastrements ». À travers cette notion, l’économiste Karl Polanyi renvoyait, dans son livre La Grande Transformation publié en 1944, à l’émergence d’un marché autorégulateur désormais placé comme institution imaginaire organisatrice du social, et donc à un désencastrement de l’économie vis-à-vis de la société qu’elle était censée servir (Polanyi, 2009). Un processus qui avait selon lui contribué aux réactions fascistes des années 1930. Alors que de nombreuses relations sociales sont aujourd’hui reconfigurées par la place croissante accordées à des automates et le rôle de plus en plus marginal laissé aux humains, ne risque-t-on pas de voir remises en cause les économies morales associées à ces relations, au profit d’une logique bureaucratique décuplée et d’optimisations statistiques opaques ?

(…)

Le corollaire de ces évolutions, c’est la dérégulation. Au nom d’une « simplification des procédures », d’une accélération des déploiements et de la sacro-sainte innovation, les « verrous juridiques » doivent sauter. En France, au nom de l’« intérêt national », l’État n’hésite pas à imposer les data centers aux collectivités locales et à contourner les règles environnementales ou celles censées mettre en œuvre la « démocratie technique ». Aussitôt après son retour à la Maison Blanche, Donald Trump s’est empressé de revenir sur les quelques règles relatives à l’IA édictées par l’administration Biden. Une décision qui semble faire des émules parmi les dirigeants de l’Union européenne, qui semblent prêts à rogner les principes posés par le « AI Act » adopté à la mi-2024. Peu importe que ce texte – bardé d’exceptions et s’assimilant pour l’essentiel à un système d’auto-régulation sous la coupe des industriels – ait été dénoncé par les associations pour son impact délétère sur les droits humains. Plutôt que d’incarner une troisième voie face à la Chine et les États-Unis, l’Europe préfère s’enfoncer dans un suivisme mortifère.

L’IA a été rendue possible par une formidable accumulation de données, de capitaux et de ressources sous l’égide des multinationales de la tech et du complexe militaro-industriel. Aujourd’hui, elle sert de mot d’ordre technocratique afin de nourrir un nouveau cycle d’expansion du capitalisme industriel et l’accentuation des rapports de pouvoir au mépris des droits des peuples.