tiré de la Revue Relations no 808 mai-juin 2020

« Quatrième révolution industrielle  », « grand remplacement technologique  », «  saut civilisationnel  » : à entendre les techno-prophètes et autres entrepreneurs messianiques, chaque innovation « disruptive » dans le domaine de l’intelligence artificielle (IA) serait sur le point de nous propulser dans une nouvelle ère épique, avec ses lendemains (voire, ses robots) qui chantent.

À cette symphonie de superlatifs s’ajoute une panoplie de discours publics et médiatiques souvent contradictoires, qui finissent par rendre passablement confuse la réflexion sur ce domaine assez mal connu qu’est celui de l’IA. Tantôt, on nous annonce que celle-ci pourrait régler les problèmes les plus divers ; tantôt, on fait valoir ses dangers pour la vie privée et les risques (avérés) de dérives orwelliennes. Mais de quoi parle-t-on exactement ?

Plus qu’une technologie, l’IA est un champ assez large regroupant des théories, des techniques et des procédés informatiques qui visent à automatiser certaines tâches et opérations logiques qu’on attribue généralement à l’intelligence humaine. Ce champ n’est pas nouveau et s’est développé par vagues dès les années 1950 à partir des travaux d’Alan Turing. S’il attire autant d’attention aujourd’hui, c’est en raison du boom récent des technologies d’apprentissage automatique (machine learning, en anglais) lié à l’essor du capitalisme numérique. C’est en effet afin de tirer profit des données massives (Big Data) produites et stockées par un nombre exponentiel d’objets connectés que sont développés des algorithmes de plus en plus complexes, capables de mettre en relation ces bases de données, d’en tirer des corrélations statistiques et de prendre des décisions de manière automatisée. L’IA d’apprentissage automatique et les Big Data sont donc des technologies qui avancent main dans la main.

Si la nouvelle vague de recherche et développement dans ce domaine connaît une telle ampleur, c’est parce qu’elle est portée par de pressants impératifs de rentabilité commerciale et de profit, en particulier ceux des cinq entreprises ayant désormais la plus grande capitalisation boursière aux États-Unis : Google, Amazon, Facebook, Apple et Microsoft (communément appelées les GAFAM), sans parler de la géante chinoise Huawei. Nous n’avons donc pas fini de voir déferler toujours plus d’objets connectés, de centres de données et d’infrastructures de réseau qui étendent jusque dans les moindres interstices de la vie intime et sociale différents moyens de numériser, quantifier, surveiller et influencer nos comportements au profit d’annonceurs de tout acabit. Tel est le modèle d’affaires de cet oligopole du « capitalisme de surveillance  », qui transforme en marchandise tous les aspects de la vie et permet comme jamais un resserrement de l’étau du contrôle social[1]. C’est d’autant plus le cas que l’appareil sécuritaire et militaire de certains États bénéficie déjà des données collectées par les géants du numérique et qu’il est un important débouché pour toutes les nouvelles technologies d’IA, de l’espionnage des populations en passant par leur profilage et leur contrôle. La gestion de la pandémie de COVID-19 se révèle à cet égard un formidable banc d’essai pour bien des États, qui en ont profité pour déployer différents outils très contestables sur le plan des libertés civiles afin de surveiller, profiler et contrôler des personnes potentiellement (voire présumément) infectées – des instruments qui risquent de se retrouver dans l’arsenal régulier des autorités une fois la crise résorbée.

Mais plus profondément, ce sont presque toutes les sphères de la société que les vendeurs de « solutions IA » en tout genre cherchent à investir, dans une optique d’optimisation, d’automatisation et de fluidification des processus propre à ce que le philosophe Éric Sadin appelle une «  rationalité algorithmique  ». Cette logique se profile derrière tout ce que l’on tente de rendre « intelligent », du téléphone aux maisons en passant par les usines et les villes, voire la sélection des immigrants avec un système comme Arrima, au Québec. Elle normalise l’idée d’une société numériquement administrée au soi-disant bénéfice d’une humanité qui, après avoir établi des protocoles et des procédures pour gérer (automatiquement ?) les proverbiaux enjeux éthiques qui pourraient survenir, n’aurait plus qu’à s’adonner pleinement aux loisirs.

Or, ce genre d’utopie fortement ancrée dans la vision libérale invisibilise le fait que le fonctionnement de toutes ces technologies fondées sur différentes formes d’apprentissage automatique n’a rien de fluide, ni même d’automatique, dans bien des cas. Comme l’a bien montré le sociologue Antonio A. Casilli, qui nous accorde un long entretien dans le présent dossier, ces technologies nécessitent en sous-main une quantité colossale de travail humain. Cela, non seulement pour générer des masses de données, mais aussi pour les formater afin « d’entraîner » les algorithmes. Ce travail du clic, payé le plus souvent à la pièce et à vil prix, est effectué par des millions de personnes dans le monde, notamment dans des pays du Sud. Réduit à des micro-tâches répétitives coordonnées par des algorithmes sur des plateformes de micro-travail, ce labeur aliénant en vient à fournir une illustration concrète de la manière dont les machines se saisissent du travail vivant à l’heure du capitalisme numérique.

Il faut par ailleurs souligner à quel point l’utilisation des ressources naturelles et de l’énergie faite par ces technologies est loin d’être optimale. Simple exemple récent : pour extraire du sous-sol québécois le lithium nécessaire à la production de piles alimentant nombre d’appareils « intelligents », le projet Rose Lithium Tantale prévoit assécher entièrement deux lacs. Outre leur fabrication, le fonctionnement des équipements qui servent de support à l’économie soi-disant immatérielle a lui aussi une empreinte écologique considérable. Selon une étude de l’Université d’Amherst, 284 tonnes d’équivalent CO2 (autant que la vie moyenne d’une voiture, de sa fabrication à la casse) sont nécessaires pour mener à bien un seul projet standard d’apprentissage automatique[2], extrêmement vorace en données et donc en énergie – le plus souvent fossile.

Il ne s’agit pas ici de noircir le trait pour le plaisir de se montrer critique. Prises à la pièce, plusieurs applications de l’IA peuvent être socialement bénéfiques, par exemple en faisant progresser la recherche scientifique dans différents domaines, notamment biomédical, en accélérant le traitement de dossiers juridiques ou en rendant plus aisé l’accès à des services étatiques, entre autres. Il s’agit plutôt de tenir compte des dimensions systémiques et matérielles – trop souvent négligées – dans lesquelles émerge la « révolution de l’IA ». Car c’est bien sous les auspices du capitalisme que celle-ci devient un phénomène de masse ; dès lors, impossible d’analyser son déploiement en faisant abstraction des logiques propres à ce système économique qui tend à s’extraire du monde social et naturel. D’autant que sa mutation numérique approfondit, voire radicalise certains de ses travers.

Mettre la révolution de l’IA au service de l’humain nécessite donc de la « réencastrer », par la voie du politique, dans des dynamiques qui répondent aux besoins humains et non à ceux des machines et du capital. Il faut être attentifs aux différentes solutions et pistes de réflexion qui sont proposées à cet égard, du coopérativisme de plateforme à la socialisation des géants du numérique[3] en passant par la réappropriation, sur le mode des communs, des données personnelles et des ressources naturelles nécessaires à la fabrication d’appareils informatiques. Il faut également pouvoir enrayer les conceptions déshumanisantes de la personne et de la société que met de l’avant la vague actuelle d’IA. Le fonctionnement des algorithmes tend en effet à réduire l’humain à ses manifestations extérieures observables et quantifiables, bref, à l’enfermer dans ses comportements. Sa vie intérieure et ses quêtes de sens ne pouvant être scrutées par des capteurs ni produire de données, elles ne sont pas considérées signifiantes et sont de facto évacuées de la gouvernance algorithmique qui s’impose de plus en plus.

Cette dynamique, qui fragilise le politique au profit d’une gestion automatisée, est à combattre. La pandémie de COVID-19 nous aura fourni des exemples extrêmes de situations pour lesquelles il peut sembler tentant de substituer la responsabilisation individuelle et collective à un dispositif de contrôle automatisé. Mais elle aura aussi montré à quel point une action publique vigoureuse et concertée dans le sens du bien commun est non seulement possible, mais nécessaire. Ce faisant, cette crise sans précédent aura illustré à quel point, dans le choix entre ces deux voies, c’est bien notre liberté qui est en jeu.

[1] Voir notre dossier « Contrôle social 2.0 », Relations, no 776, janvier-février 2015.
[2] Sébastien Broca, « Le numérique carbure au charbon », Le Monde diplomatique, mars 2020.
[3] Paris Marx, « Nationalize Amazon », Jacobin, 29 mars 2020.