- 
Notices bibliographiques

Gouvernementalité algorithmique et perspectives d’émancipation. Le disparate comme condition d’individuation par la relation ? Antoinette Rouvroy et Thomas Berns

Hélène Hiessler

01-06-2023

Antoinette Rouvroy est docteure en sciences juridiques de l’Institut universitaire européen et chercheuse du FNRS au Centre de recherche en Information, droit et société (CRIDS) de l’université de Namur. Docteur en philosophie, Thomas Berns enseigne la philosophie politique et l’éthique à l’Université libre de Bruxelles dont il dirige le Centre de recherche en philosophie. Ensemble, ils travaillent sur les nouvelles formes de normativité comme le contrôle statistique ou ce qu’ils appellent la « gouvernementalité algorithmique », dont ils décrivent les principes et le fonctionnement dans cet article. Ils s’emploient ici à montrer comment la modélisation en apparence objective du social par la collecte et le traitement de données en quantité massive (les big data) affecte les comportements dans de multiples domaines comme la sécurité, la prévention, le marketing ou encore la gestion des ressources humaines et en vient à transformer insensiblement la relation à la norme des sociétés occidentales. Enfin, ils rappellent la nécessité du « disparate » pour tout projet de création de commun.

« GOUVERNEMENTALITÉ ALGORITHMIQUE ET PERSPECTIVES D’ÉMANCIPATION LE DISPARATE COMME CONDITION D’INDIVIDUATION PAR LA RELATION ? »
Antoinette Rouvroy et Thomas Berns, dans Réseaux n° 177, La Découverte, Paris, 2013, p. 163-196

 

Commentaire

Ce que les auteurs appellent la « gouvernementalité algorithmique » est un mode de gouvernement nourri de données brutes, qui, en modifiant l’environnement physique et informationnel des individus, en vient à affecter leur comportement. Il opère en trois « temps », tous automatisés, qu’Antoinette Rouvroy et Thomas Berns décrivent dans une première partie : le temps de la récolte et le stockage des données, le temps du traitement de celles-ci (dataming) en vue de faire émerger du sens, et enfin le temps de l’usage des connaissances ainsi produites « à des fins d’anticipation des comportements individuels » (p. 171).

La collecte se fait le plus souvent « par défaut », dans une logique selon laquelle les informations sont plutôt abandonnées que « volées » et leur quantité massive ainsi que leur dispersion donne l’impression d’un éloignement de « toute forme d’intentionnalité » (p. 169). Antoinette Rouvroy parle de « comportementalisme numérique généralisé » : ne sont prises en compte que les traces numériques visibles des comportements, chacune extraite de son contexte d’occurrence, de sorte qu’il se crée une sorte de « dédoublement parfaitement segmenté du réel » dépourvu de signification collective. C’est à ce titre, et à celui de la performance technologique au service de la collecte, que ces données prétendent à l’objectivité : « Aussi hétérogènes, aussi peu intentionnelles, tellement matérielles et si peu subjectives, de telles données ne peuvent mentir ! » (p. 169) ironisent les auteurs.
Les mêmes mécanismes d’évitement de la subjectivité sont à l’œuvre dans le deuxième temps de la « gouvernementalité algorithmique » (celui du traitement des données) : étant automatisé lui aussi, il « ne réclam[e] qu’un minimum d’intervention humaine » et, au contraire des statistiques traditionnelles, « se pass[e] de toute forme d’hypothèse préalable » (p. 170). Ainsi ces normes d’un genre nouveau, faites uniquement de subtiles corrélations, paraissent le reflet direct du réel. Les auteurs soulignent toutefois qu’un ethos scientifique et politique exigerait « d’éviter que des décisions produisant des effets juridiques à l’égard de personnes ou les affectant de manière significative ne soient prises sur le seul fondement d’un traitement de données automatisé, et de considérer que le propre de la politique […] est de refuser d’agir sur la seule base de corrélation » (p. 171).

C’est pourtant bien le troisième temps de la gouvernementalité algorithmique, celui où ce profilage est appliqué aux comportements individuels. Les profils définis étant illimités, il semblerait que ces nouvelles statistiques permettent d’éviter toute catégorie discriminante en « mettant tout le monde à égalité […] Il ne s’agit plus d’exclure ce qui sort de la moyenne, mais d’éviter l’imprévisible, de faire en sorte que chacun soit véritablement lui-même. » (p. 173) Comment, dès lors, imaginer contester ces prévisions qui nous sont destinées ?
Soulignant le paradoxe selon lequel « désormais, pour éradiquer ou minimiser l’incertitude, on s’en remet à des “appareils” non intentionnels, c’est-à-dire des machines a-signifiantes, en abandonnant de la sorte l’ambition de donner de la signification aux événements » (p. 174), les auteurs mettent en avant que la gouvernementalité algorithmique ne s’adresse plus au sujet en tant que corps physique ou pensant mais bien plutôt à travers les profils multiples qui lui sont automatiquement assignés sur base des traces numérisées de son existence.
Ils s’interrogent ensuite sur ce phénomène de personnalisation des profils, au départ de l’exemple d’IBM, qui vante les mérites du marketing « individualisé » plaçant le consommateur au centre, comme s’il s’agissait d’adapter l’offre à ses désirs. Dans la pratique, ce n’est pas tant le produit qui est adapté au consommateur que les stratégies pour le lui vendre, à travers le dynamic pricing, par exemple (stratégie qui consiste à proposer un prix flexible, adaptable à la demande en temps réel). « C’est donc de produire du passage à l’acte sans formation ni formulation de désir qu’il s’agit. » (p. 177) Les auteurs insistent en outre sur la rapidité de ce processus qui évite toute forme de détour ou de temps de réflexion subjectifn. Dans la mesure où les données brutes peuvent être calculées indépendamment de tout contexte d’occurrence, « tout se passe comme si la signification n’était plus absolument nécessaire, comme si l’univers était déjà […] saturé de sens, comme s’il n’était plus, dès lors, nécessaire de nous relier les uns aux autres par du langage signifiant, ni par aucune transcription symbolique, institutionnelle, conventionnellen » (p. 178). Antoinette Rouvroy et Thomas Berns renvoient alors à ce que Bernard Stiegler appelle la prolétarisation – « la perte du savoir du travailleur face à la machine qui a absorbé ce savoir ».
Doit-on pour autant en déduire une « mise en danger de l’individu » ? Les auteurs préfèrent parler d’« évitement du sujet » dans le processus de création d’un « double » statistique, un double détaché de son sujet alors même que « les actions normatives contemporaines se suffisent de ce double statistique pour être efficaces ». Ainsi, le gouvernement algorithmique « ne donne ni lieu ni prise à aucun sujet statistique actif, consistant, réflexif susceptible de le légitimer ou de lui résister » (p. 181). Et les auteurs y voient un problème fondamental, car la vie organique connaît pourtant des ratés, des conflits, et donc des déviations dont le double statistique ne tient pas compte. La cible du gouvernement algorithmique ne serait donc pas le sujet mais les relations, entendues au sens le plus brut, celui d’une opération qui lie a et b tout en ignorant ce que recouvrent ces termes.

Dans une troisième partie les auteurs s’interrogent sur cette dimension en la confrontant aux principales philosophies contemporaines de la relation, convoquant les travaux de Simondon, puis de Deleuze et guattari, ce qui les amènent à formuler leurs inquiétudes : que penser de « relations » qui ne seraient plus habitées d’aucune altérité ? Quel caractère émancipateur peut-on prêter aux nouveaux usages de la statistique dans la mesure où l’offre personnalisée se calcule sur « des propensions inexprimées par le sujet » ? Peut-on parler d’émancipation alors que le régime de vérité numérique « évacu[e] les notions de critique et de projet, voire de commun » (p. 192) ?
Or « le commun » est bien, pour Antoinette Rouvroy et Thomas Berns, l’enjeu fondamental : le commun, rappellent-ils, présuppose de la dissymétrie, de la non-coïncidence, car c’est cela-même qui nous oblige à nous adresser les uns aux autres. Or en évacuant toute forme de disparité, le gouvernement des algorithmes vide les relations de leur substance, « au point que celles-ci ne relatent plus rien et n’expriment plus aucun commun ».
Lors de sa conférence du 16 février 2016 dans le cadre du cycle « Pour un numérique humain et critique », Antoinette Rouvroy avait justement invité les acteurs des secteurs culturel et social à s’attacher à rendre visible le non-numérisable, à faire ressortir cet « entre » indispensable à la construction de commun. Et ce sont bien ces enjeux qui s’esquissent dans la conclusion de cet article.

Mots-clés

gouvernementalité – statistiques – algorithmes – normativité – données – profilage – prédiction – espace public – individualisation – transindividuation – contournement du sujet – hypersubjectivation – comportementalisme numérique – ontologie de la relation – rhizomes – commun

Contenu

Les trois « temps » de la gouvernementalité algorithmique (168) – Un gouvernement sans sujet, mais pas sans cible ? (173) – Perspectives transindividuelles et rhizomatiques (185)

1

À ce sujet, lire aussi Yves Citton, notice p. 78

2

Sur la disparition du champ symbolique, lire aussi Éric Sadin, noticep. 50.