From the SelectedWorks of Antoinette Rouvroy

October 2009

Gouverner: dtecter et prvenir!

Contact Author

Start Your Own SelectedWorks

Notify Me of New Work

Available at: http://works.bepress.com/antoinette_rouvroy/32

A paratre dans la revue Politique, n.61, Octobre 2009, numro coordonn par Edgar Szoc.

Dtecter et prvenir : les symptmes technologiques dune nouvelle manire de gouverner. Antoinette Rouvroy*

Lexamen, lpreuve, le test est intimement li la faon dont se fait le contrle des lieux et des corps politiques, mais aussi lexprimentalit et la constitution de la ralit en gnral, dautant que le circuit elliptique tabli entre lpreuve et le rel uvre annuler ce qui les diffrencie. 1 Les nouvelles technologies de lobservation ne signent pas seulement leffritement progressif de la coquille douillette de lintimit et de la sphre prive phnomne accompagnant toutes les formes, technologiques ou non, daccroissement de la visibilit civique - elles sont aussi, et plus fondamentalement, symptomatiques dune transformation des rationalits, stratgies et tactiques de gouvernement. Gouvernement? Gouverner , cest--dire, structurer le champ daction possible des individus2, prsuppose une certaine rationalit, ou logique (permettant didentifier ceux sur qui ou ce sur quoi lintervention gouvernementale doit tre oriente), ainsi que certaines stratgies, ou tactiques (dterminant les instruments les plus appropris lobtention des objectifs). En tant que structuration du champ daction possible des individus , lactivit de gouvernement nest pas, et na jamais t, le monopole de lEtat. Tout qui, de manire plus ou moins consciente, plus ou moins dlibre, conduit la conduite dautrui, en ce sens, gouverne. Nous entendons donc ici, la manire de Foucault, la notion de gouvernement dans son sens le plus large. Les parents, les ducateurs, les patrons dusines, les directeurs dentreprises, les services de gestion du personnel, les publicitaires et professionnels du marketing, tous ceux-l, et bien dautres encore, gouvernent . Cest en tant quinstruments de ces activits de gouvernement que les technologies et, en particulier, les nouvelles technologies de lobservation, de la dtection, et de lvaluation anticipative des comportements (par comportements, jentend aussi bien les attitudes, trajectoires, intentions, propensions,) mintressent ici. De quoi parle-t-on ? Nous parlons dune srie dinnovations technologiques actuellement dveloppes grce notamment de trs gnreux budgets europens octroys en fonction dagendas de recherche tablis de manire peu transparente. Combinant lenregistrement et lanalyse des trajectoires suivies par les individus, de leurs postures, des missions chimiques (transpiration,) et des vnements physiologiques (temprature, rythme cardiaque,) de leurs corps, des motions exprimes par leurs visages, de nouveaux dispositifs de biomtrie dynamique et intelligente sont dvelopps dans le cadre dune srie de projets, dont le projet HUMABIO, combinant une varit de capteurs capables de combiner des donnes visuelles, sonores et physiologiques afin de dtecter et de suivre les mouvements, trajectoires, attitudes et expressions suspectes, des fins scuritaires.3 Un autre projet europen, SENSATION, dveloppe des micro- et de nano-senseurs capables de contrler, de manire discrte et non invasive, ltat physiologique des personnes en termes dveil, de fatigue, de stress,

Chercheuse qualifie du FNRS au Centre de Recherche Informatique et Droit de lUniversit de Namur. Les rflexions ici prsentes ont t suscites par limplication du CRID au projet europen MIAUCE (Multimodal Interaction and Observation of Users in a Controlled Environment) financ par lUnion europenne et ddi au dveloppement de technologies dobservation multimodale des fins dapplications dans les domaines scuritaire, du marketing et du divertissement. Lauteure remercie trs sincrement Edgar Szoc pour sa relecture attentive. 1 Avital Ronell, Test Drive. La passion de lpreuve., Traduit de lAnglais par Christophe Jaquet, Stock, coll. Lautre pense, 2009). 2 La notion de gouvernement est ici directement inspire des travaux de Michel Foucault sur le thme de la gouvernementalit , que lon trouve exposs notamment dans les Cours au Collge de France de 19771978 (Scurit, Territoire, Population). 3 Human Monitoring and Authentication using Biodynamic Indicators and Behavioural Analysis : http://www.humabio-eu.org/

A paratre dans la revue Politique, n.61, Octobre 2009, numro coordonn par Edgar Szoc.

partout et tout moment, au travail, lcole, au thtre4 Microsoft, de son ct, dposait rcemment une demande de brevet pour linvention dun dispositif combinant une srie de capteurs de donnes contextuelles, physionomiques, physiologiques et biologiques relis l'ordinateur utilis par un employ, et permettant de renseigner son patron sur son niveau de stress, son attention au travail, sa motivation, etc. Par ailleurs, lanalyse automatise des mouvements des muscles du visage des consommateurs, dtects grce des systmes de vidosurveillance coupls des systmes danalyse algorithmique, afin de dtecter leurs motions telles que le plaisir, lintrt ou lennui, le dgout, offrent des perspectives allchantes en termes dapplications de type marketing ou publicitaires.5 Des systmes de vidosurveillance intelligente , capables de dtecter, de classer et dvaluer anticipativement les comportements et prfrences des personnes en fonction de patterns grs par des algorithmes sophistiqus, et ce en vue dapplications scuritaires, de marketing et de divertissement sont dvelopps, par exemple, dans le cadre du projet MIAUCE. Ces dispositifs, fonctionnant sur le profilage algorithmique visent prvoir (et parfois ragir automatiquement), au dpart de croisement de donnes de types divers recueillies dans des contextes htrognes et sans aucune analyse de lventuel rapport causal quelles entretiendraient, les propensions, prfrences, comportements et attitudes futures des personnes. Ces systmes confrent intelligibilit et sens, en fonction des attentes spcifiques dun contrleur , des informations priori triviales, et dont les individus eux-mmes nont pas mme conscience le plus souvent. Quelles trouvent sappliquer dans le domaine scuritaire, de lemploi ou du marketing (ce sont actuellement les domaines dapplication privilgis), ces innovations sont symptomatiques dun glissement plus global affectant les modalits de gestion de lincertitude (scuritaire, financire, commerciale). Ces dispositifs annoncent, en douce, une reconfiguration des logiques et tactiques de la socit de surveillance. En tant que telles, elles reposent sur une srie de prsomptions tacites quil importe ds prsent de mettre en dbat. Quels rapports entre ces nouveaux dispositifs technologiques et lactivit de gouvernement ? Lune des principales difficults et lun des principaux objectifs de laction gouvernementale est bien videmment la gestion de lincertitude. Orienter, ou structurer le champ daction possible de ses contemporains prsuppose une certaine capacit anticiper, identifier par avance ce que peuvent les corps et les esprits. Comment calculer, faire le compte de ce qui nest pas actuellement perceptible aux sens ? Comment atteste-t-on du rel futur, lorsque ni le tmoignage, ni laveu, ni aucun discours expert ou dautorit ne semblent plus suffisamment crdibles pour rendre visible ce qui nexiste encore quen germe dans lactuel ? Plus pratiquement, comment connatre lavance les intentions de consommation ? Comment connatre les intentions criminelles ? Comment prouver lactuel - par quels tests, quelles expriences de manire ce quil rvle ses potentialits futures, ses virtualits ? Si la tche peut apparatre humainement ralisable dans des microcosmes sociaux efficacement rgis par un contrle social de proximit, ds lors que lactivit gouvernementale porte sur des populations (de citoyens, dtrangers, de consommateurs,) minemment diversifies, multiculturelles, mouvantes, lanticipation du possible ne semble plus la porte du calcul humain. Cest donc dabord une difficult dordre pistmologique que les nouvelles technologies dobservation se prsentant sommes toutes comme des interfaces cognitives tendent proposer des solutions. Ces solutions prennent la forme de dispositifs combinant une multitude de capteurs dissmins dans lenvironnement et relis des systmes informatiques dont l intelligence rside dans les algorithmes construits sur la base de corrlations statistiques, leur permettant dinterprter euxmmes les donnes quils enregistrent en fonction de critres de normalit ou danormalit, de dsirabilit ou dindsirabilit. Cest aussi dans la mesure o elles rpondent un glissement stratgique ou tactique dans la gestion de lincertitude, que ces nouveaux dispositifs sont symptomatiques dune nouvelle forme de gouvernementalit. La focalisation sur la prdiction saccompagne dun glissement, stratgique ou

Advanced Sensor Development for Attention, Stress, Vigilance & Stleep/wakefulness Monitoring : http://www.sensation-eu.org/ 5 http://www.gfk.com/group/press_information/press_releases/004131/index.en.html

A paratre dans la revue Politique, n.61, Octobre 2009, numro coordonn par Edgar Szoc.

tactique celui-l, qui concerne la cible du gouvernement : le gouvernement statistique6 vise non plus matriser lactuel, dompter la sauvagerie des faits, mais structurer le possible, radiquer le virtuel, cette dimension de possibilit ou de potentialit do provient que lactuel tremble toujours un peu dun devenir autre qui constitue, justement, sa singularit alors mme quil nest pas encore objectivement connu. Le rsultat en est que lon assiste labandon progressif, par le pouvoir, de laxe topologique orient vers la contrainte des corps et la matrise du territoire au profit de laxe temporel la structuration du champ daction possible des corps, la matrise, un stade prconscient si possible7, de ce que peuvent les corps.8 Un glissement stratgique de cible sopre donc ici de l'axe 'topologique' de lactualit du corps vers l'axe 'temporel' du possible, du probable, du virtuel. La gouvernementalit statistique sintresse donc quelque chose de relativement abstrait, et somme toute fantomatique: la prdiction et surtout la pr-emption des comportements, par lapplication dalgorithmes de profilage des quantits massives de donnes (mises par le corps humain), et par la structuration (physique, architecturale, informationnelle, contextuelle) du champ daction possible des individus. De quoi faut-il dbattre ? Ces glissements dans les logiques et tactiques gouvernementales reposent sur une srie dassomptions tacites. Faute despace, je nen (d)noncerai ici que quelques-unes, sans mme tenter encore de les discuter en profondeur. La premire de ces assomption est que le corps ne ment pas , la diffrence des personnes. Les systmes dobservation dont il a t ici question font gnralement du corps humain la source privilgie dinformation prdictive au dtriment des lments du contexte conomique, social, culturel, ainsi que du tmoignage, du rcit biographique. Une reconstitution et une reconceptualisation approfondies du sujet humain sen suivent invitablement. La dvaluation du rcit, du tmoignage, linvalidation relative de toute explication ou explicitation par le sujet lui-mme de ses propres comportements et prfrences au profit de ce que les corrlations statistiques indiquent, attestent dune mfiance accrue envers tout ce qui passe par le prisme de la conscience humaine. Pris dans un rseau de codes dintelligibilit algorithmiques quil ne connat pas lui-mme, le sujet se trouve en outre dpourvu de toute possibilit de contestation de la validit des prdictions faites son endroit. La seconde assomption tacite est qu condition de disposer dune quantit massive de donnes recueillies dans des contexte divers, auxquelles on puisse appliquer des algorithmes de corrlations statistiques, il devient possible de tout prvoir, sans plus avoir besoin de comprendre les causes des phnomnes. Voil qui signe un certain abandon des ambitions modernes de la rationalit dductive, reliant les phnomnes observs leurs causes, au profit dune rationalit postmoderne fonctionnant sur une logique purement statistique dobservation de corrlations mancipes de toute logique sousjacente, ainsi que des biais motionnels entachant invitablement lobservation humaine. Voil galement, si la logique tait pousse jusquau bout, de quoi absoudre en partie les gouvernements lorsquils sabstiennent de remdier certaines situations bien actuelles et minemment problmatiques au regard des idaux de justice. La forme particulire de visibilit civique induite par l'observation multimodale et le profilage statistique procde dune dispersion, d'une atomisation des sujets dans une multitude de banques de donnes, et de leur recomposition ad hoc en fonction des besoins de prdiction spcifiques aux diffrents types de bureaucraties publiques et prives. Les 'sujets' du gouvernement statistique, tout visibles quils soient, nont dexistence civique que morcele. En fonction du contexte ils seront, alternativement, virtuellement ou potentiellement criminels, consommateurs, employs zls ou dmotivs, sans possibilit de repositionnement de ces fragments
6

Sur la notion de gouvernement statistique, voir Antoinette Rouvroy et Thomas Berns, Le corps statistique , La pense et les Hommes, numro spcial consacr la biothique coordonn par Pierre Daled, n.74, pp. 173- 194, 2009, ainsi que Antoinette Rouvroy et Thomas Berns, Antoinette Rouvroy et Thomas Berns. "Dtecter et prvenir : de la digitalisation des corps et de la docilit des normes.", Guy Lebeer et Jacques Moriau (eds.), Gouverner par les corps P.I.E. Peter Lang, 2009 ( paratre). 7 suivant la logique actuarielle mme qui compte comme conditions prexistantes et met charge des souscripteurs plutt que de lassureur les dommages causs par des circonstances connues du souscripteur au moment de la signature du contrat. 8 Brian Massumi, Perception attack. Note sur un temps de guerre, Multitudes, 2008/4, n34, pp. 74-83.

A paratre dans la revue Politique, n.61, Octobre 2009, numro coordonn par Edgar Szoc.

pars en fonction d'un fil autobiographique qui puisse rendre compte de trajectoires existentielles singulires, rcalcitrantes toute traduction chiffre. Ni lexprience physique du corps, ni le rcit autobiographique de lindividu ne sont plus autoriss , ne font plus autorit , au sens o leur auteur dtiendrait l autorit ncessaire pour en contrler lintelligibilit et linterprtation.9 Les individus se voient privs de toute possibilit de 'rendre compte' ou de 'tmoigner' tant des raisons quils auraient de scarter des normes quils peuvent trouver injustes ou inutiles - que des dsavantages structurels ventuels (sociaux, conomiques, environnementaux, ducationnels,) dont procdent les comportements classs comme problmatiques. Oublieux des causes structurelles des ingalits inter - personnelles dont les comportements problmatiques, inefficaces, anormaux, peuvent ntre que des symptmes, le gouvernement statistique est vou empcher en aval les comportements jugs indsirables en scurisant lenvironnement o ils pourraient se produire plutt quen agissant en amont sur leurs causes. Le gouvernement statistique regarde toujours dj ailleurs, anticipant lavenir peut-tre, sans plus prter attention lactuel, sauf en vue den prdire les dbordements possibles. Laura dimpartialit entourant la gestion statistique du rel pourrait donc bien aboutir enfoncer un peu plus dans linvisibilit les injustices structurelles contemporaines, tout en mettant hors de porte du dbat public les critres daccs aux ressources et opportunits, cest--dire les principes mmes de justice que les socits doivent en principe choisir pour elles-mmes. A cet gard, la principale menace, me semble-til, rside dans la confiscation, par ces dispositifs, de la production unilatrale , de plus en plus autonomique (dispensant de lintervention et de lvaluation humaines) des normes implicites et/ou explicites laune desquelles sont valus les besoins, mrites, aptitudes, capacits des personnes. Cest bien la puissance dagir normatif qui se trouve ici mise en question. Comme laffirmait Foucault, rien nest politique, tout est politisable, tout peut devenir politique. La politique nest rien de plus ni rien de moins que ce qui nat avec la rsistance la gouvernementalit, le premier soulvement, le premier affrontement 10. Il serait donc grand temps dlargir le dbat et de cesser de nenvisager les nouvelles technologies de dtection, de classification, et dvaluation anticipative des comportements et intentions que sous langle, le plus vident en droit, des atteintes actuelles ou potentielles au droit la protection de la vie prive, la protection des donnes caractre personnel, et aux autres droits et liberts individuels. Cest ailleurs, en de, que tout se joue. Les enjeux fondamentaux ne deviendront visibles et accessibles au dbat que si lon accepte de considrer les dispositifs technologiques la fois en fonction des nouveaux modes de production du savoir quils constituent, qui rendent sensible par avance ce qui nest pas (encore), en fonction aussi des effets de gouvernement qui en dcoulent, et des implications de tout cela pour la vitalit des processus politiques de discussion des rgles fondamentales de justice. Vaste programme donc, que nous navons pu ici qubaucher grands traits.

Antoinette Rouvroy et Thomas Berns, Dtecter et prvenir : de la digitalisation des coprs et de la docilit des normes , in. Guy Lebeer et Jacques Moriau, Gouverner par les corps, P.I.E. Peter Lang, 2009 ( paratre). Version pr-publication accessible en ligne : http://works.bepress.com/antoinette_rouvroy/30 10 Michel Foucault, Cours au Collge de France 1977-1978, Scurit, Territoire, Population, p. 409.