Ouvrage collectif- fichier vierge
en-tte de page paire
en-tte de page impaire
Dtecter et prvenir: de la digitalisation des corps et de la
docilit des normes.
Antoinette Rouvroy* et Thomas Berns**
*Chercheur qualifi du F.R.S. - FNRS au Centre de Recherche
Informatique et Droit de lUniversit de Namur.
**Matre de confrence en philosophie lUniversit Libre de
Bruxelles et lUniversit de Lige et chercheur au Centre de
philosophie du droit de lUniversit Libre de Bruxelles.
Introduction.
Dune manire quelque peu intempestive sans doute et gard au thme
gnral de louvrage gouverner par les corps - et aux penses de la
biopolitique qui sy dploient, il sagit ici de tenter didentifier en
quoi les nouvelles technologies de lobservation, de linformation,
de la communication et de la rseautique, procdant la digitalisation
de la vie mme, intensifiant la dispersion ou la dividualisation du
sujet humain, tout en alimentant le mythe de sa prvisibilit,
donnent lieu une nouvelle forme de gouvernementalit irrductible aux
arts de gouverner dcrits par Foucault sous les traits du pastorat,
de la raison dtat, de la police ou du libralisme, et dont il
importe didentifier les spcificits pistmologiques, stratgiques et
tactiques.
Alors que, par exemple, dans la socit disciplinaire, le pouvoir
sactualise par la production de corps identifis, stables, fixes,
assujettis par la norme, rendus dociles la faveur de leur
ascription et de leur attachement direct et passionn aux
institutions spcifiques dans lesquelles ils sont organiss, contrls
en fonction des tches spcifiques quils ont y accomplir, le
gouvernement statistique ou algorithmique se dsintresse tant des
units constitues par les corps individuels que des masses
constitues par les populations. La gouvernementalit statistique
sintresse quelque chose de beaucoup plus abstrait, de beaucoup plus
fantomatique: la prdiction et surtout la premption des
comportements, par lapplication dalgorithmes de profilage des
quantits massives de donnes, et par la structuration (physique,
architecturale, informationnelle) du champ daction possible des
individus. Le rsultat en est que lon assiste labandon progressif,
par le pouvoir, de laxe topologique orient vers la contrainte des
corps et la matrise du territoire au profit de laxe temporel la
structuration du champ daction possible des corps, la matrise, un
stade prconscient si possible, de ce que peuvent les corps.
Il sagira donc ici denvisager les nouvelles technologies de
dtection, de classification, et dvaluation anticipative des
comportements et intentions non pas sous langle, le plus vident en
droit, des atteintes actuelles ou potentielles au droit la
protection de la vie prive et la protection des donnes caractre
personnel, mais de considrer ces dispositifs technologiques la fois
en fonction des nouveaux modes de production du savoir quils
constituent, qui rendent sensible par avance ce qui nest pas
(encore), et des effets de pouvoir qui en dcoulent.
Nous parlons donc du corps statistique dans la mesure o nous
voulons analyser la gouvernementalit contemporaine en ce quelle
tente de dire de prdire et dorienter les comportements (et
intentions), et en ce que, ce titre, elle se prsenterait
1) comme statistique, au sens o elle repose fondamentalement sur
lexploitation de grandes quantits de donnes signifiantes ou non aux
yeux des individus eux-mmes - recueillies dans une multitude de
contextes de vie et daction htrognes les uns aux autres, et sur la
dcouverte algorithmique de corrlations prdictives des comportements
futurs et
2) comme capable dradiquer lincertitude et limprvisibilit des
comportements individuels grce au traitement de leur multiplicit,
laquelle serait de la sorte objective comme si la totalit de lagir
humain pouvait tre bel et bien prise en considration, comme si nous
navions affaire qu un ensemble de corps et que des oprations de
calcul la dcouverte de corrlations sur lensemble devait permettre
de prdire le comportement de chaque individu. Le gouvernement
algorithmique vise non plus matriser lactuel, dompter la sauvagerie
des faits, mais structurer le possible, radiquer le virtuel, cette
dimension de possibilit ou de potentialit do provient que lactuel
tremble toujours un peu dun devenir autre qui constitue, justement,
sa singularit alors mme quil nest pas encore objectivement
connu.Notons en passant que ce dplacement de l'axe 'topologique' de
lactualit du corps vers l'axe 'temporel' du possible, du probable,
du virtuel accompagne et acclre la dissipation des universaux de la
philosophie politique, dont la figure de lEtat, et celle du
sujet.
LEtat, expliquait Michel Foucault, pas plus actuellement sans
doute que dans le cours de son histoire, na eu cette unit, cette
individualit, cette fonctionalit rigoureuse et, je dirais mme,
cette importance; aprs tout lEtat nest peut-tre quune ralit
composite, une abstraction mythifie dont limportance est beaucoup
plus rduite quon ne croit. Que ce soit sous la forme redoute du
monstre froid, ou sous la forme rductrice danalyses assimilant
lEtat un certain nombre de fonctions mais rendant tout de mme lEtat
absolument essentiel comme cble attaquer et () comme position
privilgie occuper, cest bien de la survalorisation du problme de
lEtat que Michel Foucault entendait notamment chapper en dirigeant
son attention sur la gouvernementalit. Les processus plus rcents de
privatisation, de dcentralisation, de dvolution des fonctions des
institutions tatiques des institutions infra- ou supra-nationales,
le dclin de la participation politique et des investissements
publics... confirment, si besoin en tait, le dclin de limportance
de lEtat, dont lassise territoriale elle-mme semble gagne par une
sorte de flou, ne marquant plus ni les limites de son intervention,
ni ne garantissant plus ltanchit de ses frontires.Sagissant du
sujet, Althusser, Butler, Duster, Fanon, Foucault, Lacan, et bien
dautres encore nous ont depuis longtemps persuads quil est toujours
dpossd, dans une certaine mesure, des conditions mmes de son
mergence, puisquil est toujours prcd par lidologie, les normes, le
langage quil incorpore pour se constituer. Lidentit du sujet, de
mme que son autonomie, est moins un phnomne observable quun
processus, une performance: elle se constitue en rendant compte
delle-mme et est ce titre essentiellement et fondamentalement
relationnelle. Lautonomie individuelle nest donc pas une capacit
purement individuelle et psychique: elle a des bases sociales et
matrielles. Il en va du corps comme de lidentit. Le corps toujours
indique un monde au-del de lui-mme par un mouvement qui le pousse
au-del de ses propres limites, de son actualit, un mouvement qui
est de fait un mouvement des limites corporelles. Ce mouvement, ce
trouble, explique Butler, serait en fait essentiel ce que sont les
corps. Ces corps, comme actualits ou comme devenirs, dans les
conditions contemporaines de dveloppement et de convergence
technologique, paraissent de moins en moins tanches lunivers
techno-scientifique dans lequel ils voluent.
Nous entendons donc corps non pas dans son sens biologique et sa
positivit matrielle dserte par la nouvelle forme de
gouvernementalit statistique qui nous intresse ici - mais comme ce
qui, quelle quen soit la nature relle, est le rsultat dune rduction
informatique un ensemble de corrlations pouvant tre abstraites de
toute intentionnalit et mme de toute causalit. Le corps statistique
en ce sens vacue les dimensions physique et linguistique qui
caractrisent notamment le corps subjectif: ni lexprience physique
du corps, ni le rcit autobiographique du sujet ne sont plus
autoriss, ne font plus autorit, au sens o leur auteur dtiendrait l
autorit ncessaire pour en contrler lintelligibilit et
linterprtation. Les choses se passent comme si le sens ntait plus
produit, mais toujours dj donn, immanent aux choses elles-mmes, et
aux corps.
Cette gnration quasi spontane du corps statistique partir du rel
brut nonobstant lintermdiation technologique ncessaire au calcul et
aux oprations algorithmiques qui en constituent le mtabolisme -
cache sa puissance normative sous lapparente neutralit de
limmanence ou de l adquation un rel entendu ds lors comme
proprement physique.
Cest ce titre aussi quil sagit dune application de la
statistique, qui sest certes mancipe de la tutelle de ltat, mais
qui permet dautant mieux den rencontrer les objectifs, savoir:
croiser un enjeu purement descriptif, appuy par une pratique
prtendument neutre de rcolte de donnes, et un enjeu normatif. Cette
possibilit de croiser le descriptif et le normatif repose entre
autres sur la capacit rflexive de ce qui est dcrit: dans la mesure
o le pouvoir, la diffrence de la violence et de la domination, ne
sapplique jamais qu des objets dots de capacits de rcalcitrance, le
maintien de la rflexivit de lobjet de la statistique est aussi ce
qui permet de dcrire la statistique comme linstrument privilgi dune
certaine forme de pouvoir gouvernemental plutt que comme un
instrument de domination ou de violence dont leffet serait
prcisment dannihiler les capacits rflexives des entits ( la fois
objets et sujets) propos desquelles et sur lesquelles il sexerce.
Le gouvernement statistique sest dailleurs toujours justifi partir
de son apparente bnignit, laquelle rsulte prcisment du fait quelle
suppose, fut-ce de manire implicite, un moment rflexif: il sagit
toujours seulement de gouverner dans un sens qui apparatrait vident
et justifi par le sens commun, cest--dire ncessairement bnin pour
ceux qui sont gouverns, tel est le fond de la lgitimit du
gouvernement statistique. Ainsi, au seuil de la modernit, William
Petty, un des premiers grands dmographes, insistait dj sur le fait
que la connaissance statistique de la population devait offrir les
bases dune politique honnte et inoffensive.
Cette rflexivit suppose de lobjet de la statistique est donc
cruciale pour cette dernire puisque cest elle qui autorise le
croisement de lenjeu descriptif et de lenjeu normatifet assure
ainsi la lgitimit de toute dmarche statistique: cest parce que
laction normative produite par une connaissance objective du dtail
des comportements des sujets ne repose que/ ou pourrait ne reposer
que sur la capacit rflexive de ceux-ci (sur leur autocontrle, leur
sens commun) que la statistique ne relverait pas dune forme de
gouvernement tyrannique. Or cette prtendue rflexivit, mme sous une
forme suppose, de lobjet de la statistique apparat premire vue
comme mise en pril par lvacuation radicale de lintentionnalit dans
la gouvernementalit statistique ou algorithmique - contemporaine.
Cest prcisment ce point qui devient alors lobjet de notre tude: la
possibilit dune action normative qui reposerait sur une rflexivit
non intentionnelle; et cest ce titre quil sagirait de penser une
politique des corps.Nous commencerons par dcrire un ensemble de
pratiques normatives contemporaines relevant de la gouvernementalit
statistique pour en relever les composantes indites (I), pour
ensuite adresser cet ensemble de phnomnes une srie de questions
caractre thique, juridique et politique (II).I Quelques pratiques
normatives contemporaines relevant de la gouvernementalit
statistique.
Nous devons partir dun constat lmentaire, mais incontournable:
les activits de rcoltes, de conservation et de traitement de donnes
sur les comportements humains individuels ou collectifs, y compris
parmi les plus triviaux (ceux qui passent mme inaperus de la part
de ceux qui les adoptent, et qui, prcdemment n intressent personne,
ntaient pas en eux-mmes tenus pour signifiants) quelles que soient
les fins de ces activits, ne sont dsormais plus limites, ni mme
freines de manire essentielle par une inaccessibilit technique ou
conomique. Le caractre virtuellement infini des capacits de
stockage et la diminution corrlative du cot des mmoires digitales
facilement interconnectes rendant disponibles au traitement des
quantits de donnes gigantesques devaient trs tt donner lieu au
phnomne de dataveillance, dun usage systmatique des technologies de
capture et de traitement de donnes des fins de suivi et de
surveillance des personnes et groupes de personnes. Ces activits de
dataveillance ne sont plus non plus limites, ou si peu, par la
rcalcitrance des individus auxquelles les donnes se rapportent ou
quelles concernent. La banalisation dune surveillance dmocratique
et galitaire qui ne prtend plus cibler personne a priori, mais
sapplique tout le monde par dfaut, une surveillance laquelle
collaborent les institutions publiques et prives, se fondant dans
lordinaire, ne suscite plus ni rticence ni rsistance; largument
suivant lequel qui na rien cacher na rien craindre de la
surveillance, ajout au confort de limmdiatet, aux vertus de
linteraction et la sduction narcissique de lexposition personnelle
lemporte largement sur les rticences au dvoilement de la vie prive
et de lintimit. De cette augmentation de la quantit des donnes
rcoltes dcoulent, bien entendu, des changements qualitatifs dans
les pratiques concernes, changements au sujet desquels nous
poserons dans la seconde partie quelques questions dordre thique et
juridique. Cependant, il nous faut montrer avant cela en quoi cette
volution quantitative, dont les causes sont la fois technologiques,
sociologiques (rosion de la sensibilit aux questions de protection
de la vie prive, auto-exposition et auto-surveillance), politiques
(rationalit politique survalorisant le caractre prdictif des donnes
relatives aux individus au dtriment des donnes contextuelles et
structurelles; place centrale occupe par la minimisation des
risques et de la contingence dans les agendas politiques), et
conomiques (souci de remplacer par des dispositifs technologiques
moins onreux le personnel de scurit dploy, depuis le 11 septembre
2001, dans tous les lieux stratgiques), induit aussi des
changements de nature quant la production des connaissances et des
dispositifs de contrle.
1. Nouveaux dispositifs de surveillance.
Si, en Europe, le gouvernement chtie peu et tue rarement, il
surveille beaucoup. Sous la bannire dune socit de linformation
soucieuse dassurer sa scurit, son efficacit et son confort, se
dploient une srie de programmes de recherche visant au dveloppement
de dispositifs dobservation multimodale, de classification et
dvaluation anticipative des comportements qui, fonds sur la
biomtrie, la vidosurveillance et leurs variantes, extraient
directement du corps humain des informations auxquelles est
attribue une valeur prdictive plus grande que celles que pourraient
revtir les dclarations et tmoignages des individus. Le corps
humain, dans la mesure o il devient possible den extraire des
informations quil nest pas loisible lindividu de falsifier, devient
ainsi la source privilgie dinformations prdictives de ses
comportements, prfrences, attitudes futures.
Par exemple, parmi dautres initiatives du mme type, le projet
HUMABIO dveloppe des dispositifs de biomtrie dynamique et
intelligente, combinant une varit de capteurs capables de combiner
des donnes visuelles, sonores et physiologiques afin de dtecter et
de suivre les mouvements, trajectoires, attitudes et expressions
suspectes, des fins scuritaires. Un autre projet europen,
SENSATION, dveloppe des micro- et de nano-senseurs capables de
contrler, de manire discrte et non invasive, ltat physiologique des
personnes en termes dveil, de fatigue, de stress, partout et tout
moment, au travail, lcole, au thtre Microsoft, de son ct, dposait
rcemment une demande de brevet pour linvention dun dispositif
combinant une srie de capteurs de donnes contextuelles,
physionomiques, physiologiques et biologiques relis l'ordinateur
utilis par un employ, et permettant de renseigner son patron sur
son niveau de stress, son attention au travail, sa motivation, etc.
Par ailleurs, lanalyse automatise des mouvements des muscles du
visage des consommateurs, dtects grce des systmes de
vidosurveillance coupls des systmes danalyse algorithmique, afin de
dtecter leurs motions telles que le plaisir, lintrt ou lennui, le
dgout, offrent des perspectives allchantes en termes dapplications
de type marketing ou publicitaires.
L intelligence de ces dispositifs dobservation, de
classification et dvaluation anticipative des comportements,
prfrences et intentions rside dans les algorithmes qui leur
permettent d interprter eux-mmes les donnes quils enregistrent en
fonction de critres de normalit ou danormalit, de dsirabilit ou
dindsirabilit. Ces algorithmes sont construits sur une la base de
corrlations statistique.
2. La production des corrlations statistiques.
Il est extrmement difficile de scinder les oprations de
data-warehousing (entreposage de donnes) et de data-mining
(extraction de corrlations) des oprations de profilage
stricto-sensu. Ce sont les trois tapes complmentaires du mme rve
gouvernemental: dtecter, classer et valuer anticipativement les
comportements humains. Rouages interdpendants dun processus de
production de savoir continu, dynamique et rcursif, cest comme
ressorts dun mme dispositif quil faut concevoir la rcolte massive
de donnes a priori non finalise (data-warehousing), la production
de corrlations statistiques entre ces donnes et certains
comportements, quil sagisse par exemple dune prdisposition se
porter acqureur de tel ou tel bien ou service, dune propension
adopter des comportements frauduleux, ou commettre certaines
infractions (data-mining ou construction de profils), et
lassignation des individus des profils qui permettent dinfrer, avec
une certaine marge dincertitude, de la seule prsence de ces
caractristiques observables chez ces individus, dautres
caractristiques individuelles non observables, actuelles ou
futures.
Le data-mining a notamment t dfini dans un document manant du
United States General Accounting Office comme lapplication de la
technologie et des techniques de banques de donnes (comme lanalyse
statistique et la modlisation) afin de dcouvrir les structures
caches et relations subtiles entre donnes et den infrer des rgles
permettant la prdiction de rsultats futurs. Les objectifs du
data-mining vont de lamlioration des prestations et performances
des services la dtection de terroristes potentiels en passant par
la dtection des fraudes, gaspillages et abus, lanalyse
dinformations scientifiques et de recherche, la gestion des
ressources humaines, la dtection dactivits criminelles ou
lidentification de structures de comportements menant de telles
activits. Le mme rapport mentionnait quune grande partie du
data-mining ralis par ltat fdral amricain impliquaient lusage de
donnes caractre personnel extraites de banques de donnes constitues
par des organisations relevant tant du secteur priv que public. Le
data-mining est donc une technique dextraction ou de dcouverte
automatise de savoir partir dune grande masse de donnes . Utilis
tant dans le secteur public que priv, le data-mining est exemplaire
dune srie de glissements contemporains dans le rapport au rel et
dans les modes de gouvernement.Ce type de pratique prsuppose,
contrairement aux pratiques statistiques au sens strict, des
rcoltes de donnes massives dpourvues de toute hypothse de dpart qui
viseraient guider la rcolte en question. De ce fait, la masse
dinformations, dont des connaissances seront extraites par le biais
de corrlations qui se construisent a posteriori, semble tellement
brute, non trie, tellement htrogne, quelle peut tre considre comme
le rel lui-mme. Le point de dpart des nouvelles pratiques de
traitement des donnes semble toujours rsider dans une objectivit
qui rsiste toute contradiction, ds lors que sa premire et mme son
unique qualit rside dans le caractre massif des informations qui la
composent. Les connaissances qui mergeront sur une telle base
massive et non trie consisteront exclusivement dans lapparition
quasi spontane, quasi organique (si lon se rapporte la mtaphore du
corps statistique) et en tout cas automatique, de corrlations
suffisamment fortes pour tre considres comme intressantes,
cest--dire doues dune force prdictive. On a pu observer que la
qualit de ces prdictions reposait bien moins sur le caractre
sophistiqu de lalgorithme que sur le seul caractre massif des
banques de donnes exploites: une prdiction est plus fine si elle
repose sur une grande quantit de donnes traite partir dalgorithme
simple que le contraire. Un tel constat est, bien entendu,
absolument relatif, et peu intressant en tant que tel, si ce nest
quil permet de cerner la nature du savoir produit par de telles
pratiques: ce savoir purement prdictif scarte largement de ce que
lon considre spontanment comme un savoir des causes ou des
justifications des comportements. Rompant avec les ambitions
modernes de la rationalit dductive reliant les phnomnes observables
(cest--dire les phnomnes pralablement slectionns comme objets
dobservation et danalyse en fonction de critres dintrt explicites
ou implicites) leurs causes, la rationalit statistique suit une
logique inductive. Indiffrente aux causes des phnomnes, elle sancre
dans lobservation purement statistique de corrlations (indpendantes
de toute logique) entre donnes recueillies dune manire absolument
non slective dans une varit de contextes htrognes les uns aux
autres.
Face au foisonnement anarchique et lirrgularit des comportements
humains, le profilage (et les oprations de rcolte de donnes et
dtablissement de corrlations qui le prcdent) dispense de lvaluation
individualise des risques, du mrite, des propensions diverses, des
besoins de chaque individu et permet dobjectiver et d optimiser les
autorisations daccs certains lieux, les mesures de contrle
administratif ou policier, la distribution ou la rpartition des
opportunits, des ressources et des offres de biens et de services
en fonction des prdictions associes non plus chaque personne
individuellement, mais chaque profil (on parle par exemple cet gard
de profils de consommateurs, de profils de risque ladministration
fiscale dispose dune srie de profils de fraudeurs). Les profils,
sans identifier personne, assignent les mmes prdictions
comportementales tous ceux qui se trouvent prsenter un certain
nombre dlments repris dans lesdits profils quelles que soient les
spcificits biographiques ou autres quils puissent prsenter par
ailleurs. Lvaluation du mrite et du besoin, des aptitudes et des
faiblesses des individus, voire de leurs intentions, tche dlicate
sil en est, mais quon sait rarement exempte de prjugs, est, par la
grce du profilage qui vite de devoir sintresser aux individus en
tant quindividus, rendue progressivement redondante.
Moins susceptible dtre biais par les prjugs humains (notamment
vis--vis des groupes minoritaires ou historiquement discrimins), il
serait nanmoins excessif daffirmer que le savoir produit par le
profilage soit effectivement objectif au sens o lon sest longtemps
rfr lobjectivit du savoir scientifique. Les systmes informatiques
impliqus dans les dispositifs de profilage ne sont pas conus pour
observer la complexit unique de chaque individu, mais pour classer
les individus dans une varit de catgories htrognes de manire
pouvoir prdire leurs propensions acheter certains biens un certain
prix, les risques quils causent des frais leurs assureurs
potentiels, le danger quils prsentent pour autrui, ou toutes
propensions que commerants, assureurs, forces de maintien de lordre
et bien dautres peuvent trouver utiles de connatre par avance. La
manire dont ce quil y a connatre par avance est dfini, le processus
de problmatisation, dpend forcment du type dapplication envisag
(scuritaire, actuariel, de marketing, de divertissement).
Lapparente neutralit du profilage ne doit pas faire oublier la
non-neutralit des applications diverses, alinantes ou
mancipatrices, dans lesquelles il peut sinscrire. La relative
nouveaut du profilage et surtout de sa relative gnralisation
pourrait faire oublier les enjeux politiques de la problmatisation,
cest dire, du choix des secteurs pour lesquels prvoir les
comportements apparat la meilleure faon de gouverner. Il ne sagit
cependant pas, de notre part, de simplement affirmer que toute
production de savoir, mme sur des bases automatises, est sujette
caution parce quelle serait habite par des enjeux de pouvoir et de
contrle, quels quils soient et a fortiori lorsque ceux-ci sont ou
peuvent rester voils, et ce, pour plaider ds lors pour lapplication
dans ce champ dune sorte de principe de prcaution. La question nest
en effet pas, ou pas seulement, que lobjectivit prtendue nest pas
ncessairement rencontre, mais plutt quon se trouve face un type de
gouvernement qui noue un nouveau rapport lobjectivit, et que cest
de cela quil sagit avant tout de prendre acte.Bien que par des
vertus defficacit et dobjectivit, le profilage semble procder dun
processus qui reflterait la ralit actuelle et future sans y
toucher. Les exemples ne manquent pas, pourtant, du caractre
performatif des classifications impliques. Dans la mesure o les
oprations de profilages permettent dajuster les offres de biens et
services, ou la communication de contenus informationnels (sur
Internet) aux prfrences de chaque individu telles que dcouvertes
par infrence au dpart de donnes relatives aux comportements et
prfrences que lindividu et/ou les individus auxquels le mme profil
a t assign ont manifests par le pass, il est difficile de contester
lide que le profilage peut avoir un effet performatif sur les
comportements quil est cens prdire: mvitant dtre surpris par des
informations et offres que je naurais pas dj trouves intressants ou
attractifs par le pass, mon profil agit comme un filtre qui, tout
en augmentant la pertinence de ce qui mest propos par rapport mes
attentes actuelles, restreint mes chances de changer de point de
vue, dlargir le champ de mes intrts. Le profilage me confirme dans
mes gots et mes intrts passs et peut induire une sorte de
rigidification de mes croyances, opinions, dsirs et apptits en tous
genres. Que je le veuille ou non, chaque rptition ira en retour
renforcer le profil qui me sera appliqu et dans lequel je naurai de
cesse, inconsciemment, de me reconnatre. Que jaie moi-mme un
certain contrle sur mon profil comme cest le cas dans les rseaux
sociaux tels que Facebook ou Twitter tmoigne seulement dune
rconciliation entre gouvernement et interactivit: les rseaux
sociaux, facteurs de convergence sociale et de surveillance
mutuelle peuvent trs bien fonctionner comme instruments
gouvernementaux dans la mesure o ils favorisent linternalisation
des normes tout en instituant des liens de fidlit et de dpendance,
pouvant aller jusquaux attachements passionns des individus
vis--vis de leur profil, cest--dire aux performances identitaires
excutes en rponse, et qui viennent renforcer, les normes
esthtiques, morales, de comportement en vigueur dans ces rseaux.
Pour autant, les comportements des individus qui peuvent tre prdits
sur la base massive doprations de data mining et de profilage sont
le plus souvent dpourvus de toute inscription dans des contextes
collectifs, et mme intentionnels. la diffrence des mthodes plus
anciennes de profilage, comme le profilage ethnique auquel il est
recouru plus ou moins explicitement et plus ou moins
systmatiquement dans le contexte pnal amricain, le profilage plus
dynamique et individualis que permettent les techniques de
data-mining classent les individus dans une multitude de catgories
htrognes les unes aux autres, dune trs grande plasticit,
constamment volutives, de telle manire que, ces classifications ne
recoupant aucune catgorisation socialement prouve (appartenance
ethnique, genre, prfrences sexuelles, opinions politiques,
convictions religieuses), leur contestation au moyen dactions
collectives devient impensable, quels que soient de fait leurs
effets potentiellement discriminatoires. Le caractre invisible et
surtout inintelligible des processus algorithmiques empche de fait
toute contestation leur endroit.Comme lexplique Jonathan Simon, le
prisme reprsentationnel institu par lusage actuariel de la
statistique transforme les individus, autrefois perus comme des
tres moraux ou rationnels, en simples localisations, ventuellement
multiples, dans des tables de variations actuarielles. Ce
glissement de lagent moral au sujet actuariel tmoigne dun
changement dans la manire suivant laquelle le pouvoir de ltat et
des grosses organisations publiques ou prives - sexerce sur les
individus. Les effets sen font ressentir sur la manire dont nous
nous percevons nous-mmes, dont nous percevons nos communauts, et
sur notre capacit de jugement moral et daction politique. Outre cet
effet de dmoralisation et de dpolitisation des sujets, le
gouvernement algorithmique radicalise, dune manire essentielle, les
processus dindividualisation - ou plutt de dividualisation - en
cours, comme nous le verrons ci-dessous.
De cet ensemble de phnomnes simpose donc massivement lide dune
objectivit radicale des productions de savoir en question: la
possibilit absolument neuve qui serait ainsi ouverte est celle dune
correspondance, voire dune adhrence ou mme dune adhsion parfaite et
constante au rel concern. Sagissant de technologies qui visent
dtecter les intentions et les comportements futurs, nous devons
plutt parler dune adhrence anticipe au rel, le rel ou
lenvironnement tant sans cesse produit ou reproduit ou adapt sur la
base des donnes collectes. Et dans la mesure o ces mmes
technologies servent souvent des objectifs de scurit au sens large,
quil sagisse de prvention du terrorisme ou plus globalement de
dfinir des profils risque, on peut mme dire quil y a finalement
surtout adhrence un rel vit, qui se vrifie dans la seule, mais
dangereuse mesure o il ne se produit pas, fantomatique donc. Le
corps statistique serait ds lors porteur dune mmoire du futur alors
que les raisons dtre des politiques quil sert sont prcisment dviter
lactualisation de ce futur. Il ne sagit toutefois pas de penser que
cette adhrence au rel rsulte exclusivement de ce que le rel serait
en fait produit par les normes prtendument tires des comportements,
comme si cette description du rel trouvait tout son sens dans son
caractre performatif, comme si son observation ntait quune action
sur un rel futur, et ce, dautant plus que cette adhrence se
jouerait sur le mode fantomatique mentionn. Il nous parat en effet
plus important, plus primordial, et plus en rupture par rapport aux
pratiques normatives prcdentes, de noter que le modle gnral de
gouvernement que nous cherchons cerner est dj entirement luvre dans
lpistmologie qui le soutient: lessentiel de sa force et de sa
lgitimit rsiderait dans le fait que les normes qui le constituent
sont immanentes au rel dont elles mergent sans rclamer en apparence
aucune thse sur ce rel, aucun appel explicite une expertise, aucune
dcision. Cette immanence au rel est constitutive du gouvernement
que nous questionnons, dans le sens que cest par cette immanence
que a gouverne.
Un dernier lment primordial de ce point de vue descriptif:
ladhrence du gouvernement au rel suppose non seulement que les
pratiques de savoir dont mergent les normes se dveloppent sans
hypothse et mme sans lappui dune expertise extrinsque, mais aussi
que les objets de ce savoir ne soient pas activement capturs par
ces pratiques de savoir; les objets de ce savoir, les comportements
humains, sont eux-mmes producteurs exclusifs du savoir qui se
rapporte eux: les traces laisses par les comportements des sujets,
qui constituent lobjet du savoir statistique contemporain, se
collectent delles-mmes.II - Problmes thiques et juridiques lis ces
pratiques normatives contemporaines.Dans le cadre de la
'production' algorithmique de connaissances dcrite ci-dessus, le
savoir et les normes semblent gnrs de manire quasi spontane comme
sil ne sagissait plus de gouverner le rel, de manire transitive,
mais de gouverner partir du rel, en prenant acte de celui-ci. Tout
est a priori enregistr parce que toute information, mme
insignifiante en elle-mme, peut servir des finalits de profilage ou
de calcul de risque. Ceci signifie que le rel qui sert de base
objective au savoir et aux normes dans le cadre de la gouvernance
algorithmique consiste en un ensemble de donnes, de data points
localiss dans des tables statistiques (actuarielles).
Dans cette production passive de savoir et de norme, le langage
naturel nintervient mme plus pour 'dire' ni 'attester', ni
'tmoigner' du rel; il est en quelque sorte 'absorb' par le rel, mis
sur pied d'galit avec le rel, assimil aux 'faits bruts'. Il n'y a
plus de diffrence entre discours langagier et 'discours' du corps.
La 'digitalisation' du monde, ou le phnomne de 'dataveillance'
radique la distinction entre pistms langagire, visuelle, sonore;
tout - crits, sons, images...- est 'traduit' en 'data points'.Une
srie d'enjeux proprement 'gouvernementaux' dcoulent immdiatement de
ces glissements pistmologiques.
Premirement, lvacuation de toute hypothse la base des rcoltes de
donnes, dont on a vu quelle caractrise le datamining, signifie que
le gouvernement algorithmique qui en dcoule se lgitime a priori
sans faire rfrence aucune finalit, et ce, en vertu de sa seule
adhrence au rel.
Ce type de gouvernement entrane dailleurs aussi une confusion
quant aux justifications qui pourraient en tre donnes a posteriori,
les arguments voqus ce titre pouvant toujours et la fois relever du
confort des usagers concerns, de la scurit collective et de lintrt
marchand des intermdiaires qui prennent en charge ce gouvernement.
On peut bien sr considrer que cest l le propre de tout acte de
gouvernement. Mais dans le cas prsent, cette confusion est inhrente
non plus la confrontation des lectures critiques que lon peut en
faire, mais la nature mme dune pratique de gouvernement qui
sexprime entirement dans le rapport quelle tablit au rel: rcolter
des donnes, indpendamment de toute hypothse quant leur intrt
spcifique relativement une finalit (puisquaucune finalit nest a
priori dfinie), au point de pouvoir considrer que le rel lui-mme
est ainsi objectivement saisi, et laisser merger des normes partir
des banques de donnes ainsi constitues, de manire telle que ces
normes puissent in fine tre considres comme manations quasi
spontanes de ces donnes, bref gouverner partir du rel, induit
ncessairement que de telles normes pourront agir comme si elles
ntaient guides par aucune finalit, mais seulement portes par les
exigences mmes du rel. Aucun seuil ne peut dailleurs tre
vritablement dfini entre ce qui relve de la rcolte dinformation,
avec les corrlations qui sont produites leur sujet de manire
automatise, et lusage qui est fait de ces donnes corrles. La
confusion note est donc aussi celle qui porte sur la suppose
diffrence entre description du rel et action normative partir de
celle-ci. Le fait que cette vacuation des finalits ou leur
confusion et la vritable fusion que cela induit entre description
et norme rduisent fondamentalement la possibilit dune valuation
thique est vident; nous nous contenterons den prendre la mesure
ci-dessous par un biais plus juridique, car le problme ne rside pas
directement dans cette difficult produire une valuation thique,
mais dans le fait que le droit continue de se nourrir dune srie
darguments qui reposent, comme on le montrera, sur une thique qui
suppose quon peut se mouvoir sur le terrain des finalits,
cest--dire cela mme qui a t vacu de manire essentielle. Le
lgislateur exigeant la fois que lactivit de rcolte et de traitement
des donnes lorsque les donnes ne sont pas irrversiblement
anonymises, et quelles restent donc des donnes caractre personnel
au sens du rgime juridique de protection des donnes - soit
ncessaire, proportionnelle et en rapport avec la finalit lgitime
dclare de ladministration ou de lorganisme public ou priv qui y
procde et, dans les cas o il est requis, que soient effectifs les
droits des sujets concerns - lesquels doivent par exemple tre
avertis, le cas chant, quune camra les filme, avoir pu donner leur
consentement pralablement la rcolte de leurs donnes, avoir accs ces
donnes, pouvoir en demander la rectification ou leffacement, etc.,
autant de prrogatives qui ne peuvent tre de fait envisages et
exerces effectivement quau regard des finalits vises par lactivit
de rcolte en question. Cet cart entre les pratiques de gouvernement
et leur rgulation juridique est exemplaire, car il ne tmoigne plus
dune conflictualit frontale, mais plutt dune suite de mouvements
desquive: gouverner consistant prcisment dployer des pratiques qui
vitent le terrain sur lequel la rgle juridique parvient agir, do
limportance, pour les juristes confronts ces nouveaux dispositifs,
de ne pas seulement valuer lapplicabilit et leffectivit du droit
positif aux circonstances radicalement neuves de la socit de
surveillance, mais de sefforcer de comprendre quelles sont types et
les modalits d'exercice du pouvoir, et quelles sont les possibilits
de rsistance au pouvoir que les nouvelles technologies instituent
lorsqu'elles paraissent menacer la vie prive et dfier les rgimes de
protection des donnes. Ce nest quainsi quil sera possible de
produire un cadre juridique capable de prserver ou dlargir les
possibilits de rsistance, et dmergence de contre-conduites, ce qui
est un enjeu crucial si, comme Foucault laffirmait: Rien nest
politique, tout est politisable, tout peut devenir politique. La
politique nest rien de plus ni rien de moins que ce qui nat avec la
rsistance la gouvernementalit, le premier soulvement, le premier
affrontement. Cest bien la puissance dagir normatif qui se trouve
ici mise en question. Deuximement, comme dj voqu prcdemment, les
sujets constitus par ce type de gouvernement ne sont en consquence
plus ncessairement des sujets 'moraux', faisant des choix anims par
des intentions, intentions qui ne pourraient tre orientes encore
une fois que par les diffrentes finalits quils se seraient fixs, et
qui devraient tre ventuellement confrontes aux finalits mmes du
gouvernement: ce type de gouvernementalit s'accommode trs bien de
l'amoralit des sujets, de leur incohrence. Il se contente des
localisations multiples dans des tables actuarielles ou
statistiques diverses. L'unit laquelle s'adresse le pouvoir n'est
plus l'individu unitaire, rationnel, goste, identifi un
'territoire' corporel - cet individu-l n'intresse plus le pouvoir.
Pour structurer le champ daction possible des individus, le pouvoir
na plus sexercer physiquement sur des individus identifiables ou
identifis, il peut a prsent s'adresser uniquement et directement
aux multiples 'facettes' htroclites, diffrencies, contextuelles,
minemment changeantes, qui sont les miroitements partiels fractions
ou instantans - dexistences individuelles dont le pouvoir peut
prsent ignorer la complexit, et la vivacit. Si lobjectif reste bien
de produire in fine des comportements rguliers, cest--dire
prvisibles, les outils de cette rationalit gouvernementale nont
plus pour cible directe des individus unifis, porteurs dune
histoire personnelle, historique. La mesure de toute chose est
dividuelle, constitue dune multitude de reprsentations numrises,
potentiellement contradictoires entre elles et en tout cas htrognes
les unes aux autres. Cest cet tre numrique constamment dcompos,
recompos, composite, qui intresse prsent directement le pouvoir:
l'instabilit du 'dividu', cette unit dpourvue de for intrieur,
correspond l'absence de 'projet' et dhypothse du gouvernement. Dans
un rgime de gouvernementalit statistique, il nest plus attendu du
sujet quil soit dun seul bloc, ni quil fasse preuve de
lintriorisation des normes en sidentifiant et en rendant compte de
soi auprs dun pouvoir identifiable, le pouvoir - ou ce quil en
reste - tolre dautant mieux les irrgularits, les contradictions,
les incohrences des individus quil produit leurs corps non plus en
fonction de la manire dont les individus se peroivent,
sassujettissent ou se subjectivisent, mais en fonction de ce que
ces corps pourraient faire, en fonction des virtualits dont ils
sont porteurs. Oprant indpendamment de la conscience ou de la
subjectivit, la biomtrie, par exemple, ne prend pas pour objet
lindividu incarn, physique, corporel, mais un sujet de donnes (data
subject), lequel est ajust un patron ou modle numrique des fins
didentification. Lautorit ainsi sapplique par linstauration de
canaux numriques plutt que par la conduite des individus physiques
suivant des trajectoires prdfinies. Les individus deviennent des
dividus et les masses deviennent des banques dinformation. Il sagit
cependant, dans notre manire mme de comprendre les pratiques
normatives en question avec la segmentation des individus quelles
produisent, de toujours garder lesprit lindtermination de leurs
finalits. Ceci importe dans la mesure o toute interprtation en
termes de thorie du complot est ainsi rendue impossible. Certes, un
tel gouvernement algorithmique sexpose par principe, et en raison
de labsence de finalit a priori, des rcuprations multiples,
c'est--dire tre repris et (re)dtermin en fonction des finalits les
plus diverses (tant donn labsence de finalit prdfinie, les
pratiques en question peuvent dailleurs toujours aussi se prter des
usages mancipateurs). Mais ce quil nous semble avant tout important
de noter cest que cette disponibilit une multiplicit dapplications
et de rcupration suppose donc une indtermination originaire. Et
cette absence originaire de finalit ne signifie pas pour autant que
les pratiques en question ne seraient pas encore normatives,
quelles attendraient, pour agir, dtre reprises dans le cadre dune
efficacit stratgique dont les buts seraient dtermins dans un second
temps: au contraire et paradoxalement, la normativit du
gouvernement algorithmique est prcisment luvre et lgitimement luvre
dans son absence de finalit; son efficacit stratgique, lorsque
cette normativit est mobilise en vue dune quelconque finalit, nest
jamais que la confirmation et lmanation dune disponibilit et dune
adhrence au rel qui la lgitime a priori.
Toutefois, malgr cette multiplicit dusages possibles, force est
de constater que le gouvernement algorithmique, sans pouvoir ni
vouloir proposer de politique substantielle dfinie, a nanmoins pour
but absolument gnrique et pour effet absolument concret, en
organisant la prvisibilit des comportements, de rduire la
contingence, et donc la varit ou la spontanit - des dveloppements
et transformations sociales et politiques possibles et pensables,
au risque de rigidifier les structures de comportement, de figer
les dynamiques sociales, et de porter ainsi atteinte la vitalit
politique globale.
Frdric Neyrat parle cet gard, quoi que dans le contexte sommes
toutes diffrent de la biopolitique des catastrophes, dune
hyperbiopolitique orientant les investissements, dcisions et
politiques non pas en fonction de ce qui existe, de dommages
visibles,
mais des flux dinformation, de boucles dinformations projectives
et prospectives voluant parfois heure par heure. Lhype-biopolitique
a pour modle une sorte de gouvernance just in time, capable de
rpondre la vitesse des dernires informations. Lorsquelle est en ode
conjuratoire, la biopolitique des catastrophes ne se fixe sur aucun
dommage peru, mais sur la possibilit du dommage. Ce serait sans
compter avec leffectivit de la catastrophe, soit le dommage ralis
vache folle, canicule, tsunami, etc. Cest alors que
lhyper-biopolitique passe en mode rgulatoire, et agit dans
laprs-coup. Certes toujours en fonction des flux dinformations,
avec lidal suivant: panser les plaies au moment mme de leur
ouverture, afin dviter linstallation de tout trauma voire la
rptition de ce mme type de catastrophe: en mode rgulatoire,
lhyper-biopolitique maintient sa dimension prospective dans son
mode mme de rgulation. Comme sil sagissait, en dfinitive, de
conjurer e qui a eu lieu et de rguler ce qui viendra Inversant laxe
du temps, la politique-fiction devient ici vritablement
fantasmatique. Mais au prix dun oubli des conditions de la
catastrophe qui a eu lieu () La biopolitique des catastrophes
sinscrit dans une temporalit qui a pour fonction de grer la
maintenance du prsent par pr-vision du possible, prvenant ainsi la
possibilit dune co-politique transformatrice.
Troisimement, il y a dans tout cela quelque chose qui drange, et
que les juristes pensent peut-tre un peu trop rapidement pouvoir
qualifier en termes dintrusion dans la vie prive ou de violation
des rgles de protection des donnes caractre personnel, quitte
ventuellement suggrer des modifications du rgime juridique
pertinent. Pourtant, ces rgimes juridiques sont inaptes fournir aux
individus les conditions de ralisation de contre-conduites ou de
rsistance, prisonniers quils sont dune sorte dindividualisme
mthodologique aveugle aux effets que nous venons de mentionner de
la digitalisation de la vie mme. Attachs la figure de lindividu, du
sujet de droit, ces rgimes juridiques ignorent le fait que le type
de gouvernementalit statistique ou algorithmique quelle rend
possible na plus pour cible privilgie lactualit de lindividu
identifi, sujet de droit, sujet de donnes, juridiquement protg dans
son autonomie, sa clture, son intimit, mais une virtualit assez
bien rendue par la figure deleuzienne du dividu, multiplicit
ouverte et rhizomatique, un devenir autre. Face, par exemple, aux
dispositifs de biomtrie prdictive dont le but nest plus seulement
ou plus du tout lidentification ni lauthentification, mais bien
plutt la prdiction des comportements et intentions des fins de
prvention et de premption, on peroit bien que lesrevendications
faisant de la proclamation et de la mise en oeuvre dun droit
lanonymat manquent partiellement leur cible. Par ailleurs,
labondance des tudes, rapports et publications ddies la
problmatique attestent des difficults dapplication, voire sur
linadquation, des rgimes juridiques de protection de la vie prive
et de protection des donnes caractre personnel face au recueil
massif et continu de donnes personnelles et contextuelles en tous
genres, leur traitement des fins gnrales de profilage notamment,
leur conservation par dfaut sans que soit nonce a priori de finalit
spcifique. Il est dailleurs loin dtre tabli que toutes ces donnes
soient, techniquement, assimilables des donnes caractre personnel
(cest--dire des donnes relatives des individus identifis ou
identifiables) au sens du rgime juridique de protection alors mme
que limpact de ces traitements sur les personnes peut tre au moins
aussi significatif et potentiellement dfavorable que des
traitements de donnes caractre personnel au sens traditionnel. On
se trouve donc face au paradoxe suivant: quand bien mme le caractre
objectivement personnel des donnes en jeu est difficilement
attestable, leur inscription dans le cadre gnral dune
gouvernementalit statistique qui ne se dfinit pourtant pas par le
traitement quil entend leur rserver et qui ne se soucie mme pas des
personnes, mais seulement des fragments dividuels de celles-ci au
point que leur accord pourrait toujours tre suppos, induit la
possibilit dune action sur les environnements qui les dpasse
nettement. Un lment extrmement concret tmoigne de ce paradoxe: les
donnes dont lanonymat est effectivement garanti permettent pourtant
lidentification des sujets quelles concernent par leur simple mise
en corrlation, mais la gouvernementalit quelles servent ne rclame
en fait mme plus cette identification dans la mesure la seule
personnalisation des environnements physiques et informationnels -
est suffisante, et permet effectivement de structurer le champ
daction, et de pense, possible.
Quatrimement, au niveau mtajuridique, labstraction, la
temporalit et la porte du gouvernement algorithmique soulvent des
questions spcifiques. Voici un enjeu peut-tre moins vident qui
tient directement au type de gouvernementalit install par les
dispositifs que nous avons voqus. Cette gouvernementalit se
caractrise par une certaine abstraction, cest--dire une distance
phnomnologique par rapport lexprience vcue. Elle est porteuse dune
temporalit propre, distincte elle aussi de la temporalit vcue.
Enfin, elle se caractrise par sa porte non seulement prdictive,
mais galement premptive. Les 'dividus' sont de plus en plus
'distincts' et 'abstraits' par rapport aux rcits individuels et
collectifs qui sont porteurs dune inactualit (ce devenir autre qui
ne cesse de faire trembler lactuel) que la gouvernementalit
algorithmique tente ainsi de conjurer. Ils ont - sous forme
digitalise - une vie propre (ils croissent constamment, en nombre
et en sophistication, et sont mmoriss pour une dure virtuellement
infinie sur des supports digitaux). Enfin, les dividus, traits
suivant les algorithmes adquats, permettent non seulement la
prdiction, mais galement la pr-emption des comportements.
Cest--dire quils permettent la structuration du champ daction
possible des individus, un stade pr-conscient; ils permettent, pour
le dire autrement, la construction des prconditions de laction des
individus. Il rsulte de tout ceci que ce gouvernement algorithmique
des comportements prsente une srie de menaces dans la mesure o il
affecte certaines prrogatives subjectives essentielles la vitalit
sociale et politique:
- Le gouvernement algorithmique, dans la mesure o il institue le
corps statistique au dpart de lenregistrement, par dfaut, de tous
les vnements, de tous les comportements, signifiants ou non pour
ceux dont ils manent, constitue aussi une sorte de mmoire digitale
totale aux capacits de stockage virtuellement infinies, de nature
peut-tre porter atteinte la capacit doubli et, partant, la mise en
uvre du droit loubli qui se trouvait garanti par lobscurit pratique
dans laquelle tombaient la plupart des faits et gestes poss, des
phrases prononces, une fois pass le temps ncessaire loubli humain.
La trs grande facilit de rcupration et de recoupement des donnes
enregistres dans diffrents contextes, diffrentes priodes, pour la
construction et lactualisation de profils dutilisateurs, de
consommateurs, de dlinquants potentiels, de fraudeurs... peut aussi
contribuer affecter aux individus les traces de leurs comportements
passs au titre dun destin identitaire, au risque de les empcher
dinnover dans leurs usages des services et des technologies, de
modifier leurs comportements de consommateurs, de repartir zro dans
leurs rapports la socit, ses lois, ses opportunits - La possibilit
de dsobissance est, elle aussi, affecte par le caractre toujours
plus prventif et pr-emptif, visant non plus interdire ni
sanctionner certains actes illgaux ou dangereux, mais les rendre
physiquement impossibles. Alors que cette impossibilit de
dsobissance peut paratre offrir la loi une effectivit quelle
naurait mme pas pu rver, la possibilit de dsobir reste nanmoins
absolument ncessaire, non seulement dans la mesure o elle rend
possible la dsobissance civile et ainsi, la rsistance et la sortie
de rgimes gouvernementaux abusifs ou totalitaires, mais aussi, dans
les rgimes dits dmocratiques, pour garantir des marges
dexprimentation normative, pour permettre la mise en dbat des rgles
de droit positif ventuellement devant les cours et tribunaux, et
ainsi viter la rigidification par dpolitisation - des normes. Les
gains defficacit offerts par le gouvernement premptif ont un cot.
Sils dispensent, ne ft-ce que partiellement, de linstance
juridictionnelle puisque les dispositifs prventifs et premptifs
vitent a priori que soient commis des actes illgaux, dangereux,
imprudents ou jugs indsirables et si donc le juge nest plus gure
appel dcider de limputabilit, de la responsabilit et de la
sanction, cette vacuation du juge dsquilibre larchitecture
dmocratique qui repose prcisment sur un pouvoir trois ttes
(lgislatif, excutif, judiciaire), et sur une relation rcursive
entre les institutions lgislative et le judiciaire (le juge,
constatant linjustice dune loi, rend publique cette injustice, ce
qui peut obliger le lgislateur en changer).
- Les impossibilits de la dsobissance et de loubli bornent de
manire extrieure le processus normatif que nous dcrivons ici, au
mme titre que la loi trouvait dans les ralits de la dsobissance et
de loubli (ou mme de la prescription) ses limites, son amont et son
aval. Ne peut-on tenter de dterminer, au sein mme du processus
normatif statistique, envisag dans sa rivalit par rapport la
normativit juridique, une possibilit qui serait dsormais
fondamentalement et constamment remise en question, l o elle tait
tout aussi fondamentalement et tout aussi constamment suppose,
rencontre, appele, etc., dans le cadre de normativit juridique? La
possibilit de se rendre compte et de rendre compte, par le langage
notamment, et y compris en justice, de ce qui nous fait agir,
enfin, semble galement compromise. La connaissance purement
prdictive nquivaut en rien ce que lon considre spontanment comme un
savoir des causes ou des justifications des comportements. Ceci
signifie aussi que le gouvernement statistique du rel ne permet pas
aux gouverns de rendre compte, par le langage, la plaidoirie, de
leurs actions, attitudes, choix, etc. lvacuation du juge correspond
lvacuation dune possibilit, pour le justiciable, de faire valoir
son dsaccord fondamental avec une loi quil estime injuste, ou les
raisons personnelles et contextuelles qui justifient ou excusent
son infraction ou doivent lui faire bnficier de limpact de
circonstances attnuantes.
Ces trois mtadroits (droit loubli, droit la dsobissance, droit
de (se) rendre compte) nous semblent typiquement constitutifs, ou
prconditionnels, la jouissance par les individus des liberts
garanties par ltat de droit et constitutifs dune pense politique et
thique qui a fait du droit son garant, sa limite, son modle de
norme. Cest ce titre, par exemple, que nous pouvons parler dun
mtadroit la dsobissance: non pas tant parce quil pourrait trouver
son sens en termes de protection des comportements marginaux ou mme
comme garant du caractre historique et volutif du droit, mais parce
que nos socits fonctionnent globalement sur la base de lide quune
norme peut tre suivie ou pas, avec des consquences bien sr diverses
(consquences qui ne simposeront toutefois quaprs une procdure
contradictoire bien spcifique). Nous ne voulons pas exclure a
priori la possibilit que des normes qui ne permettent plus la
dsobissance simposent dsormais de manire lgitime. Mais la question
doit alors tre pose comme telle. Surtout, et nous ne pouvons ici
quvoquer ce point essentiel, un tel changement normatif doit tre
assorti dune srie de garantie: si ces normes qui empchent la
dsobissance, et a fortiori tant donn quelles empchent la
dsobissance, deviennent des normes centrales de notre vie en socit,
elles doivent tre encadres par certaines garanties dmocratiques
quant leur production. Bref, les trois mtadroits proposs permettent
simplement douvrir le dbat sur ce changement de mtabolisme
normatif. La prdiction des comportements et mme des intentions, que
ces dispositifs algorithmiques de data mining, de profilage et
denvironnements intelligents sont censs raliser, suscite la prise
de mesures prventives ou pr-emptives, voire ladaptation en temps
rel de certains lments de lenvironnement direct des personnes de
manire orienter les prfrences, choix, intentions, comportements, un
stade prconscient. Lune des caractristiques de ces dispositifs est
justement leur relative invisibilit, leur caractre non obtrusif,
leur naturalit en somme: ils sont censs se fondre littralement dans
lenvironnement, tout en faonnant directement ce qui reste ou
devient accessible lindividu en termes de pense et daction. Que ces
dispositifs (pour une bonne part encore au stade de prototypes)
fonctionnent effectivement, que la validit des prdictions et que la
pertinence des adaptations subsquentes soient ou non dmontres ne
change pas grand chose la question de leur incidence normative:
peut-tre sommes-nous confronts une sorte de dispersion de
lintentionnalit, dont les consquences, sur le plan de la
responsabilit morale, de limputabilit et de la responsabilit
juridique restent encore largement inexplores? Peut-tre aussi le
corps statistique est-il une belle occasion den finir avec la
croyance en lexistence dun individu libre, autonome et rationnel
qui ne serait pas toujours dj faonn par ou en raction la norme? En
tout cas, il nous faut noter dj la contradiction suivante: alors
que le mode de gouvernement nolibral (qui donne lieu pour une bonne
part au dveloppement de cette gouvernementalit statistique) tend
individualiser les risques et les responsabilits, rendre les
individus (au dtriment de toute raison structurelle, collective ou
environnementale) seuls responsables (moralement, conomiquement,
juridiquement) de ce qui leur arrive, cette responsabilisation se
heurte ici immdiatement au mur cognitif, sorte dcran ou de surface
sur laquelle le rel est statistiquement reprsent, mais qui ne
permet plus de comprendre les causes intentionnelles ou non - des
phnomnes observs. Ce mur cognitif spare les individus de la norme
dont lorigine est ds-identifie, qui les informe et les forme tout
la fois. Bref, on peut considrer que la poursuite mme du processus
de responsabilisation individuelle qui donne lieu cette
dividualisation des comportements par le gouvernement statistique
produit finalement une sortie du socle de la responsabilit sauf
ventuellement passer dans un rgime de responsabilit objective.Si
lon peut accepter que lintentionnalit ne soit pas ou plus le critre
dcisif de lautonomie individuelle, il nous semble au minimum que la
possibilit de pouvoir se rendre compte et de pouvoir rendre compte,
sinon des mobiles, du moins des raisons, impulsions, causes qui
nous font choisir, agir, parler, etc. pourrait tre leve au rang de
critre ultime et de condition ncessaire (sans tre suffisante) dune
nouvelle forme dautonomie individuelle lre de la gouvernementalit
statistique.Conclusions: le corps statistique ou la dpolitisation
des processus normatifs.Ainsi, ce ne sont pas les sujets, les
individus, qui se trouvent objectivs par les dispositifs de
surveillance, mais seulement et cest notamment ce qui fait paratre
le gouvernement statistique tellement inoffensif leurs miroitements
distincts et fragments, digitaliss. Comme cibles du pouvoir, ou
plutt du gouvernement, ils ne sont jamais saisis que partiellement,
travers la multitude changeante des profils auxquels ils
correspondent simultanment plutt quen tant quindividus unifis, dots
dune continuit et dune cohrence internes, dun for intrieur, dune
biographie propre. Ainsi fragments, dividuels, les sujets
deviennent eux-mmes la source ultime, agissante, performante, de la
construction du savoir qui porte sur eux, et des normes qui les
rgissent. Cest ce titre que ladhrence du gouvernement statistique
ses multiples objets htrognes qui composent le rel, et donc au rel
lui-mme, peut tre totale: les sujets, dividualiss, se prtent
entirement leur propre gouvernement statistique, par les traces
quils laissent, par la rptition et/ou le flchissement de ces
traces, sans quaucune instance extrieure de surveillance active,
aucune rgle, aucune mdiation sinon une intermdiation purement
technologique ne soient plus ncessaires. Cest ce titre aussi quon
peut considrer que ce gouvernement statistique maintient et
continue de supposer la rflexivit de ce qui est gouvern, alors mme
que cette rflexivit parvient se passer dune vritable intentionnalit
qui rclamerait un questionnement sur les fins.
Peut-tre pouvons-nous cet gard poser lhypothse suivant laquelle
la gouvernementalit algorithmique opre et procde dune inversion par
rapport toutes les conceptions quon a pu dvelopper prcdemment du
rapport du corps la norme, y compris les conceptions dveloppes
suivant la perspective foucaldienne de la discipline, savoir:
penser la production de corps dociles. Le gouvernement
algorithmique ne fonctionnerait plus tant la domestication, la
disciplinarisation des corps, leur assujettissement la norme et la
subjectivation par la norme, qu la domestication de la norme par le
corps (statistique), la faveur dune confiscation ou dune absorption
par la technologie du processus dlaboration des normes. Dans le cas
de cette nouvelle normativit statistique, les performances,
rgulires ou irrgulires par rapport la norme statistique, influent
directement sur la norme statistique, suivant un processus quasi
physique pourrait-on dire. En effet, elles sont toutes enregistres,
et ces enregistrements sont tous galement susceptibles denrichir le
corps statistique. Au lieu dinduire une docilit des corps
physiques, la normativit statistique ou algorithmique est elle-mme
discipline, faonne (atuned) par le rel, par les pratiques
positives, par les vnements du rel. La norme, sous cette modalit de
gouvernement, est immanente au corps statistique, un corps
infiniment multiple de chiffres dont le mtabolisme algorithmique
produit et affine en permanence des corrlations partir des bases de
donnes en perptuelle expansion.
On la vu, cette inversion de la perspective disciplinaire pose
une srie denjeux indits. Elle oblige en tout cas rvaluer les
rapports entre intentionnalit et normativit puisque la seconde
parvient tre efficace et en apparence fondamentalement lgitime sans
faire appel la seconde. Plus finement encore, elle incite
identifier les enjeux dun accroissement du rle de lembodiment
(incarnation), et dun dclin corrlatif du rle du langage et du dbat
dans les processus dlaboration des normes.Toutefois, ce que nous
voulons avant tout pointer, en insistant sur ladhrence au rel du
gouvernement statistique contemporain et en notant pour terminer
que cela pouvait tmoigner dune inversion du rapport de la norme aux
corps, la premire tant dsormais domestiques par les seconds, cest
un danger absolument gnral, de nature paradoxale, propre certes
toute forme de gouvernement statistique, mais rendu dautant plus
vif par sa forme algorithmique contemporaine: le danger dune forme
de gouvernement qui parviendrait se penser et se lgitimer par son
inoffensivit, sa bnignit, une forme de gouvernement qui apparatrait
dautant plus inoffensive quelle ne porterait directement que sur la
norme elle-mme et non plus sur les individus.
Ce danger est dautant plus important que ces nouvelles modalits
dexercice du pouvoir, ou de structuration a priori du champ daction
possible, ne sont plus effectivement contraintes par les limites
juridiques quimposent actuellement les rgimes de protection de la
vie prive et des donnes caractre personnel, enferms dans le cadre
trop troit, et lgrement hors champ, dun individualisme
mthodologique qui ne permet pas de penser, ni de reprsenter, et
encore moins de protger ce quil y aurait protger: une puissance
dagir normatif capable de daffecter politiquement le rel. Concevoir
cette puissance, essentielle la vitalit individuelle et
socialeexigerait de pouvoir penser ensemble, comme une seule et mme
chose, lintemporalit, la singularit et lintempestif. Peut-tre
parviendrait-on alors enfin toucher le ressort vital, la trame
infime et gigantesque de ce qui nous fait tre et nous chappe tout
la fois, cela quil faut protger pour la raison mme que nous ne
savons pas o cela nous mne.
Ce texte fait suite un article intitul Le corps statistique,
paratre dans un numro coordonn par Pierre Daled de La pense et les
hommes. Ce prcdent article caractre rsolument philosophique portait
sur la nature de ce que nous avions appel le gouvernement
statistique. La prsente contribution en constitue une version
lgrement modifie et augmente.
Voir notamment Michael Dillon et Luis Lobo-Guerrero, The
Biopolitical Imaginary of Species-being, Theory, Culture &
Society, 2009, Vol. 26(1): 123 ; David V. Ruffolo, Rhizomatic
Bodies: Thinking through the Virtualities of Control Societies,
Rhizomes, 17, Hiver 2008.
suivant la logique actuarielle mme qui compte comme conditions
prexistantes et met charge des souscripteurs plutt que de lassureur
les dommages causs par des circonstances connues du souscripteur au
moment de la signature du contrat.
Brian Massumi, Perception attack. Note sur un temps de guerre,
Multitudes, 2008/4, n34, pp. 74-83.
Michel Foucault, La gouvernementalit, cours du Collge de France,
anne 1977-1978: Scurit, Territoire et Population, 4me leon, 1er
fvrier 1978.
Voir notamment Fabienne Brugre et Guillaume Le Blanc, Judith
Butler. Trouble dans le sujet, trouble dans les normes., PUF, coll.
dbats philosophiques, 2009.
Judith Butler, Bodies that Matter. On the Discursive Limits of
Sex, Preface, Routledge, 1993.
Voir Donna Haraway, Simians, Cyborgs and Women: The Reinvention
of Nature, Routledge, 1991; Andy Clark, Supersizing the Mind.
Embodiment, Action, and Cognitive Extension, Oxford University
Press, 2008; N. Katherine Hayles, Traumas of Code, Critical
Inquiry, Vol.33, n.1, 2006, p.140.: Enmeshed within this flow of
data, human behavior is increasingly integrated with the
technological nonconscious through somatic responses, haptic
feedback, gestural interactions, and a wide variety of other
cognitive activities that are habitual and repetitive and that
therefore fall below the threshold of conscious awareness.
Mediating between these habits and the intelligent machines that
entrain them are layers of code. Code, then, afects both linguistic
and nonlinguistic human behavior. Just as code is at once a
language system and an agent commanding the computers performances,
so it interacts with and influences human agency expressed
somatically, implemented for example through habits and postures.
Because of its cognitive power, code is uniquely suited to perform
this mediating role across the entire spectrum of the extended
human cognitive system. Through this multilayered addressing, code
becomes a powerful resource through which new communication
channels can be opened between conscious, unconscious,
and nonconscious human cognitions.
Le phnomne nest pas absolument neuf, puisque Deleuze, ds 1969,
expliquait que () le sens est toujours un effet. Non pas seulement
un effet au sens causal; mais un effet au sens de effet doptique,
effet sonore, ou mieux effet de surface, effet de position, effet
de langage. Un tel effet nest nullement une apparence ou une
illusion; cest un produit qui stale ou sallonge la surface, et qui
est strictement coprsent, coextensif sa propre cause, et qui
dtermine cette cause comme cause immanente, insparable de ses
effets, pur nihil ou x hors des effets eux-mmes. Gilles Deleuze,
Logique du sens, Les Editions de Minuit, 1969, pp. 87-88.
John Graunt, Natural and Political Observations upon the Bills
of Mortality, in: Economics Writings of Sir William Petty, vol. II,
New York, 1963. Cette conclusion est plus que vraisemblablement
crite par William Petty, et non par Graunt.
Cette rflexivit de lobjet nest dailleurs pas propre au
traitement statistique; elle est un phnomne induit par toute
opration dobservation scientifique ou bureaucratique pratique des
fins de contrle, dassistance, dorganisation, dloignement etc. De
telles oprations classificatoires affectent invitablement les
personnes ainsi catgorises et cet impact sur les personnes, en
retour, transforme la classification. Voir Ian Hacking, Making Up
People, London Review of Books, 17 August 2007, 26(16).:We think of
these kinds of people as definite classes defined by definite
properties. As we get to know more about these properties, we will
be able to control, help, change, or emulate them better. But its
not quite like that. They are moving targets because our
investigations interact with them, and change them. And since they
are changed, they are not quite the same kind of people as before.
The target has moved. I call this the looping effect. Sometimes,
our sciences create kinds of people that in a certain sense did not
exist before. I call this making up people.
Dans Thomas Berns, Gouverner sans gouverner. Une archologie
politique de la statistique, PUF, 2009, il est montr combien ce fut
l lobjet dun dbat explicite, la fin du XVIe sicle, lorsque les
premiers projets de recensement de personnes et des richesses
furent projets.
Nous entendrons la notion de comportement dans son sens le plus
large, incluant les attitudes, choix, prfrences exprimes,
trajectoires, activits et interactions humaines.
La notion de dataveillance renvoie lusage systmatique de systmes
de traitement de donnes caractre personnel comme procd privilgi de
surveillance des activits et communications des individus et
groupes dindividus (Roger Clarke, Information Technology and
Dataveillance, Communications of the ACM, 1988, vol. 31, n. 5.
< HYPERLINK
"http://www.anu.edu.au/people/Roger.Clarke/DV/CACM88.html"http://www.anu.edu.au/people/Roger.Clarke/DV/CACM88.html
>)
Antoinette Rouvroy, Rinventer dart doublier et de se faire
oublier dans la socit de linformation, in. S. Laourt (ed.), La
scurit de lindividu numris, Lharmattan, 2008, pp. 249-278.
Human Monitoring and Authentication using Biodynamic Indicators
and Behavioural Analysis: http://www.humabio-eu.org/
Advanced Sensor Fevelopment for Attention, Stress, Vigilance
& Stleep/wakefulness Monitoring:
http://www.sensation-eu.org/
http://appft1.uspto.gov/netacgi/nphParser?Sect1=PTO1&Sect2=HITOFF&d=PG01&p=1&u=%2Fnetahtml%2FPTO%2Fsrchnum.html&r=1&f=G&l=50&s1=%2220070300174%22.PGNR.&OS=DN/20070300174&RS=DN/20070300174
http://www.gfk.com/group/press_information/press_releases/004131/index.en.html
Report to the Ranking Minority Member, Subcommittee on Financial
Management, the Budget, and International Security, Committee on
Governmental Affairs, U.S. Senate, Data Mining. Federal Efforts to
Cover a Wide Range of Uses, May 2004. <
http://www.gao.gov/new.items/d04548.pdf>
Rien, ou trs peu, ny est considr comme du bruit, cest--dire
comme de linformation quil faut mieux carter pour traiter un
ensemble de important de donnes dans la mesure o elles seraient a
priori non pertinentes on peut dire ici quun savoir utile peut
merger directement dune apparente cacophonie.
Voir notamment Ian Ayres, Super Crunchers: Why
Thinking-by-Numbers in the New Way to be Smart (using data to make
better predictions), Bantam, 2007.
Judith Butler, The Psychic Life of Power, Stanford University
Press, 1997.
Antoinette Rouvroy, Governementality in an Age of Autonomic
Computing: Technology, Virtuality and Utopia, in. Mireille
Hildebrandt, Antoinette Rouvroy (eds.), Autonomic Computing and the
Transformations of Human Agency. Philosophers of Law meet
Philosophers of Technology, paratre.
Bernard E. Harcourt, Against Prediction: Profiling, Policing,
and Punishing in the Actuarial Age, University of Chicago Press,
2007; Bernard E. Harcourt, Critique du champ penal lge actuariel,
Parisian Notebooks, The University of Chicago Center in Paris,
2007, n3.
Jonathan Simon, The Ideological Effects of Actuarial Practices,
Law and Society Review, 1988, vol.22, n.4, p. 772.
Sur les processus dindividualisation, voir notamment Ulrich
Beck, Elisabeth Beck-Gernsheim, Individualization:
Institutionalised Individualism and its Social and Political
Consequences, Sage Publications, 2001. Pour une explicitation du
rapport entre profilage, contrle distance, et individualisation,
voir A. Rouvroy, Rinventer lart doublier et de se faire oublier
dans la socit de linformation, Version augmente du texte paru dans
louvrage collectif dit par Stphanie Lacour, La scurit de lindividu
numris Rflexions prospectives et internationales, LHarmattan, 2009.
http://works.bepress.com/antoinette_rouvroy/5
Voir ce sujet Gouverner sans gouverner, op. cit., chapitre
1.
A propos du dclin, dans lhisrtoire, du poids des discours
d'autorit et du tmoignage comme manires de rendre le monde
'signifiant', voir notamment Ian Hacking, The Emergence of
Probability: A Philosophical Study of Early Ideas About
Probability, Induction and Statistical Inference, Cambridge
university Press, 1975. Voir aussi Simon Shaffer, Self Evidence,
Critical Inquiry, 1992, vol.18 n.2, p. 328: inanimate bodies are
not capable of prepossessions, or giving us partial informations,
while vulgar men may be influenced by predispositions, and so many
circumstances, that they may easily give occasion to mistakes. So
an inanimate bodys deeds could function as signs of some other
state of affairs in a way that stories of vulgar humans could
not.
Michel Foucault, Cours au Collge de France 1977-1978, Scurit,
Territoire, Population, p. 409.
Gilles Deleuze, Post-scriptum sur les socits de contrle, in
Pourparlers, Editions de Minuit, 1990, p. 244, parle notamment de
la nouvelle mdecine sans mdecin ni malade qui dgage des malades
potentiels et des sujets risque, qui ne tmoigne nullement dun
progrs vers lindividuation comme on le dit, mais substitue au corps
individuel ou numrique le chiffre dune matire dividuelle
contrler.
Erin Kruger, Shoshana Magnet, Joost Van Loon, Biometric
Revisions of the `Body' in Airports and US Welfare Reform, Body
& Society, 2008, Vol. 14(2): 99121. Voir aussi Deleuze,
Op.cit., on ne se trouve plus devant le couple masse individu. Les
individus sont devenus des dividuels, et les masses, des
chantillons, des donnes, des marchs, ou des banques.
Faut-il stonner que, plutt que la spontant et limagination, la
rsilience, cette capacit reprendre sa forme initiale suite un choc
reu de lextrieur, passe aujourdhui pour lune des principales vertus
individuelles et collectives? Voir notamment Christopher Zebrowski,
Governing the Network Society: A Biopolitical Critique of
Resilience, Political Perspectives, 2009, Vol.3(1),
http://www.politicalperspectives.org.uk/General/Issues/Vol3-1-2009/PDFs/4-Zebrowski.pdf
Frdric Neyrat, Biopolitique des catastrophes, Multitudes, n.24
[online], printemps 2006.
Voir notamment SergeGutwirth, YvesPoullet, PaulDeHert, Ccilede
Terwangne and SjaakNouwt, (eds.), Reinventing Data Protection?,
Springer, 2009
Le droit la protection de la vie prive, du secret des lettres et
de la correspondance, et du domicile est notamment nonc larticle 8
de la Convention europenne des droits de lHomme. Le second
paragraphe du mme article nonce les conditions de lgitimit des
ingrences de lEtat ou de tiers, par leffet horizontal de la
Convention dans la vie prive des individus. Il faut que ces
ingrences soient ncessaires, dans une socit dmocratique, la
protection dintrts lgitimes prpondrants, quelles soient strictement
proportionnes la poursuite de ces intrts prpondrants.
Le droit la protection des donnes caractre personnel qui npuise
pas le rgime de protection de la vie prive a t rcemment institu au
rang de droit fondamental par lArticle 8 de la Charte des Droits
Fondamentaux de lUnion Europenne. Ses principaux instruments de
protection sont la Convention n108 du Conseil de lEurope sur la
protection des personnes physique lgard du traitement automatis de
donnes caractre personnel et la Directive europenne 95/46 sur la
protection des donnes caractre personnel, laquelle les lgislations
nationales des Etats membres se conforment. Parmi les principes mis
en uvre par ces instruments se retrouvent les principes de finalit
(la finalit du traitement de donnes doit tre lgitime, et il ne peut
tre procd un traitement de donnes pour des finalits autres que
celles initialement dclares), de proportionnalit (du traitement de
donnes par rapport aux finalits poursuivies) et dadquation et de
qualit des donnes (les traitements doivent tre adquats et les
donnes doivent tre exactes), de limitation dans le temps (principe
deffacement des donnes aprs un certain temps). A ces principes
sajoutent une srie de prrogatives individuelles des sujets comme le
droit de connatre lexistence du traitement de donnes, daccs et de
rectification des donnes, et, dans un certain nombre de cas
(lorsque la collecte et le traitement de donnes ne sont pas lgitims
par la ncessit ou lintrt lgitime du matre du fichier) la possibilit
de consentir ou de ne pas consentir au traitement des donnes.
A ct de cet aspect technique, on doit noter que cette catgorie
des donnes personnelles, comme celle de la vie prive, et plus que
tout autre rgime de protection, ne se rduit pas sa seule dfinition
objective et trouve son sens, en amont, de manire politique et
dialectique, dans son rapport des actes de pouvoir. Or cest une
nouvelle fois sur ce seul terrain objectif que se meut le
gouvernement algorithmique, en vacuant, comme on la vu toute
perception des problmes poss partir dun point de vue finaliste et
en dpolitisant de la sorte les enjeux.
Pour une valuation de la pertinence et de lapplicabilit du rgime
europen de protection des donnes caractre personnel aux traitements
de donnes impliqus dans les dispositifs dintelligence ambiante,
voir Antoinette Rouvroy, Privacy, Data Protection, and the
Unprecedented Challenges Raised by Ambient Intelligence, Studies in
Ethics, Law and Technology, Berkeley Electronic Press, Vol2, Issue
1, Article 3, 2008, pp. 1-54.
Michel Foucault, La gouvernementalit, In Dits et crits, Paris,
Gallimard, 1994, 635657. Voir galement, propos des tactiques de
gouvernement premptif, Brian Massumi, Perception attack. Note sur
un temps de guerre, Multitudes, 2008/4, n34, pp. 74-83.
Antoinette Rouvroy, Rinventer lart doublier et de se faire
oublier dans la socit de linformation, Version augmente du texte
paru dans louvrage collectif dit par Stphanie Lacour, La scurit de
lindividu numris Rflexions prospectives et internationales,
LHarmattan, 2008. http://works.bepress.com/antoinette_rouvroy/5
Voir ce sujet Judith Butler, Giving an Account of Oneself,
Fordham University Press, 2005.
Rpondant implicitement laccusation que lui adressait le
philosophe communiste Massimo Cacciari dans le numro de
septembre-octobre 1977 de la revue Aut-Aut, Michel Foucault, dans
le numro de septembre-dcembre 1978, pp. 3-11 de la mme revue,
rpliquait que Le pouvoir nest jamais omnipotent, omniscient, au
contraire! Si les relations de pouvoir ont produit des formes
denqute, danalyses des modles de savoir, cest prcisment parce que
le pouvoir ntait pas omniscient, mais quil tait aveugle, parcequil
se trouvait dans une impasse. Si on a assist au dveloppement de
tant de rapports de pouvoir, de tant de systmes de contrle, de tant
de formes de surveillance, cest prcisment parce que le pouvoir tait
toujours impuissant. (Michel Foucault, Dits et Ecrits, II,
1976-1988, Gallimard, 2001, p 629.)
Dans un petit texte lumineux intitul La ceinture de scurit qui
pourrait servir de prliminaire tout questionnement sur les
environnements intelligents, Bruno Latour montre que nous assistons
un dplacement de la masse de moralit, celle-ci restant identique
mais migrant vers les objets et les technologies.
http://www.bruno-latour.fr/poparticles/poparticle/P-31%20CEINTURE.html