Vous êtes sur la page 1sur 21

Algorithmic governmentality and emancipation perspectives:

disparity as a condition of individuation by the relationship?

Antoinette Rouvroy
Doutora em Cincias Jurdicas pelo Instituto Universitrio Europeu e pesquisadora do Fonds
de la Recherche Scientifique (FNRS) para o Centro de Pesquisa em Informao, Direito e Sociedade (CRIDS). autora de Human genes and Neoliberal Governance. A Foucauldian critique
(Routledge-Cavendish, 2007).
E-mail: antoinette.rouvroy@fundp.ac.be

Thomas Berns
Professor de Filosofia Poltica e tica na Universidade de Bruxelas, pesquisador para o Centro
Perelman de Filosofia do Direito e diretor do Centro de Pesquisa em Filosofia (IHP) da Universidade Livre de Bruxelas. autor de Law, sovereignty and governmentality (Paris, Leo Scheer,
2005) e Governing without govern: a political archeology of statistics (PUF, 2009).

Traduo:
Pedro Henrique Andrade

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

Governamentalidade algortmica
e perspectivas de emancipao:
o dspar como condio de
individuao pela relao?

Mestrando em Comunicao e Cultura pela Universidade Federal do Rio de Janeiro (ECO-UFRJ).


E-mail: ph.andradesouza@gmail.com
SUBMETIDO EM: 30/05/2015
ACEITO EM: 10/08/2015

DOSSI
RESUMO
As novas possibilidades de modelizao do real, a partir de algoritmos autodidatas, reordenam as
prticas estatsticas modernas e participam da emergncia de novas formas de controle. O desenvolvimento de uma governamentalidade algortmica suscitaria a esperana de libertar-se da subjetividade e pensar os indivduos pela relao, que se torna o objeto principal de rastreamento e
determinao de algoritmos autodidatas. A centralidade da relao para esses modelos faz retornar
propostas de filsofos como Simondon e Deleuze e Guattari, para quem a relao levaria a arranjos
transindividuais e rizomticos emancipadores. Apesar das possveis aproximaes, permanecem
diferenas fundamentais, que dizem respeito ao papel da diferena, da disparidade e da falha na
criao de novos mundos relacionais.
PALAVRAS-CHAVE: Governamentalidade; Estatstica; Individuao; Disparidade.

ABSTRACT
The new possibilities of modeling the real rearrange modern usages of statistics as well as take part
on the emergence of new sorts of control. The development of an algorithmic governmentality
would recast the hope for an abandonment of subjectivity towards thinking the individual realm
trough relation, which becomes the main object of self-learning algorithms processes of tracking
and determination. The centrality of relation for these models would lead us back to Simondons
and Deleuze-Guattaris proposals, to whom relation would be the path towards emancipating transindividual and rhizomatic arrangements. Despite possible approaches and resemblances, some
fundamental differences remain while concerning the role played by difference, disparity and failure in the creation of new relational worlds.
KEYWORDS: Governmentality; Statistics; Individuation; Disparity.
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

36

Aqui, necessrio explicitar um pouco esta independncia em relao a toda norma


antecedente. Quando evocamos o carter a-normativo da governamentalidade algortmica, no estamos afirmando que os dispositivos tcnicos da governamentalidade algortmica surgiriam espontaneamente do mundo digital, de forma autnoma
e independente de toda intencionalidade humana, de todo roteiro tecnolgico; ou
que os aplicativos, no domnio da segurana, do marketing ou do entretenimento
(para citar apenas esses), integrando esses sistemas algortmicos autodidatas, no
responderiam a uma demanda dos atores6. A crtica que ns desenvolvemos em relao governamentalidade algortmica no ignora, nem invalida em nada o ponto
de vista dos estudos de cincia e tecnologia, mas que nos seja permitido concentrar
nossa ateno sobre outra coisa que no os mecanismos de co-construo entre dispositivos tecnolgicos e atores humanos. Aqui, propomos simplesmente que o datamining, articulado s finalidades de elaborao de perfis (quaisquer que sejam os
aplicativos envolvidos), reconstri, seguindo uma lgica de correlao, os casos singulares pulverizados pelas condificaes sem, no entanto, relacion-los a nenhuma
norma geral,

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

s novas oportunidades de agregao, anlise e correlaes estatsticas em meio


a quantidades massivas de dados (os big data), afastando-nos das perspectivas
estatsticas tradicionais do homem mdio, parecem permitir apreender a realidade social como tal, de maneira direta e imanente, numa perspectiva emancipada
de toda relao mdia ou ao normal ou, para diz-lo de outro modo, liberta da
norma1. Objetividade a-normativa, ou mesmo tele-objetividade (Virilio, 2006, p.4),
o novo regime de verdade digital se encarna numa multiplicidade de novos sistemas
automticos de modelizao do social2, ao mesmo tempo distncia e em tempo
real, acentuando a contextualizao e a personalizao automtica das interaes securitrias, sanitrias, administrativas, comerciais3... Aqui, interessa-nos avaliar em que
medida, e com que consequncias, esses usos algortmicos da estatstica, confiando
em sua tele-objetividade, permitir-lhes-iam, simultaneamente, tornar-se o espelho
das normatividades as mais imanentes4 sociedade, anteriores a toda medida ou relao com a norma5, a toda conveno, a toda avaliao, bem como contribuir para
(re)produzir e multiplicar esta normatividade imanente ( prpria vida, diria Canguilhem), obscurecendo, ento, as normatividades sociais, tornando-as tanto possveis
quanto mudas, pois seriam intraduzveis sob uma forma digital.

1 Lembremos que a teoria do homem mdio desenvolvida por Qutelet uma teoria de fsica social tanto normativa quanto descritiva: um indivduo que resumiria em si mesmo, em uma poca dada, todas as qualidades do homem mdio, representaria, ao
mesmo tempo, tudo que ele possui de grandioso, belo e bom, escreve Qutelet, mas acrescenta que uma identidade semelhante
mal pode se realizar e, aos homens, em geral, s dada a possibilidade de se parecer com esse tipo de perfeio por um nmero
maior ou menor de lados (Qutelet, 1836, p. 289-290). evidente que o homem mdio, padro e ideal, diferente dos indivduos e
no representa nenhum deles, numa perspectiva que pode parecer radicalmente anti-nominalista.
2 A este propsito, ver a apresentao Big Data em Ao, da IBM: http://www-01.ibm.com/software/data/bigdata/industry.html
3 O smarter marketing ou marketing individualizado graas elaborao algortmica de perfis dos consumidores apresenta-se hoje
como uma revoluo, transformando o marketing e a publicidade em servios cuja mais-valia seria igualitariamente repartida
entre as empresas (melhores desempenhos de venda) e os consumidores (os produtos lhes so propostos em funo de seus perfis
individuais).
4 As normas imanentes so aquelas que no se impem do exterior, mas surgem espontaneamente; poderamos dizer que surgem
da prpria vida, do prprio mundo, de maneira independente de toda qualificao, de toda avaliao e de toda deliberao.
5 O datamining, articulado s finalidades de elaborao de perfis, reconstri, seguindo uma lgica de correlao, os casos singulares pulverizados pelas codificaes sem, no entanto, relacion-los a nenhuma norma geral, mas sobretudo a um sistema de
relaes entre diversas medidas, irredutveis a qualquer mdia. Sobre a distino entre modelos de correlao e de regresso, ver
Desrosires (1988).
6 Contrariamente ao que do a entender as metforas orgnicas utilizadas notadamente pela IBM para promov-los enquanto as
prximas etapas naturais no desenvolvimento das tecnologias da informao, da comunicao e da rede e enquanto elementos quase-naturais da evoluo da prpria espcie humana, ns explicitamos os componentes ideolgicos que acompanham a
emergncia da informtica ubqua, da inteligncia ambiente ou da computao autnoma. Mesmo que, a partir deste momento, as
mquinas se tornem cada vez mais autnomas e inteligentes, elas continuam, certamente, dependentes de seu design inicial, das
intenes, scripts ou cenrios em funo dos quais elas foram imaginadas. Elas so, desde sua concepo (e quaisquer que sejam
as formas que elas assumam sem seguida), portadoras de vises do mundo, expectativas e projees conscientes ou inconscientes
de seus conceituadores (Rouvroy, 2011).
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

37

deste ponto de vista que ns podemos igualmente dizer que a governamentalidade algortmica rompe com a origem convencional da informao estatstica, tal
como descrita por Alain Desrosires (1992, p.132): a informao estatstica no cai
do cu como puro reflexo de uma realidade anterior a ela. Muito pelo contrrio, ela
pode ser vista como a consagrao provisria e frgil de uma srie de convenes
de equivalncia entre os seres que uma multiplicidade de foras desordenadas procura, continuamente, diferenciar e separar. Desta origem convencional da informao estatstica, resulta a tenso entre o fato de que esta informao pretende ser
uma referncia do debate e de que, contudo, ela pode ser sempre recolocada em
questo e tornar-se, assim, o objeto do debate, portando em si uma das dificuldades
maiores para pensar as condies de possibilidade de um espao pblico. Os usos
particulares da estatstica implicados nas operaes de datamining, posto que no se
ancoram mais em qualquer conveno, permitem escapar desse perigo, mas, como
veremos mais adiante, no so nem por isso geradores de espao pblico, nem do
contrrio: sob a aparncia de personalizao das ofertas de informao, de servios e
de produtos, sobretudo uma colonizao do espao pblico por uma esfera privada
hipertrofiada que devemos investigar na era da governamentalidade algortmica, a
ponto de temermos que os novos modos de filtragem da informao levem a formas
de imunizao informacionais favorveis a uma radicalizao das opinies e ao desaparecimento da experincia comum (Sustein, 2009), sem mesmo evocar a tendncia
captao sistemtica de toda parcela de ateno humana disponvel em proveito
de interesses privados (a economia da ateno), em vez de contribuir para o debate
democrtico e o interesse geral.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

mas somente a um sistema de relaes, eminentemente evolutivas, entre diversas


medidas, irredutveis a qualquer mdia. Esta emancipao em relao a toda forma de
mdia associa-se, notadamente, ao carter autodidata destes dispositivos e pode ser
considerada como essencial ao normativa contempornea.

Ns comeamos por descrever o funcionamento da estatstica decisional, entendida


de maneira bem genrica como extrao automatizada de informaes pertinentes
de bases de dados massivos para fins de previso ou de excluso (consumo, riscos,
fidelizao, definio de novas clientelas...). Para deixar isto claro, devemos decompor
esta prtica estatstica em trs etapas, que se confundem concretamente (e so, no
mais, tanto mais eficazes quanto mais elas se confundem) Mostraremos, a cada vez,
em que aspecto os sujeitos individuais so, de fato, evitados, a ponto de criar um
tipo de dupla estatstica dos sujeitos e do real. Num segundo momento, aps ter
questionado esta dupla estatstica e indicado que, nesse estado, ela complica todo
processo de subjetivao, tentaremos mostrar que a governamentalidade algortmica
se concentra, a partir da, no mais sobre os indivduos, sobre os sujeitos, mas sobre as
relaes. Partindo desta constatao, mostraremos, enfim, por que razes as relaes
so elas mesmas transformadas, a ponto de serem paradoxalmente substantificadas
e de representarem uma extrao do devir e, portanto, um obstculo aos processos
de individuao em vez de uma forte inscrio nele mesmo. O devir e os processos
de individuao demandam a disparao, quer dizer, os processos de integrao de
disparidades ou diferenas em um sistema coordenado, mas, de modo ainda antecedente, eles exigem o dspar: uma heterogeneidade das ordens de grandeza, uma
multiplicidade dos regimes de existncia, que a governamentalidade algortmica no
cessa de sufocar encerrando o real (digital) sobre ele mesmo. 7
7 Gilbert Simondon mostrou (...) que a individuao supe, em primeiro lugar, um estado metaestvel, isto , a existncia de uma
disparao como duas ordens de grandeza ou duas escalas de realidade heterogneas, pelo menos, entre as quais os potenciais se
repartem. Esse estado pr-individual no carece, todavia, de singularidades: os pontos relevantes ou singulares so definidos pela
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

38

1.1. Coleta de quantidade massiva de dado e constituio da datawarehouses


O primeiro momento o da coleta e da conservao automatizada de quantidade
massiva de dados no classificados, o que se pode chamar dataveillance, constitutiva do big data. Efetivamente, os dados esto disponveis em quantidades massivas,
provenientes de fontes diversas. Os governos os coletam para fins de segurana, controle, gesto dos recursos, otimizao das despesas...; as empresas privadas recolhem
quantidades de dados para fins de marketing e publicidade, de individualizao das
ofertas, de melhorias de sua gesto de estoques ou de suas ofertas de servio, enfim,
com vistas a aumentar sua eficcia comercial e, portanto, seus lucros...; os cientistas
coletam os dados para fins de aquisio e de aperfeioamento de conhecimentos...;
os prprios indivduos compartilham benevolamente seus dados nas redes sociais,
blogs, listas de e-mail... e todos esses dados so conservados sob uma forma eletrnica,
em armazns de dados de capacidades de estocagem virtualmente ilimitadas e potencialmente acessveis a todo momento a partir de qualquer computador conectado
internet, qualquer que seja o lugar do globo onde se encontra. O fato de que esses
dados sejam coletados e conservados o mximo possvel de forma automtica,quer
eles sejam desvinculados de todo conhecimento verdadeiro das finalidades almejadas por esta coleta de informao, isto , dos usos aos quais eles daro lugar uma
vez correlacionados a outros dados, quer eles consistam em informaes que so
mais abandonadas que cedidas, traos deixados e no dados transmitidos, mas sem
aparecer, apesar disso, como roubados, quer eles apaream tambm como absolutamente quaisquer e dispersos, tudo isto d lugar a um esvaziamento ou, no mnimo, a
um ocultamentode toda finalidade e a uma minimizao da implicao do sujeito e,
portanto, do consentimento que pode ser dado a esta comunicao de informaes:
parecemo-nos nos mover aqui para o mais longe de toda forma de intencionalidade.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

1. Os trs tempos da governamentalidade algortmica

Esses dados aparecem assim constitutivos de um comportamentalismo digital generalizado (Rouvroy, 2013a) uma vez que eles exprimem nem mais, nem menos que as
mltiplas facetas do real, desdobrando-o em sua totalidade, mas de maneira perfeitamente segmentada, sem fazer sentido coletivamente, seno como desdobramento
do real. Este nos parece ser o fenmeno mais novo: quer se trate de conservar o trao
de uma compra, de um deslocamento, do uso de uma palavra ou de uma lngua, cada
elemento reconduzido a sua natureza mais bruta, isto , ser ao mesmo tempo abstrado do contexto no qual apareceu e reduzido a dado. Um dado no mais que
um sinal expurgado de toda significao prpria e certamente por conta disso
que ns toleramos deixar esses traos, mas tambm o que parece assegurar sua
pretenso mais perfeita objetividade: to heterogneos, to pouco intencionados,
to materiais e to pouco subjetivos, tais dados no podem mentir! No mais, devemos
sublinhar, aqui, o fato de que a prpria evoluo das capacidades tecnolgicas refora
este tipo de objetividade do dado que escapa a toda subjetividade: nossos programas
so agora capazes de reconhecer as emoes, de transform-las em dado, de traduzir
os movimentos de um rosto, as coloraes de uma pele em dado estatstico, por exemplo para medir a atratividade de um produto, o carter (sub-) ideal da disposio
das mercadorias em uma vitrine, bem como o aspecto suspeito de um passageiro. O
que interessante o fato de que tais dados tm, como principal caracterstica, serem
perfeitamente andinos, poderem permanecer annimos e serem no-controlveis.
existncia e pela repartio dos potenciais. Aparece, assim, um campo problemtico objetivo, determinado pela distncia entre
ordens heterogneas. A individuao surge como o ato de soluo de um tal problema ou, o que d no mesmo, como a atualizao
do potencial e o estabelecimento de comunicao entre os dspares (Deleuze, 1968, p. 317).
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

39

1.2. Tratamento de dados e produo de conhecimento


O segundo momento aquele do datamining propriamente dito, a saber, o tratamento automatizado destas quantidades massivas de dados de modo a fazer emergir
correlaes sutis entre eles. O que nos parece fundamental notar aqui o fato de que
ns nos encontramos, assim, diante de uma produo de saber (saberes estatsticos
constitudos de simples correlaes) a partir de informaes no-classificadas e, portanto, perfeitamente heterogneas, a produo de saber estando automatizada, isto
, solicitando apenas um mnimo de interveno humana e, sobretudo, dispensando
toda forma de hiptese prvia (como era o caso com a estatstica tradicional que verificava uma hiptese), isto , evitando novamente toda forma de subjetividade. O
prprio daquilo a que chamamos machine learning , em resumo, tornar diretamente
possvel a produo de hiptese a partir dos prprios dados. Desta maneira, ns nos
encontramos novamente diante da ideia de um saber cuja objetividade poderia parecer absoluta, uma vez que estaria afastado de toda interveno subjetiva (de toda
formulao de hiptese, de toda triagem entre o que pertinente e o que seria somente rudo, etc.). As normas parecem emergir diretamente do prprio real. Essas
normas ou esses saberes no so, contudo, constitudos apenas de correlaes8,
o que no em si um problema, se no o esquecermos; a condio prpria de um
etos cientfico e um etos poltico conservar uma dvida, entreter uma desconfiana quanto suficincia das correlaes, manter a distino entre correlao e causa,
desconfiar dos efeitos autoperformativos das correlaes (sua capacidade retroativa), evitar que as decises produzindo efeitos jurdicos em relao a pessoas ou as afetando de maneira significativa no sejam tomadas com base somente no nico fundamento de um tratamento de dados automatizado9 e considerar que o prprio da
poltica (notadamente a preocupao de uma mutualizao dos riscos) recusar agir
com base apenas em correlaes. Parece importante lembrar disto diante da evoluo
rumo a um mundo que parece, cada vez mais, funcionar como se fosse constitudo ele
mesmo de correlaes, como se estas fossem o que bastasse estabelecer para assegurar seu bom funcionamento10.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

Por esta razo, e ao mesmo tempo, no repugnamos a possibilidade de abandon-los,


uma vez que eles no fazem sentido (conquanto eles no sejam correlacionados, ao
menos), eles so bem menos intrusivos que uma carta de fidelidade e eles parecem
no mentir, isto , podem ser considerados como perfeitamente objetivos! Esta inofensividade e esta objetividade so ambas devidas a uma espcie de evitao da subjetividade.

1.3. Ao sobre os comportamentos


Para compreender bem em que consiste a elaborao algortmica de perfis da qual
falamos aqui, necessrio perceber a diferena crucial existente entre, por um lado,
8 Pode-se citar aqui C. Anderson, redator-chefe da Wired, em Lge des Petabits: um mundo no qual as quantidades massivas
de dados e as matemticas aplicadas substituem todas as outras ferramentas que poderiam ser utilizadas. Adeus a todas as teorias
sobre os comportamentos humanos, da lingustica a sociologia. Esqueam a taxonomia, a ontologia e a psicologia. Quem pode
saber por que as pessoas fazem o que fazem? O fato que o fazem e que ns podemos traa-lo e medi-lo com uma fidelidade sem
precedente. Se tivermos dados suficientes, os nmeros falam deles mesmos (citado em Cardon, 2012).
9 Notemos que o regime jurdico europeu de proteo dos dados de carter pessoal protege explicitamente os indivduos contra as
decises que seriam tomadas a seu respeito com base unicamente no fundamento de um tratamento automatizado de dados (ver o
artigo 15 da diretiva 95/46/CE). Porm, as garantias oferecidas pela diretiva europeia s se aplicam caso os tratamentos automatizados concirnam dados de carter pessoal, isto , dados que se relacionam a pessoas identificadas ou identificveis. Ora, a elaborao
algortmica de perfis pode muito bem funcionar com dados annimos.
10 A escalada de pretenso objetividade precisamente e muito concretamente o esquecimento da escolha poltica: assim, o
ideal tornado possvel de uma tarifao exata, adaptada em tempo real, adaptando-se sem cessar aos riscos efetivamente incorridos, seja no mundo da seguridade ou no do transporte, deve ser pensado tambm como uma pura desmutualizao dos riscos
que aniquila paradoxalmente a prpria ideia da segurana ou da misso de servio pblico.
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

40

O terceiro momento aquele do uso desses saberes probabilistas e estatsticos para


fins de antecipao dos comportamentos individuais, que so associados a perfis
definidos a partir da base de correlaes descobertas por datamining. Este momento
de aplicao da norma aos comportamentos individuais, cujos exemplos os mais evidentes so perceptveis nas esferas as mais diversas da existncia humana (obteno
de um certo crdito, deciso de interveno cirrgica, tarifao de um contrato de
seguro, sugesto de compras direcionadas em sites de venda online), nos preocupa
menos aqui, seno para notar, em primeiro lugar, que a eficcia preditiva ser tanto
maior quanto for fruto da agregao de dados massivos, isto , de dados que esto
simplesmente altura da diversidade do prprio real11; e em segundo lugar, que
essa ao por antecipao sobre os comportamentos individuais poderia, no futuro,
sempre se limitar mais a uma interveno sobre seu ambiente, forosamente, uma
vez que o ambiente ele mesmo reativo e inteligente, isto , ele prprio recolhe dados em tempo real pela multiplicao de captores, transmite-os e os trabalha para
se adaptar sem cessar a necessidades e perigos especficos, o que j , no mnimo, o
caso daquela parte importante da vida humana durante a qual os indivduos esto
conectados. Desta maneira, novamente evita-se toda forma de restrio direta sobre
o indivduo para preferir tornar, no prprio nvel de seu ambiente, sua desobedincia
(ou certas formas de marginalidade) sempre mais improvveis (na medida em que
estas teriam sempre j sido antecipadas). Em terceiro lugar, o perfil ligado ao comportamento de um indivduo poderia ser-lhe adaptado de maneira perfeitamente eficaz pela multiplicao das correlaes empregadas, a ponto de parecer evitar o uso
de toda categoria discriminante e de poder mesmo levar em conta o que h de mais
particular em cada indivduo, ainda mais afastado dos grandes nmeros e mdias.
Enfim, encontramo-nos diante da possibilidade de uma normatividade, em aparncia,
perfeitamente democrtica, desprovida de referncia a classes e categorias gerais
a cegueira dos algoritmos em relao s categorizaes (sociais, polticas, religiosas,
tnicas, de gnero...) socialmente experimentadas , de resto, o argumento recorrente
que brandem aqueles que so favorveis ao seu uso no lugar da avaliao humana
(nos aeroportos principalmente) (Zarsky, 2011). O datamining e a elaborao algortmica de perfis, em sua relao aparentemente no seletiva com o mundo, parecem
levar em considerao a integridade de cada real at em seus aspectos os mais triviais
e insignificantes, colocando todo o mundo em igualdade o homem de negcios e
a diarista, o sikh e o islands. No se trata mais de excluir o que sai da mdia, mas de
evitar o imprevisvel, de tal modo que cada um seja verdadeiramente si mesmo.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

a informao ao nvel individual, a qual , mais frequentemente, observvel ou perceptvel pelo indivduo ao qual ela se relaciona e, por outro lado, o saber produzido
no nvel da elaborao de perfis, que no o mais frequentemente disponvel para
os indivduos nem perceptvel por eles, mas que lhes , apesar disso, aplicado de maneira a inferir deles um saber ou previses probabilistas quanto s suas preferncias,
intenes e propenses, que no seriam, de outra forma, manifestas (Otterlo, 2013).

2. Um governo sem sujeito, mas no sem alvo?


Conforme enunciado, os trs momentos descritos se confundem e seu funcionamento normativo to mais potente e processual conquanto eles se alimentem
11 Ns deveramos aqui questionar a prpria natureza desta eficcia da norma que aparece, como sempre, mais solipsista no
sentido de que seria o sucesso da prpria normatividade que est somente em jogo (Berns, 2011). Assim, a ttulo de exemplo entre
muitos outros, o ideal ainda terico, seno num plano poltico, de uma medicina baseada em evidncia, com o apoio estatstico
que ela demanda, no permite mais imaginar no apenas a escolha do paciente, tomada, no entanto, em considerao segundo
suas caractersticas as mais especficas, mas mesmo a evoluo cientfica.

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

41

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

mutuamente (mascarando ainda mais as finalidades, afastando ainda mais toda possibilidade de intencionalidade, adaptando-se ainda mais a nossa prpria realidade,
etc.). Por governamentalidade algortmica, ns designamos, a partir da, globalmente
um certo tipo de racionalidade (a)normativa ou (a)poltica que repousa sobre a coleta, agregao e anlise automatizada de dados em quantidade massiva de modo a
modelizar, antecipar e afetar, por antecipao, os comportamentos possveis. Se nos
referimos base geral do pensamento estatstico12, os deslocamentos aparentes, que
seriam produzidos atualmente pela passagem do governo estatstico ao governo algortmico e que dariam sentido a um fenmeno de rarefao dos processos de subjetivao, so, portanto, os seguintes: antes de tudo, uma aparente individualizao
da estatstica (com a antinomia evidente que se exprime assim), a qual no transitaria
mais (ou no pareceria mais transitar) por referncias ao homem mdio, para dar lugar
ideia de que seria possvel tornar-se a si mesmo seu prprio perfil automaticamente
atribudo e evolutivo em tempo real. Em seguida, uma preocupao elevada em evitar
o perigo de uma prtica estatstica tirnica que reduziria o objeto estatstico a gado,
zelando para que esta prtica estatstica se desenvolva como se nossa concordncia
estivesse dada, uma vez que na medida em que somos cada um nico que o modo
de governo pelos algoritmos pretende se dirigir a cada um, atravs de seu perfil. Em
vez de um acordo, ou mesmo um consentimento, aquilo com que lidamos vem da
adeso automtica a uma normatividade to imanente como aquela da prpria vida;
a prtica estatstica contempornea incluiria, portanto, nela mesma, a expresso da adeso tcita dos indivduos. Donde um possvel declnio da reflexividade subjetivante
e o distanciamento das ocasies de contestao das produes de saber fundadas
no datamining e na elaborao de perfis. A governamentalidade algortmica no produz qualquer subjetivao, ela contorna e evita os sujeitos humanos reflexivos, ela se
alimenta de dados infraindividuais insignificantes neles mesmos, para criar modelos
de comportamento ou perfis supraindividuais sem jamais interpelar o sujeito, sem
jamais convoc-lo a dar-se conta por si mesmo daquilo que ele , nem daquilo que ele
poderia se tornar. O momento de reflexividade, de crtica, de recalcitrncia, necessrio
para que haja subjetivao parece, incessantemente, complicar-se e ser adiado (Rouvroy, 2011). que a governamentalidade algortmica, por sua perfeita adaptao ao
tempo real, sua viralidade (quanto mais dela se serve, mais o sistema algortmico
se refina e se aperfeioa, uma vez que toda interao entre o sistema e o mundo se
traduz por um registro de dados digitais, um enriquecimento correlativo da base estatstica e uma melhoria das performances dos algoritmos), sua plasticidade, torna a
prpria noo de falhainsignificante: a falha no pode, em outros termos, colocar
o sistema em crise, ela imediatamente reassimilada a fim de refinar ainda mais os
modelos ou perfis de comportamento. Por outro lado, seguindo o objetivo do aplicativo que feito de dispositivos algortmicos por exemplo, a preveno das fraudes,
do crime, do terrorismo os falso positivos no sero nunca interpretados como
falhas uma vez que o sistema segue uma lgica de rastreamento mais do que de
diagnstico: o objetivo no deixar escapar qualquer positivo verdadeiro, qualquer
que seja a taxa de falsos positivos.
Certamente, no o projeto, mesmo ampliado, de antecipar os comportamentos de
maneira individual e discreta que deve, como tal, nos surpreender, nem mesmo inquietar, se convm, logo de incio, sublinhar o paradoxo segundo o qual, a partir de agora, para erradicar ou minimizar a incerteza, remetemo-nos a aparelhos no-intencionais, isto , a mquinas a-significantes, abandonando, desta maneira, a ambio de
dar significado aos acontecimentos, que, no mais, no sotratados necessariamente
12 Ver, entre outros, Berns (2009), Desrosires (2000, 2009 e 2009), Ewald (1986) e Hacking (2006).

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

42

O sujeito da governamentalidade algortmica , cada vez mais, tomado pelo poder,


no atravs de seu corpo fsico, nem atravs de sua conscincia moral presas tradicionais do poder em sua forma jurdico-discursiva13 - mas atravs dos mltiplos perfis
que lhe so atribudos, frequentemente de maneira automtica com base nos traos
digitais de sua existncia e de suas trajetrias cotidianas. A governamentalidade algortmica corresponde muito bem ao que Foucault visava com seu conceito de dispositivo de segurana:
a regulao de um meio no qual no se trata tanto de fixar os limites, as fronteiras, no qual no se trata tanto de determinar as posies, mas sobretudo, essencialmente, de permitir, de garantir, de assegurar as circulaes: circulaes
de pessoas, circulao de mercadorias, circulao do ar, etc. (Foucault, 2004,
p.31)

Que as presas do poder sejam digitais, mais que fsicas, no significa, de modo algum,
que os indivduos sejam reduzveis ontologicamente, existencialmente, a redes de dados recombinveis por aparelhos, nem que eles estejam totalmente sob o domnio de
seus aparelhos. Significa simplesmente que, quaisquer que sejam, por outro lado, suas
capacidades de entendimento, de vontade, de expresso, no mais atravs destas
capacidades que eles so interpelados pelo poder, mas, em vez disso, atravs de seus
perfis (de fraudador potencial, de consumidor, de terrorista potencial, de aluno com
forte potencial...). A governamentalidade algortmica intensifica ainda as ambivalncias da poca relativas questo da individualizao. Considera-se, frequentemente,
nossa poca como sendo, por um lado, aquela da vitria do indivduo no sentido de
que ns constataramos uma individualizao dos servios, sendo possvel, graas s
prticas estatsticas, visar de modo sofisticado as necessidades e os perigos prprios
a cada indivduo; e por outro lado, como aquela da ameaa ao indivduo, cuja intimidade, a vida privada, a autonomia, a autodeterminao seriam ameaadas por estas
mesmas prticas. Alguns chegam a evocar os riscos de uma dessubjetivao. As duas
hipteses a do indivduo no centro de tudo e a da dessubjetivao so, em nossa
opinio, to falsas uma quanto a outra. Vejamos.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

como acontecimentos uma vez que cada um pode muito bem ser decomposto em
redes de dados reagregados de outros dados, independentes dos acontecimentos dos
quais poderia atualmente dizer algo a respeito. Assim, a governamentalidade algortmica no para de embaralhar as cartas, o que nos expulsa da perspectiva histrica
ou genealgica (Rouvroy, 2013b).

2.1. A personalizao realmente uma forma de individuao?


A IBM apresenta o marketing individualizado smart marketing como uma revoluo transformando o marketing e a publicidade em servios dos consumidores.
o grande retorno do consumidor-rei, o qual, colocado no centro das preocupaes das
empresas, no tem nem mais que conceber ou expressar seus desejos, que so ordens.
Como disse Eric Schmidt, Diretor Geral do Google: Ns sabemos, em linhas gerais,
13 Assim como sua forma disciplinar, para retomar as modelizaes foucaultianas do poder. Deste ponto de vista, ns nos situaramos aqui na terceira modelizao do poder analisada por Foucault, a que analisa os dispositivos de segurana numa perspectiva
essencialmente regulatria. A evoluo aqui descrita consistiria em estabelecer neste terceiro modelo do poder o modelo dos
dispositivos de segurana novas rupturas. O princpio dos dispositivos de segurana no tomar nem o ponto de vista do que
impedido, nem o ponto de vista do que obrigatrio, mas recuar suficientemente para que se possa apreender o ponto em que as
coisas vo se produzir, sejam elas desejveis ou no. (...) A lei probe, a disciplina prescreve e a segurana, sem proibir nem prescrever,
(...) tem essencialmente, por funo, responder a uma realidade de modo que essa resposta anule essa realidade a que ela responde
anule ou limite ou freie ou regule. essa regulao no elemento da realidade que (...) fundamental nos dispositivos de segurana
(Foucault, 2004, p. 48-49).

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

43

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

quem vocs so, o que lhes interessa, quem so seus amigos (isto , conhecemos seu
cardume). A tecnologia ser to boa que ser difcil para as pessoas ver ou consumir
alguma coisa que no foi, em alguma medida, ajustada para elas (isso quer dizer que
uma previso aparentemente individualizada seria possvel). Essa forma de individualizao se assemelha, de fato, a uma hipersegmentao e a uma hiperplasticidade das
ofertas comerciais muito mais do que a uma considerao global das necessidades e
desejos prprios a cada pessoa. Ao contrrio, certamente o objetivo no tanto adaptar a oferta aos desejos espontneos (se ao menos algo assim existir) dos indivduos,
mas, em vez disso, adaptar os desejos dos indivduos oferta, adaptando as estratgias de venda (a maneira de apresentar o produto, de fixar seu preo...) em proveito
de cada um. Assim, as estratgias de dynamic pricing ou de adaptao do preo de
certos servios ou certas mercadorias de acordo com a willingness to pay de cada consumidor potencial j estariam em curso em alguns sites de venda online de viagens
areas. Mais do que da individualizao, convm realmente falar aqui da segmentao
de mercado. Um exemplo bastante trivial: conecte-se no site de uma companhia area
cujo nome no falaremos (a companhia Y) e se informe sobre os preos de uma passagem de avio para Pisa, com sada de Bruxelas, partindo em trs dias. Digamos que
eles coloquem um preo de 180 euros. Achando o preo um pouco caro demais, voc
vai ao site de uma outra companhia (a companhia Z) ou voc se informa em outros
lugares na internet para encontrar uma passagem menos cara. Supomos que voc
no obtenha resultados. Voc, ento, retornar ao site da companhia Y e l surpresa!
voc se d conta de que o preo da passagem aumentou 50 euros num espao de
meia-hora apenas, o tempo em que voc fazia sua pequena pesquisa. simplesmente
porque um perfil viajante cativo lhe foi atribudo: foi detectado, de acordo com seu
percurso pela internet e a data de partida desejada, que voc precisava verdadeiramente dessa passagem de avio e que voc estaria, ento, disposto a gastar 50 euros
a mais para obter essa passagem, posto que voc teria a impresso de que, se voc
no a comprasse logo, o preo s subiria. Se, no lugar de reagir logicamente comprando o mais rpido a passagem, voc mudasse de computador, de endereo IP e
entrasse novamente no site da companhia area, sua passagem lhe custaria 180 euros
em vez de 230 euros. Explicao? O primeiro reflexo, com o qual o vendedor conta,
aquele de comprar o mais cedo possvel, seguindo o alerta que est lanado: o
preo aumenta, e rpido. Aqui neste caso, as consequncias so relativamente triviais.
Mas v-se bem, nesse exemplo, que, em vez de respeitar escrupulosamente os desejos individuais de cada consumidor singular, trata-se, ao contrrio, e baseando-se na
deteco automtica de certas propenses (de compra), da deteco da (in)elasticidade da demanda individual em relao a uma variao de preo; trata-se de suscitar o
ato de compra no modo da resposta-reflexo a um estmulo de alerta que provoca um
curto-circuito na reflexividade individual e na formao do desejo singular.
Trata-se, portanto, de produzir a passagem ao ato sem formao nem formulao de
desejo. O governo algortmico parece, por esta razo, assinar a concluso de um processo de dissipao das condies espaciais, temporais e lingusticas da subjetivao
e da individuao em benefcio de uma regulao objetiva, operacional das condutas
possveis, e isso a partir de dados brutos, neles mesmos a-significantes, e cujo tratamento estatstico visa, antes de tudo, acelerar os fluxos poupando toda forma de
desvio ou de suspenso reflexiva subjetiva entre os estmulos e suas respostasreflexo. Que aquilo que corre dessa forma seja a-significante no tem mais qualquer
importncia14. Graas ao fato de que os sinais digitais podem ser calculados quanti14 Ao contrrio, mesmo que o que corre seja a-significante precisamente o que permite a servido maqunica: H um inconsciente maqunico molecular que vem de sistemas de codificao, sistemas automticos, sistemas de moldagens, sistemas de emprstimos, etc., que no colocam em jogo nem os canais semiticos, nem os fenmenos de subjetivao de relaes sujeito/objeto,
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

44

A proletarizao historicamente a perda do saber do trabalhador frente a


mquina que absorveu esse saber. Hoje, a proletarizao a padronizao dos
comportamentos atravs do marketing e dos servios e a mecanizao dos
espritos pela exteriorizao dos saberes em sistemas tais que esses espritos
no sabem mais nada desses aparelhos de tratamento de informao de modo
que s estabelecem parmetros: precisamente o que mostra a matematizao eletrnica da deciso financeira. Ora, isso afeta todo o mundo: empregados, mdicos, idealizadores, intelectuais, dirigentes. Cada vez mais, engenheiros
participam de processos tcnicos cujo funcionamento eles ignoram, mas que
arrunam o mundo. (Stiegler, 2011)

Maurizio Lazaratto resume muito bem, por outro lado, a maneira pela qual as semiticas a-significantes, das quais o comportamentalismo digital exemplar, produzem a
servido maqunica, mais do que a alienao subjetiva:

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

tativamente, qualquer que se seja seu significado (Eco apud Genosko, 2008), tudo
se passa como se o significado no fosse mais absolutamente necessrio, como se o
universo estivesse j independentemente de toda interpretao saturado de sentido, como se no fosse mais, a partir de agora, necessrio religar-nos uns aos outros
pela linguagem significante, nem por qualquer transcrio simblica, institucional,
convencional. Os dispositivos da governamentalidade algortmica completam, assim,
ao mesmo tempo, a emancipao dos significantes em relao aos significados (digitalizao, recombinaes algortmicas dos perfis) e a substituio dos significantes
pelos significados (produo da realidade em contato com o mundo o nico real
que conta, para a governamentalidade algortmica, o real digital) (Rouvroy, 2013b).
Essa afetao, em um estado pr-consciente, da ao humana tem tudo a ver com o
que Bernard Stiegler chama proletarizao:

Se as semiticas significantes tm uma funo de alienao subjetiva, de assujeitamento social, as semiticas a-significantes possuem uma funo de
servido maqunica. As semiticas a-significantes operam uma sincronizao
e uma modulao dos componentes pr-individuais e pr-verbais da subjetividade, engendrando afetos, percepes, emoes, etc., como as peas, os componentes, os elementos de uma mquina (servido maqunica). Ns podemos
funcionar todos como os componentes de input/output de mquinas semiticas, como simples retransmissores de televiso ou de internet, que fazem passar
e/ou impedem a passagem da informao, da comunicao, dos afetos. Diferente das semiticas significantes, as semiticas a-significantes no conhecem
nem as pessoas, nem os papeis, nem os sujeitos. (...) No primeiro caso, o sistema
fala e faz falar. Ele indexa e dobra a multiplicidade das semiticas pr-significantes e simblicas sobre a linguagem, sobre os canais lingusticos, privilegiando
suas funes representativas. Enquanto que, no segundo caso, o sistema no
produz discurso, no fala, mas funciona, coloca em movimento, conectando-se
diretamente ao sistema nervoso, ao crebro, memria, etc., ativando relaes
afetivas, transitivas, transindividuais dificilmente atribuveis a um sujeito, a um
indivduo, a um eu. (Lazaratto, 2006)

2.2. Os paradoxos da personalizao: uma governamentalidade algortmica sem sujeitos, mas compatvel com os fenmenos contemporneos de hipersubjetivao
A hiptese da dessubjetivao, do indivduo sob risco de extino, de sua diluio
nas redes, por mais impressionante que seja, no de modo algum evidente. Seria
nem os fenmenos de conscincia; que colocam em jogo o que eu chamo de fenmenos de servido maqunica, onde funes,
rgos entram diretamente em interao com sistemas maqunicos, sistemas semiticos. O exemplo que uso sempre aquele da
conduo de um automvel em estado de devaneio. Tudo funciona fora da conscincia, todos os reflexos, pensamos em outra coisa
e, no limite, chegamos a dormir; e depois, h um sinal semitico de despertador que faz recobrar a conscincia de uma s vez e
reinjeta canais significantes. H, portanto, um inconsciente de servido maqunica (Guattari, 1980).
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

45

Sem consider-lo como vo, ns queremos destacar aqui a indiferena desse governo algortmico para os indivduos, j que o mesmo se contenta em se interessar e em
controlar nossa dupla estatstica, isto , os cruzamentos de correlaes, produzidos
de maneira automatizada, e com base em quantidades massivas de dados, estas constitudas ou coletadas automaticamente. Em suma, quem ns somos grosso modo,
para retomar a citao de Eric Schmidt, no mais, de modo algum, ns mesmos
(seres singulares). E justamente esse o problema, problema que, como ns veremos,
acentuaria sobretudo uma rarefao dos processos e ocasies de subjetivao, uma
dificuldade de tornar-se sujeito, e no tanto um fenmeno de dessubjetivao ou de
risco de extino do indivduo.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

possvel mesmo dizer que as redes sociais, etc. sem dvida porque so atravessadas, para seus usurios, por semiticas significantes produzem hipersujeitos, que
a produo de subjetividade se tornou a atividade obcecada de um bom nmero de
indivduos, sua prpria razo de viver. Parece-nos, assim, muito precipitado afirmar
simplesmente que as transformaes em curso produziriam somente a dessubjetivao porque enfraquecem as muralhas da intimidade (e mesmo isso no totalmente
evidente: pelo contrrio, certos dispositivos da sociedade da informao reforam o
isolamento dos indivduos, os protegem de interao com outrem...), da vida privada,
e porque afetariam, talvez, as condies de autonomia e do livre arbtrio (mas seria
ainda necessrio perceber em qual sentido isso ocorre: interfaces inteligentes que
nos dispensariam do dever permanente de fazer escolhas em reas completamente
triviais podem tambm nos libertar o esprito, nos tornar disponveis para tarefas intelectuais mais interessantes, mais altrustas, etc.). No entanto, impressionadas sobretudo pelo risco de exposio de informaes pessoais, ntimas ou delicadas, de
divulgaes inapropriadas, de perda do controle dos indivduos sobre seus perfis, de
atentados contra o princpio de autonomia e autodeterminao individuais, as legislaes de proteo da vida privada ou de dados de natureza pessoal se esforaram,
principalmente, em erigir ao redor do indivduo uma srie de barreiras de aspecto
essencialmente defensivas e restritivas.

Sendo assim definido, devemos retornar questo do sujeito, ou melhor questo


de sua evitao no processo normativo em trs tempos descrito acima. O que se
constata a princpio uma dificuldade de produzir um sujeito algortmico que reflete
sobre si e se pensa como tal. Primeiro, como ns vimos, o consentimento do sujeito
fraco quando ele transmite informao (esses dados que podem com frequncia
serem utilizados mesmo permanecendo annimos... assim como poderiam no mais
s-lo na medida em que seu anonimato no teria mais sentido), no que esta seria
roubada dele, o que lhe permitiria se opor, se constituir como sujeito resistente contra um tal roubo. Mas em vez disso, assistimos a um enfraquecimento considervel do
carter deliberado das divulgaes de informao o mais frequente, informaes
triviais, andinas, segmentadas, descontextualizadas -, desses traos cuja trajetria
e cujos usos subsequentes so, para o sujeito, imprevisveis e incontrolveis, mesmo
se o desenvolvimento de ferramentas tcnicas que permitem aos usurios de servios de informtica controlar melhor seus dados consiste, hoje em dia, em um objeto de investimentos de pesquisa considerveis. Em seguida, do ponto de vista do
tratamento dessas informaes, constatamos que os saberes produzidos tm, como
principal caracterstica, a de parecer emergir diretamente da massa de dados, sem
que a hiptese a qual conduz a esses saberes lhes seja preexistente: as hipteses
so elas mesmas geradas a partir da dos dados. Ao final, a ao normativa decor-

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

46

Por conta desses trs aspectos, a fora bem como o perigo da generalizao das prticas estatsticas qual ns assistimos residiriam no em seu carter individual, mas,
pelo contrrio, em sua autonomia ou mesmo em sua indiferena para com o indivduo. Nosso problema, para exprimi-lo da forma mais explcita, no ser privado do
que consideraramos como nos sendo prprio ou ser forado a ceder informaes que
atentariam contra a nossa vida privada ou a nossa liberdade, mas decorre fundamentalmente do fato de que nossa dupla estatstica demasiadamente separada de ns,
que no temos relao com ela, mesmo que as aes normativas contemporneas
se bastem dessa dupla estatstica para serem eficazes. Em outras palavras, l onde o
confessional fabrica o sujeito da introspeco, que sonda sua alma, sua virtude, seus
desejos e suas intenes as mais profundas, uma vez que, atravs do processo de
confisso, aquele que fala se engaja em ser o que ele afirma que e, precisamente,
porque ele isso (Foucault, 2012, p.5); l onde a lei produz sujeitos de direito preocupados com sua igualdade e com a imparcialidade dos procedimentos; l onde o
homem mdio aparece como demasiadamente mdio em relao a todo sujeito singular suscetvel de se constituir contra essa mdia, o governo algortmico no d nem
lugar, nem se aferra a qualquer sujeito estatstico ativo, consistente, reflexivo, suscetvel de legitim-lo ou de resistir-lhe15. precisamente isto por que devemos zelar a
partir de agora, essencialmente pelo conhecimento e reconhecimento da distncia,
da diferena entre essas representaes estatsticas e o que constitui os indivduos
nos processos de individuao que so os seus, com os momentos de espontaneidade, os acontecimentos, os desvios em relao aos possveis antecipados, que prevalecem nos processos.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

rente do processo estatstico sempre poder equivaler mais a uma ao sobre e, assim, pelo ambiente, e menos a uma ao sobre o indivduo em si. A ao desse ltimo
no mais influenciada por confrontao direta com uma norma exterior lei, mdia,
definio de normalidade -, mas suas possibilidades so organizadas no prprio seio
de seu ambiente.

Em contrapartida, o que nos parece menos ultrapassvel, de modo a desenhar assim


uma verdadeira ruptura, a apario de possibilidades de saberes que no pressuporiam mais a expresso de qualquer hiptese e que determinariam, por isso, o desaparecimento, ao menos em parte do espao social, da ideia de projeto16. Dessa forma,
no se trata tanto de lamentar a perda da ideia de projeto entendido como aplicvel
ou verificvel, mas sobretudo como mvel, isto , precisamente como podendo passar por fracassos e fazer, sobre esta base, histria, sendo incessantemente retomado
e transformado. Ora, mesmo para um organismo, mesmo para a vida, para o orgnico
15 Nossa anlise demandaria ser mais nuanada quanto s evolues e rupturas a serem constatadas no plano de uma longa
histria das prticas normativas. O governo algortmico poderia parecer remeter a certos mecanismos presentes antes da generalizao da ideia da norma jurdico-discursiva, a qual apareceria, ento, mais como a exceo que como a regra nessa longa histria:
se questiona-se o funcionamento normativo da governamentalidade algortmica, o que assegura sua legitimidade, o que firma o
poder, pode-se, de fato, ter a impresso de que h muito mais semelhanas entre o sujeito pecador que se confessa e a possibilidade
do sujeito algortmico contemporneo que entre este ltimo e o sujeito de direto, construdo pela lei, na medida em que o sujeito
algortmico e o sujeito cristo aparecem ambos como fruto de um dilogo consigo mesmo, ajudado por uma mediao poltica,
espiritual ou tcnica. por exemplo o que poderamos constatar voltando-nos para experincias ainda raras como o Quantified
Self (ver o artigo de A.-S Pharabod, V. Nikolski e F. Granjon). Independentemente da extenso, do interesse e da representatividade
reais desse tipo de experincia, parece-nos, contudo, til notar a produo e o refinamento do sujeito so que ela deixa entrever,
se ela certamente auxiliada pela mediao tcnica ou estatstica: a) esse tipo de experincia pressupe um sujeito que se refina,
mais do que testemunha um sujeito que se produz; b) repousa sobre uma recusa do uso geral da mediao tcnica em proveito de
uma reapropriao que se pretende estritamente individual; isto quer dizer que a reflexividade que essa experincia testemunha,
com a conscincia da norma pelo sujeito em jogo, parece-nos precisamente estranha no-relao que os indivduos podem, nesse
estado, atrelar a sua dupla estatstica.
16 Para este ponto desprovido de projetos, a governamentalidade algortmica apresenta, talvez, uma verso radical do governo
pelo objetivo, no sentido em que Laurent Thvenot (2012) o compreende: No governo pelo objetivo, a autoridade legtima certamente deslocada e distribuda nas coisas, tornando difcil sua apreenso e seu questionamento uma vez que ela se impe em nome
do realismo e perde sua visibilidade poltica.
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

47

O campo de ao deste poder no est situado no presente, mas no futuro. Essa


forma de governo trata essencialmente daquilo que poderia acontecer, das propenses mais do que das aes realizadas, diferena da represso penal ou das regras
da responsabilidade civil, por exemplo, que s concernem s infraes que teriam
sido cometidas ou que estariam sendo cometidas (em caso de flagrante) ou aos danos
que teriam sido causados. Mais ativamente, o governo algortmico no apenas percebe o possvel no presente, produzindo uma realidade aumentada, uma atualidade
dotada de uma memria do futuro, mas tambm d consistncia ao sonho de um
acasosistematizado: nosso real teria se tornado o possvel, nossas normas querem
antecipar, corretamente e de maneira imanente, o possvel, o melhor meio sendo certamente apresentar-nos um possvel que nos corresponda e para o qual os sujeitos s
precisariam deslizar. A diferena em relao normatividade jurdico-discursiva deve
ser aqui sublinhada: l onde essa normatividade estava dada, de maneira discursiva
e pblica, antes de toda ao sobre os comportamentos, os quais estavam, portanto,
restringidos por ela (embora conservassem, sob risco de sano, a possibilidade de
no a obedecer), a normatividade estatstica precisamente o que no nunca dado
previamente, e que resiste a toda discursividade, o que incessantemente restringido pelos prprios comportamentos e que, paradoxalmente, parece tornar impossvel
toda forma de desobedincia17. O resultado que, se permanecermos numa perspectiva individualista, liberal, a ao sobre os comportamentos, o que ns chamamos
governo algortmico, aparece, ao mesmo tempo, como fundamentalmente inofensiva e como perfeitamente objetiva, posto que fundada sobre uma realidade anterior
a toda manifestao de entendimento ou de vontade subjetivos, individuais ou coletivos, uma realidade que, paradoxalmente, parece tanto mais confivel e objetiva quanto mais ela provoca a abstrao de nosso entendimento, mas alimentando o sonho
de um governo perfeitamente democrtico. Frente a tal sonho, convm, no mnimo,
lembrar que nossos comportamentos jamais foram to conduzidos observados, registrados, classificados, avaliados como agora com esta base estatstica, e isto com
base e em funo de cdigos de inteligibilidade e critrios absolutamente opacos
compreenso humana. A inofensividade, a passividade do governo algortmico
apenas aparente: o governo algortmico cria uma realidade ao menos tanto quanto
ele a registra. Ele suscita necessidades ou desejos de consumo, mas, desta maneira,
despolitiza os critrios de acesso a certos lugares, bens ou servios; ele desvaloriza
a poltica (uma vez que no haveria mais nada a decidir, a resolver em situaes de
incerteza, posto que estas so antecipadamente desarmadas); o governo algortmico
dispensa as instituies, o debate pblico; ele substitui a preveno (em proveito apenas da preempo), etc.18

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

enquanto lugar de uma atividade normativa, h perda, conflito, monstruosidade, h


limite e ultrapassagem do limite, com os desvios e os deslocamentos que isso induz
na vida, como mostrou Canguilhem. Com o governo algortmico, tenderamos a considerar a vida social como a vida orgnica, mas considerando esta como se as adaptaes que a se desenvolvem no surgissem mais de deslocamentos e de perdas, como
se elas no pudessem mais, a partir deste momento, produzir qualquer crise, nem
interrupo, nem devessem mais exigir qualquer comparecimento nem provao dos
sujeitos, nem as prprias normas.

Se era necessrio re-situar esse movimento em uma perspectiva ampla, e resistindo


desta vez perspectiva da pura novidade (a qual s teria sentido em relao ao mo17 A este propsito, permitimo-nos remeter o leitor a Rouvroy (2011).
18 Conforme mostramos em outros trabalhos, principalmente em Rouvroy (2012).

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

48

2.3. As relaes como alvos do poder na governamentalidade algortmica?


Para alm desse diagnstico ainda moral e normativo, ou talvez para refor-lo,
poderamos agora tentar cercar aquilo em proveito do qual os sujeitos seriam evitados? Se no so os prprios indivduos, qual o objeto ou o alvo dos trs momentos descritos e, mais globalmente, do governo algortmico? Ou ainda: de que se trata
governar impedindo ou, ao menos, complicando a prpria possibilidade dos processos de subjetivao? Nossa hiptese de que o objeto que no chega, portanto, a
tornar-se sujeito do governo algortmico so precisamente as relaes: os dados
transmitidos so relaes20 e apenas subsistem enquanto relaes; os conhecimentos gerados so relaes de relaes; e as aes normativas que da decorrem so
aes sobre as relaes (ou ambientes) referidas s relaes de relaes. , portanto,
na medida em que seria, na prpria realidade de suas prticas visando organizao
do possvel, um governo das relaes, que ns queremos agora tentar circunscrever a
eventual novidade deste governo algortmico.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

delo jurdico-discursivo), devemos constatar que esse governo algortmico aprofunda


ainda o ideal liberal de uma aparente desapario do prprio projeto de governar:
como mostramos em outros trabalhos (BERNS, 2009), no se trata mais de governar
o real, mas de governar a partir do real. A evoluo tecnolgico-poltica aqui descrita
leva a termo essa tendncia19, ao ponto de que no (querer) ser governado poderia, a
partir de agora, equivaler a no querer a si mesmo (e isso sem significar, no entanto,
que nossa intimidade teria sido violada).

Trata-se agora, ento, de transpor nossa dupla interrogao (quanto objetividade


cintilante e produtividade da estatstica algortmica) para os registros simondonianos e deleuzianos/guattarianos. Queremos mostrar que essa teleobjetividade produtiva, em ao nas prticas de datamining e elaborao algortmica de perfis, ainda que
parea a priori abandonar o registro do sujeito e, por isso, potencialmente permitir o
que Simondon designa como processos de individuao transindividual que no
se resume nem ao eu, nem ao ns, mas designa um processo de coindividuao do
eu e do ns, produzindo o social, isto , meios associados onde se formam significaes pelo contrrio, exclui as possibilidades de tais individuaes transindividuais
redobrando os processos de individuao sobre a mnada subjetiva.
Por outro lado, ns mostraremos que o abandono de toda forma de escala, de padro, de hierarquia, em benefcio de uma normatividade imanente e eminentemente
plstica (Deleuze& Guattari, 1980), no necessariamente favorvel emergncia de
novas formas de vida no sentido de uma emancipao descrita por Deleuze e Guattari sob a forma da ultrapassagem do plano de organizao pelo plano de imanncia,
sob a forma de uma tbula rasa das antigas hierarquias, na qual o homem normal ou
o homem mdio ocuparia um lugar maior21.
3. Perspectivas transindividuais e rizomticas
A incitao a abordar a governamentalidade algortmica sob a perspectiva simondo19 Pelas mesmas razes de outras prticas do governo contemporneo, como a relao ou a avaliao. Ver Berns (2011, 2012).
20 A palavra relao, entendida aqui em seu sentido mais bruto e menos comum, pelo qual ns qualificamos o dado, serve-nos
apenas para atestar uma operao que liga A e B, sendo capaz de ignorar o que est por trs dos termos assim ligados. Conforme
mostraremos, toda a fora do governo algortmico reside, afinal, em sua capacidade de monadologizar essa relao, de tal modo
que essa relao no consiga precisamente apreender o devir que seria prprio relacionalidade.
21 O objetivo da descrio rizomtica do conhecimento no era tanto descritivo quanto estratgico, legitimada por sua utilidade
para o exerccio de uma resistncia contra um modelo hierrquico, traduo epistemolgica de uma estrutura social opressiva.
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

49

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

niana provm do fato de que esse modo de governo parece no ter mais, por apoio
e por alvo, os sujeitos, mas as relaes enquanto sendo anteriores aos seus termos,
isto , no apenas as relaes sociais, intersubjetivas na medida em que constroem
os indivduos, de modo que todo indivduo seria considerado como a soma dessas
relaes, mas sobretudo as relaes elas mesmas, independentemente de toda individuao simples e linear: as relaes enquanto permanecem inatribuveis aos indivduos que elas vinculam, no sentido, assim, de que a relacionalidade subsistiria
tambm para alm dos indivduos que as relaes ligam. Seria necessrio, portanto,
para compreender o que nos preocupa, passar, com Simondon, de uma ontologia ou
de uma metafsica clssica da substncia, centrada no indivduo e nos estados (em
cujo mbito, atribuem-se relaes a um indivduo), a uma ontologia da relao (na
qual as relaes prevalecem ontologicamente sobre os indivduos que elas atravessam) ou ainda a uma ontognse preocupada com o devir e, dessa forma, preocupada
em compreender o prprio movimento da individuao? importante notar, logo de
incio, que essa hiptese nos afastaria, ao mesmo tempo, de um certo individualismo
nominalista (que supe a realidade de apenas alguns indivduos a partir dos quais
eventualmente poderamos abstrair valores universais), mas tambm de um certo
realismo de tipo holista que pressuporia que as essncias coletivas, os gneros, as
classes preexistem aos indivduos, os quais seriam inteiramente subsumveis a essas
essncias. Pensar a relao de maneira primeira, por ela mesma, de maneira constitutiva, voltaria, em suma, a romper com o movimento vertical que nos leva do particular
ao geral, qualquer que seja sua direo.
A semelhana se mostra impressionante entre os processos de produo e de transformao contnua dos perfis gerados automaticamente, em tempo real, de maneira
puramente indutiva, por cruzamento automtico de dados heterogneos (datamining), e os metabolismos prprios do rizoma de Deleuze e Guattari:
O rizoma no se deixa reconduzir nem ao Uno nem ao mltiplo. Ele no o
Uno que se torna dois, nem mesmo que se tornaria diretamente trs, quatro ou
cinco etc. (...) Oposto a uma estrutura, que se define por um conjunto de pontos
e posies, por correlaes binrias entre estes pontos e relaes biunvocas
entre estas posies, o rizoma feito somente de linhas: linhas de segmentaridade, de estratificao, como dimenses, mas tambm linha de fuga ou de
desterritorializao como dimenso mxima segundo a qual, em seguindo-a, a
multiplicidade se metamorfoseia, mudando de natureza. No se deve confundir tais linhas ou lineamentos com linhagens de tipo arborescente, que so somente ligaes localizveis entre pontos e posies. Oposto rvore, o rizoma
no objeto de reproduo: nem reproduo externa como rvore-imagem,
nem reproduo interna como a estrutura-rvore. O rizoma uma antigenealogia. uma memria curta ou uma antimemria. O rizoma procede por variao, expanso, conquista, captura, picada. (...) Contra os sistemas centrados (e
mesmo policentrados), de comunicao hierrquica e ligaes preestabelecidas, o rizoma um sistema a-centrado no hierrquico e no significante, sem
General, sem memria organizadora ou autmato central, unicamente definido
por uma circulao de estados. (Deleuze& Guattari, 1980, p.30-31)

A relao entre a ontologia da relao em Simondon e a metfora do rizoma em Deleuze e Guattari atrela-se tambm ao fato de que, na descrio destes ltimos,
um rizoma no comea nem conclui, ele se encontra sempre no meio, entre as
coisas, inter-ser, intermezzo. A rvore filiao, mas o rizoma aliana, unicamente aliana. A rvore impe o verbo ser, mas o rizoma tem como tecido a
conjuno e... e... e... H nesta conjuno fora suficiente para sacudir e desen-

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

50

Interessa-nos, portanto, ver em que medida, em que condies, por meio de que reservas, o aparecimento de ferramentas sociais em aparente harmonia22 com a superao
que Simondon exigia da metafsica da substncia para apreender o devir em ao nos
processos de individuao e em harmonia com a superao do plano de organizao
pelo plano de imanncia, que Deleuze e Guattari celebravam como emancipadora23,
podem realmente contribuir para a emergncia de formas de vida emancipadas.
Se o pensamento da individuao de Simondon surge como a tentativa mais completa
de pensar a relao e a associao de um indivduo a um meio24, na medida em que o
autor se liberta da acepo aristotlica da relao, que lhe pressupunha sempre a substncia e a reduzia, assim, ao seu teor estritamente lgico. Rejeitando esse primado da
substncia, passando, ento, de uma metafsica dos estados a uma metafsica de suas
modificaes ou de seu devir, Simondon confere, ao contrrio, um teor ontolgico
relao, de modo a dar conta do prprio processo de individuao. Mas isso significa
ento que, por um lado, a relao (a qual ranqueia o ser, excede ou transborda sempre
aquilo que ela liga) no se reduz jamais a uma socialidade interindividual e que se tenta pens-la o mais longe quanto possvel em sua primazia ontolgica: a relao no
brota entre dois termos que j seriam indivduos, mas ela a ressonncia interna de
um sistema de individuao (Simondon, 2005, p.2925). Por outro lado, isso significa que
o campo pr-individual no qual os processos de individuao devem estar inscritos
para serem pensados como processos que se desenvolvem conservando sempre esta
dimenso pr-individual anterior aos seus movimentos de diferenciao concebese como potencialmente metaestvel, isto , deve-se pensar seu equilbrio como podendo ser rompido por uma modificao interna ao sistema, mesmo mnima. Esta
no-estabilidade do campo pr-individual inerente possibilidade de uma formao por diferenciao; ela , assim, a prpria condio de um pensamento que no
cai no paralogismo, o qual consiste em pressupor e mesmo em j individuar sempre
o princpio daquilo cuja causa o pensamento procura. Em outras palavras, se h devir,
apenas na medida em que h incompatibilidades entre ordens de grandezas, entre
realidades dissimtricas.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

raizar o verbo ser. (...)Entre as coisas no designa uma correlao localizvel que
vai de uma para outra e reciprocamente, mas uma direo perpendicular, um
movimento transversal que as carrega uma e outra, riacho sem incio nem fim,
que ri suas duas margens e adquire velocidade no meio. (Ibid., p.36-37)

Destas operaes ou processos emanam indivduos e meios, indivduos associados a meios (o indivduo sendo a realidade de uma relao metaestvel) que
so reais e to reais uns quanto os outros. O indivduo como relao, como relativo a um meio, real, quer dizer, o relativo real, ele o prprio real. A relao,
e o indivduo como relaes, no esto, portanto, de modo algum, em uma perspectiva que poderamos qualificar de subjetivista, a expresso de uma medida
qual eles seriam, por isso, relativos a ponto de perder sua realidade: eles so a realidade do devir. Pela mesma razo, o meio associado a um indivduo tudo exceto
22 O leitor entender que o alvo de nossa crtica no a teoria simondoniana da individuao transindividual nem a perspectiva
rizomtica deleuziana-guattariana, que a governamentalidade algortmica s incorpora em aparncia. O alvo de nossa crtica ,
justamente, a aparncia de compatibilidade da governamentalidade algortmica com essas teorias e perspectivas emancipatrias,
mesmo quando a governamentalidade algortmica tendesse mais a impedir tanto os processos de individuao transindividual
quanto a abertura s novas significaes trazidas pelas relaes entre entidades dspares.
23 O objetivo da descrio rizomtica do conhecimento no era tanto descritivo quanto estratgico, legitimada por sua utilidade
para o exerccio de uma resistncia contra um modelo hierrquico, traduo epistemolgica de uma estrutura social opressiva.
24 Mesmo que outras tentativas possam ser procuradas, por exemplo, a partir dos pensamentos de Spinoza ou de Marx, seguindo
as obras de V. Morfino (2010), para o primeiro, e de E. Balibar (1993), para o segundo.
25 A preciosa anlise de M. Combes (1999) nos ajudou imensamente.
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

51

Pode-se avaliar a novidade do governo algortmico, em sua tentativa de governar a


partir das relaes tal como ns a descrevemos, com base nas exigncias do pensamento simondoniano? No que se tratasse de se perguntar se a realidade estatstica
contempornea mais simondoniana que outra forma de realidade, isso seria absurdo, mas sim de ressaltar e mensurar suas eventuais novidades; mais principalmente,
interessa o fato de que essa realidade ofereceria a possibilidade de apreender o indivduo em (e mesmo a partir de) suas relaes, luz das exigncias extremamente
fortes definidas por Simondon para fundar uma ontologia da relao.
Paradoxalmente, ao probabilizar a totalidade da realidade (que parecer tornar-se, enquanto tal, o suporte da ao estatstica) e ao parecer dessubjetivar essa perspectiva
probabilstica (a qual no mais se preocupa com hipteses prvias), enfim, ao conferir-se a possibilidade de governar os comportamentos sem se ocupar diretamente
com os indivduos para se contentar em governar a partir de uma expresso estatstica da realidade, que conseguiria substituir a realidade (a perspectiva de um comportamentalismo digital), o governo algortmico continua a atribuir valores absolutos ao
indivduo (mesmo que ele seja abordado indiretamente, como aquilo que as relaes permitem evitar) e, ao mesmo tempo, o desrealiza no sentido em que o indivduo no nada mais que algo relativo s sries de medidas, as quais, elas mesmas,
servem de realidade e semque por isso, no entanto, aparea o carter subjetivo dessas
medidas. As relaes sobre as quais se desdobra o governo algortmico so medidas
que, por sua prpria capacidade de aparecer com a expresso no mediada e no subjetiva da realidade, isto , por sua aparente objetividade, tornam ainda mais relativo
e menos real tudo que advm em funo delas e mesmo por elas: o que resulta
apenas relativo a uma srie de medida que substitui a realidade. Em outras palavras,
as relaes e suas medidas, por sua capacidade de aparecer como desconectadas
de toda subjetividade, tornam tanto o real quanto o prprio indivduo relativos. Mas
isto, considerado luz do pensamento simondoniano, surge como o fruto de uma
inverso: se anteriormente, segundo a metafsica da substncia e do indivduo, toda
apreenso ou medida do meio de um indivduo apareciam sempre como insuficientes, posto que demasiadamente subjetivas, impedindo, desta maneira, de alcanar a
realidade do indivduo em sua individuao, essa insuficincia (em conjunto com a
diferena ontolgica que ela revelava entre o indivduo e seu meio) seria, doravante,
resolvida tornando o prprio indivduo inteiramente relativo s medidas consideradas, elas mesmas, como emancipadas de toda subjetividade, ainda que elas sejam
apenas medidas. Poderamos at chegar a dizer, aproveitando sempre este confronto
entre uma prtica de governo e o pensamento simondoniano, que esta prtica, concentrando-se nas relaes, consegue monadologis-las, transform-las em estados,
mesmo em status, como se as relaes fossem, elas mesmas, indivduos, isto , sua
condioperde o que se tratava de pensar com Simondon, a saber, o devir em ao
numa realidade metaestvel.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

sua reduo medida, isto , probabilidade de aparecimento do indivduo26.

esse devir-mnada da relao que ns constatvamos ao considerar que os dados


do big data subsistem apenas como sries de relaes, que os saberes gerados com
base nisso consistem em religar relaes e que as aes normativas que da decorrem
(agindo sobre as relaes depois de t-las referido a relaes de relaes) excluem,
precisamente, a possibilidade de uma realidade metaestvel no seio da qual se ins26 Simondon dedica numerosas pginas ao perigo da perda de realidade, prpria a uma concepo subjetivista e probabilstica da
fsica contempornea. Ver M. Combes (1999, p. 39).
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

52

O que define essencialmente um sistema metaestvel a existncia de uma disparao, ao menos de duas ordens de grandeza, de duas escalas de realidade dspares,
entre as quais no h ainda comunicao interativa, escreve Deleuze (2002), leitor
de Simondon. Ora, essa evitao da falha ou do desvio opera como negao desta
disparao. A governamentalidade algortmica apresenta uma forma de totalizao, de encerramento do real estatstico sobre si mesmo, de reduo da potncia ao
provvel, de indistino entre os planos de imanncia (ou de consistncia) e de organizao (ou de transcendncia), e constitui a representao digital do globo imunitrio, de uma atualidade pura (Lagrand, 2011), expurgada, de modo preemptivo,
de toda forma de potncia de porvir, de toda dimenso outra, de toda virtualidade
(Rouvroy, 2011). Esse impedimento da falha da modelizao digital dos possveis
pela preempo dos possveis ou pelo registro e inscrio automtica de toda irregularidade nos processos de refinamento dos modelos, padres ou perfis (no
caso dos sistemas algortmicos autodidatas) retira do que poderia surgir do mundo
em sua dissimetria relativa realidade (aqui, o que lhe substitui o corpo estatstico)
sua potncia de interrupo, de colocar em crise27.

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

creveria um devir. O que a leitura de Simondon nos propunha era deixar de pensar o
devir a partir do ser individual constitudo e dado na medida em que isso significava
que ns abstrassemos a prpria experincia da individuao tal como ela se realiza.
Mas aquilo do qual se tratava, assim, de no mais abstrair (para no mais pressupor o
indivduo em relao ao devir) era precisamente o fato de que o possvel no contm
j o atual e, portanto, o indivduo que da surge difere do possvel que suscitou sua
individuao (Debaise, 2004, p.20). A falha ou o desvio, dos quais ns dizamos, por
outro lado, temer a expulso numa realidade aumentada o mximopossvel, numa
realidade que parecia incluir o possvel, e que ns consideraramos que eles eram
tambm inerentes expresso de construes, de projetos, de hipteses, aparecem,
ento, precisamente como aquilo a partir do que somente h uma relao, entendida
como inatribuvel ao que ela religa; isto , naquilo em que ela religa precisamente
realidades dissimtricas e parcialmente incompatveis ou dspares, a partir das quais
emergiro realidades ou significaes novas.

Lembremos que o estatuto da aproximao que Deleuze e Guattari chamaram esquizo-anlise, microanlise, rizomtico, cartografia, no era tanto descritivo quanto
estratgico. Regras para a elaborao de hipertextos ou nomadologias, os conceitos
de rizoma e de imanncia eram conceitos polmicos (Marchal, 2006), portadores de
um pensamento estratgico, que visava estruturar o social de outro modo, visava
resistir a um modelo hierrquico. Dando-se por espao uma topologia horizontal de
pura superfcie, dispensando toda profundidade, toda verticalidade, toda estrutura
hierarquizada, todo projeto e toda projeo28, a governamentalidade algortmica,
assim como a estratgia rizomtica, no se interessa nem pelo sujeito, nem pelos
indivduos. Somente contam as relaes entre os dados, que so apenas fragmentos
infraindividuais, reflexos parciais e impessoais de existncias cotidianas que o datamining permite correlacionar a um nvel supraindividual, mas que no define qualquer ultrapassagem do indivduo, qualquer povo, portanto. Na era dos Big Data e
da governamentalidade algortmica, a metfora do rizoma parece ter adquirido um
27 Novamente, necessrio apontar, aqui, o fato de que a crise, esse momento que convoca a decidir na incerteza, precisamente
o momento do poltico: A autoridade legtima foi deslocada e distribuda nas coisas, dificultando sua apreenso e seu questionamento, uma vez que ela se impe em nome do realismo e perde sua visibilidade poltica. A crtica se encontra paralisada porque
ela parece ultrapassada e tornada caduca. A referncia objetividade, frequentemente acompanhada da invocao da transparncia da informao, no retoma uma exigncia maior da deliberao democrtica? (Thvenot, 2012).
28 A topologia da rede pura superfcie que convm distinguir do plano projetivo que Lacan utilizou para caracterizar a topologia
do sujeito. Trata-se, certamente, de um plano, de uma superfcie (abandonemos a psicologia das profundezas), mas ele o efeito
de uma projeo e isso o diferencia da pura superfcie da rede que no implica nenhuma projeo (Marchal, 2006).
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

53

Em primeiro lugar, o que acontece com uma relacionalidade que no seria mais fisicamente habitada por nenhuma alteridade? Na governamentalidade algortmica, cara
sujeito , ele mesmo, uma multido, mas ele mltiplo sem alteridade, fragmentado
em quantidades de perfis que se relacionam, todos, a ele mesmo, s suas propenses, aos seus desejos presumidos, suas oportunidades e seus riscos. Uma relao
fosse ela uma cena esvaziada de sujeitos no deve sempre ser povoada, fosse
por um povo que falta [evocado por Deleuze (1987, 1990)], um povo em projeto? A
relao no implica, no mnimo, uma coletividade de mais de um, naquilo em que
ela a condio de uma dissimetria?
Em segundo lugar, o que acontece com o carter emancipador de uma perspectiva
transindividual ou rizomtica quando os desejos que a se movem nos precedem?
Essa primazia cronolgica da oferta personalizada em funo de propenses no expressas pelo sujeito no viria sempre j determinar e estabilizar os processos de individuao desde o estado pr-individual? Esses novos usos da estatstica que so o
datamining e a elaborao de perfis no nos reduzem impotncia diante das normas imanentes/produzidas da governamentalidade algortmica?

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

estatuto propriamente descritivo ou diagnstico: ns somos hoje confrontados com a


atualizao material, poderia se dizer, do rizoma. O metabolismo do corpo estatstico pelo qual se interessa a governamentalidade algortmica, esse corpo estatstico
incomensurvel pelos corpos vivos, socialmente e fisicamente experimentados, consistentes, para alm da simples aglomerao de elementos, de uma consistncia que
significa, ao mesmo tempo, que este corpo permanea unido e que ele seja suscetvel
ao acontecimento (Rouvroy& Berns, 2009, 2010) lembra singularmente as caractersticas ou princpios rizomticos enunciados por Gilles Deleuze e Flix Guattari. Essa
encarnao do conceito rizomtico propcia s formas de individuao emancipadas? Trs inquietaes nos assombram quanto a esta questo.

Em terceiro lugar, o que acontece com o carter emancipador de uma perspectiva


transindividual ou rizomtica quando a relao no mais trazida por nenhum devir
especfico (devir-sujeito, devir-povo, etc.), isto , quando ele no pode relatar mais
nada, uma vez que, precisamente, o alvo, no sentido do que essa nova maneira de
governar por algoritmos insiste em excluir, o que poderia advir e que no se teria
previsto posto que fruto de disparaes, isto , a parte de incerteza, de virtualidade,
de potencialidade radical que faz dos seres humanos processos livres para se projetar,
relatar-se, tornar-se sujeitos, individuar-se, seguindo trajetrias relativamente e relacionalmente abertas? Poderia se dizer que, sim, a perspectiva emancipadora no
sentido de que ela faz tbula rasa das antigas hierarquias (no sentido mais amplo...o
homem normal ou o homem mdio que ocupa justamente um lugar nessa hierarquia), mas ela no emancipadora no escopo de qualquer devir, qualquer projeto,
qualquer objetivo. H, portanto, realmente uma forma de liberao, mas que no a
liberdade no sentido forte. O regime de verdade digital (ou o comportamentalismo
digital) no ameaa, hoje, solapar as prprias bases da emancipao, esvaziando as
noes de crtica e de projeto (Rouvroy, 2013), e mesmo de comum?
Sem chegar ainda a resolver essas questes, tratava-se, para ns, de mostrar que, mais
do que retornar a aproximaes personolgicas (cujo individualismo possessivo dos
regimes jurdicos de proteo de dados extremamente exemplar), que seriam to
ineficazes quanto mal fundados, a aposta fundamental o que restaria a salvar como
recurso antecedente a todo sujeito, a toda individuao e como constitutivo desta
GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

54

Referncias bibliogrficas
BALIBAR, E. La philosophie de Marx. Paris: Editions La Dcouverte,1993.
BERNS, T. Gouverner sans gouverner. Une archologie politique de la statistique. Paris: PUF, 2009.
BERNS, T. Lefficacit comme norme. Dissensus, n 4, 2011.
BERNS, T. Quand le rel nous gouverne: dans Gouverner par les normes, paratre chez
Bruylant, Bruxelles. (a determinar)
CARDON, D. Regarder les donnes. In:Multitudes, n49, t, 2012. pp. 138-142
COMBES, M. Simondon. Individu et collectivit. Paris: PUF, 1999.
DEBAISE, D. Quest-ce quune pense relationnelle?. In: Multitudes, n 18, 2004. pp.15-23.
DELEUZE, G. Diffrence et rptition. Paris: PUF, 1968.
______. Anti-OEdipe et autres rflexions, cours du 27/05/1980. Disponvel em: http://www2.univparis8.fr/deleuze/article.php3?id_article=68.
______.Le devenir rvolutionnaire et les crations politiques. Futur antrieur, 1, Printemps 1990.
______.Quest-ce que lacte de cration?, Confrence donne dans le cadre des mardis de la fondation Femis, 17 maio, 1980.
______. Gilbert Simondon, Lindividu et sa gense physico-biologique. Lle dserte et autres textes.
Paris: Minuit, 2002.
DELEUZE, G.& GUATTARI F. Capitalisme et Schizophrnie. 1. LAnti-OEdipe. Paris: Minuit, 1972.
______ & ______. Mille Plateaux. Capitalisme et schizophrnie 2. Paris: Minuit, 1980.
DESROSIERES, A. Masses, Individus, Moyennes: La statistique sociale au XIXeSicle. Herms, 2,
1988.
______. Discuter lindiscutable. Raison statistique et espace public. Raisons pratiques, 3, 1992.
______. La politique des grands nombres, Paris: La Dcouverte, 2000.
______. Gouverner par les nombres. Paris: Presses de lEcole des Mines, 2008.
ECO, U. A Theory of Semiotics. Bloomington: Indiana University Press, 1976.
EWALD, F. Ltat providence. Paris: Grasset, 1986.
FOUCAULT, M. Scurit, territoire, population. Cours au Collge de France, 1977-1978. Seuil: Gallimard, 2004.
FOUCAULT, M. Mal faire, dire vrai. Fonction de laveu en justice, Cours de Louvain,1981. Fabienne
Brion, Bernard E. Harcourt (eds.), Preses universitaires de Louvain et Chicago University, 2012.
GENOSKO, G. Banco sur Flix. Signes partiels a-signifiants et technologie delinformation.
In:Multitudes, 34,2008. pp. 63-73
GUATTARI, F. Prsentation du sminaire 9 dcembre 1980. Disponvel em:
http://www.revuechimeres.fr/drupal_chimeres/files/801209.pdf
HACKING, I. The Emergence of Probability: A Philosophical Study of Early Ideas about Probability, Induction and Statistical Inference. Cambridge University Press, 2006.
LAGRAND, C. Lactualit pure. Essai sur le temps paralys. Paris: PUF, 2009.
LAZARATO, M. Le pluralisme smiotique et le nouveau gouvernement des signes. Hommage
Flix Guattari, 2006. Disponvel em: http://eipcp.net/transversal/0107/lazzarato/fr
MARCHAL, P. Rseaux et plan dimmanence. Autour de Deleuze et de sa critique de la psychanalyse, Association lacanienne Internationale, 2006.
MORFINO, V. Le temps de la multitude. Paris, Amsterdam, 2010.
NEYRAT, F. Clinamen. Flux, absolu et loi spirale. Alfortville: Ere, 2011.
PARDO, M. S. Rationality, In: 64 Alabama Law Review, Vol. 64, n 1, 2012. p. 141-153
QUETELET, A. Sur lhomme et le dveloppement de ses facults. Essai dune physique sociale.

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

ltima o comum, entendido aqui como esse entre, esse lugar de presena no
qual os seres se dirigem e se relatam uns aos outros em todas as suas dissimetrias,
suas disparaes. Ns queramos mostrar tambm que a existncia desse comum ,
portanto, tributria no de uma homogeneizao, de um encerramento do real sobre
ele mesmo, mas, pelo contrrio, de uma heterogeneidade das ordens de grandeza,
de uma multiplicidade dos regimes de existncia, enfim, de escalas de realidade dspares. Dito de outro modo, o comum necessita e pressupe a no-coincidncia, pois
a partir desta que os processos de individuao ocorrem, no momento em que ela nos
obriga a nos dirigir uns aos outros. Inversamente, o governo das relaes, repousando
sobre o esvaziamento de toda forma de disparidade, monadologisa as relaes de tal
modo que estas no relatam mais nada e no expressam mais nenhum comum.

55

GOVERNAMENTALIDADE ALGORTMICA E PERSPECTIVAS DE EMANCIPAO... - ANTOINETTE ROUVROY E THOMAS BERNS | www.pos.eco.ufrj.br

REVISTA ECO PS | ISSN 2175-8689 | TECNOPOLTICAS E VIGILNCIA | V. 18 | N. 2 | 2015 | DOSSI

Bruxelles: Louis Hauman et Compe, 1836.


ROUVROY, A. Technology, Virtuality and Utopia. Governmentality in an Age ofAutonomic Computing. In: HILDEBRANDT M., ROUVROY A. (eds), Law, Human Agency and Autonomic Computing. Philosophers of Law Meet Philosophers of Technology. Routledge, 2011.
ROUVROY, A. Pour une dfense de lprouvante inoprationnalit du droit face loprationnalit
sans preuve du comportementalisme numrique. In:Dissensus, n 4, abril, 2011.
______. The end(s) of critique: data-behaviourism vs. Due process. In: HILDEBRANDT M., DE VRIES
K. (eds), Privacy, Due Process and the Computational Turn. Philosophers of Law Meet Philosophers of
Technology. Routledge, 2013a.
______. Mise en (n)ombres de la vie mme. Face la gouvernementalitalgorithmique, repenser le sujet de droit comme puissance, 2013b.
Disponvel em: http://works.bepress.com/antoinette_rouvroy/43/
ROUVROY, A.& BERNS T. Le corps statistique. La Pense et les Hommes. Bruxelles: Ed. P. Daled, 2009.
______ & ______. Le nouveau pouvoir statistique. In:Multitudes, n 40, 2010.
SIMONDON, G. Lindividuation la lumire des notions de forme et dinformation. Paris: Million,
2005.
STIEGLER, B. Le grand dsenchantement. Un entretien avec le philosophe Bernard Stiegler. In:Le
Monde, 21 fvrier, 2011.
SUNSTEIN, C. R. Republic 2.0. Princeton University Press, 2009.
THEVENOT, L. Autorits lpreuve de la critique. Jusquaux oppressions dugouvernement par
lobjectif. In: FRERE B. (dir.), Quel prsent pour la critique sociale?. Paris: Descle de Brouwer, 2012.
VAN OTTERLO, M.A Machine learning view on profiling.In: HILDEBRANDT, M., DE VRIES, K. (eds), Privacy, Due Process and the Computational Turn. Philosophers of Law Meet Philosophers of Technology,
Routledge, 2013.
VIRILIO, P. Banlieues en crise.La grippe viaire. In:Urbanisme, n 347, 2006.
ZARSKY, T. Governmental Data Mining and its Alternatives. PennState Law Review, vol. 116, n 2,
2011.

56