Sobre

guerras, drones e soldados-robs

6 de abril de 2013 Ricardo Murer Graduado em Cincias da Computao (USP) e mestre em Comunicao (USP). Especialista em estratgia digital e novas tecnologias. Follow @rdmurer Um rob no pode ferir um ser humano ou, por omisso, permitir que um ser humano sofra algum mal. [1a Lei da Robtica] Isaac Asimov (escritor e bioqumico norte-americano; 1920 1992) Em 1942, no conto de fico cientfica chamado Runaround, Isaac Asimov descreveu as trs leis da robtica. Leis que, uma vez codificadas na memria dos robs, garantiriam que estas mquinas no tomariam nenhum tipo de ao capaz de ferir ou matar um ser humano. Mas a realidade infelizmente nem sempre percorre os mesmos caminhos preconizados nos contos de fico cientfica. Pode parecer estranho num primeiro momento imaginar uma guerra sem soldados, mas diversos pases tem aumentado significativamente seus investimentos em tecnologias capazes de promover combates distncia. De acordo com Peter W. Singer: A fora area norte-americana treinou mais operadores de veculos no tripulados do que pilotos para bombardeiros e caas juntos. [SINGER, 2013]. E, segundo Chris Anderson, editor da Wired, a indstria dos drones poder chegar a 30 bilhes de dlares em 2015. Uma rea em franco crescimento, sem dvida. Mas at quando drones voaro somente em reas de conflito? E quem exatamente pode controlar o alcance de um vrus digital, manipulado por governos e pessoas sem princpios ticos e morais? Neste momento em que tecnologias computacionais ampliam o alcance e autonomia das foras armadas, considero fundamental resgatar os valores fundamentais que tecem e mantm coesa a sociedade humana. Todo desenvolvimento tecnolgico possui desdobramentos sociais e ambientais e afetam nosso modo de viver. Desdobramentos muitas vezes imprevisveis. O Bom Esse novo captulo de nossa histria comea muito cedo, bem prximo de ns, mais exatamente, dentro de nossas casas, no quarto de nossos filhos. J faz muito tempo, empresas de entretenimento digital vm aperfeioando a tal ponto seus videogames de guerra, que podem ser considerados, sem sombra de dvidas, excelentes programas de treinamento militar. Os mais populares e de maior efeito psicolgico so aqueles onde o adolescente joga em primeira pessoa (First Person Shooter FPS), em cenrios virtuais cada vez mais prximos da realidade. Neste caso, a tela representa a viso do usurio, ao mesmo tempo que este segura a arma com suas prprias mos virtuais. O objetivo dar a sensao de se estar dentro da ao, ampliando o
1

engajamento e envolvimento psicolgico do usurio. A partir de algumas pesquisas simples no YouTube, podemos encontrar cenas reais filmadas por soldados norte americanos em combate no Afeganisto ou no Iraque. Se comparadas com as criaes digitais de alguns destes videogames, a semelhana assustadora. E isto no est restrito aos cenrios e peas de artilharia, mas tambm aos personagens (recomendo uma visita ao website da Activision para uma atualizao). A virtualizao da guerra comea no somente com o treinamento dos jovens de forma subliminar, mas na busca pela criao de universos artificiais digitais, simulaes perfeitas da realidade. O graal da realidade virtual. A realidade virtual promete expandir a experincia sensorial do sons e das imagens para alm dos limites das mdias de massa, muito alm das telas do computador ou da televiso. [DOWNES, 2005] Assim, no devemos nos surpreender quando o prncipe Harry da Inglaterra, ento prestando servio militar no Afeganisto, em sua entrevista para um jornalista, creditou suas habilidades como atirador embarcado em helicptero Apache ao fato de jogar videogames. Disse ele: uma satisfao para mim, porque eu sou uma daquelas pessoas que gostam de jogar PlayStation e Xbox, assim usando meus dedos eu gosto de pensar que sou provavelmente muito til. O Mau Foi na Segunda Guerra Mundial que a cincia computacional comeou seu namoro com as foras armadas. Motivados por uma causa nobre, a total aniquilao da Alemanha nazista e seu regime totalitrio, cientistas e matemticos trabalharam para os aliados no desenvolvimento de armas e computadores. Entre estes, Alan Turing, um dos pais da computao, e Gordon Welchman, ambos responsveis pela inveno da Bombe, mquina que desvendou os cdigos criptografados dos alemes, criados pela mquina Enigma. Desde ento, de foguetes a submarinos nucleares, de radares a avies invisveis, todos os armamentos militares possuem alta tecnologia embarcada. Mas enquanto no passado, soldados eram considerados elementos essenciais para se ganhar os combates de uma guerra, este cenrio comea a mudar radicalmente com o desenvolvimento da robtica e das tecnologias de comunicao digitais. Hoje, soldados e pilotos esto deixando o campo de batalha e migrando para as salas de controle, que guardam certa semelhana com seus quartos de adolescentes. Ali reencontram seus computadores, telas e joysticks. Mais do que pilotar avies em videogames e realizar misses virtuais, por que no fazer o mesmo numa rea de conflito real no Afeganisto ou no Iraque? A robtica tambm tem sido usada no Iraque faz alguns anos. O exrcito norte-americano possui uma unidade especial em atividade no Iraque, um time chamado de EOD (Explosive Ordnance Disposal Destruio de Material Explosivo), composta por um soldado que controla um pequeno rob a distncia. Este rob, do tipo PackBot, pesa um pouco mais de um quilo, possui vrias cmaras e sensores, um brao gil com quatro articulaes e se move por meio de esteiras. Segundo o exrcito norte-americano, estas unidades j salvaram milhares de vidas no Iraque. Se hoje as unidades militares robticas por terra e ar j esto salvando vidas, ento por que vamos nos opor ao seu uso? Qual o problema?

O Feio Segundo a lei de Moore, o nmero de transistores em circuitos integrados dobra aproximadamente a cada dois anos, assim podemos esperar mais sofisticao e desenvolvimento tecnolgico pela frente. No caso da robtica, as pesquisas apontam para autonomia ou a capacidade dos robs de tomarem suas prprias decises. Ainda, de acordo Hans Moravec: Por volta de 2050 os crebros dos robs baseados em computadores vo executar 100 trilhes de instrues por segundo e comear a rivalizar com a inteligncia humana. [MORAVEC, 2009]. Imaginar robs que possam pensar e agir como ns no fico cientfica, mas rea em franco desenvolvimento, mais conhecida como Inteligncia Artificial, ou IA. Ento, no futuro prximo, robs inteligentes e autnomos estaro em operao, combatendo ao lado de soldados ou outros robs, matando e sendo mortos (ou desativados.) A lgica da guerra justa divide os princpios do raciocnio sobre a moralidade da guerra em duas categorias: o jus ad bellum, ou, o critrio para iniciar a guerra, e o jus in bello, este relacionado aos requisitos para conduzir uma guerra. Na conduo da guerra, existem dois princpios humanitrios fundamentais: o princpio da discriminao e da proporcionalidade. O princpio da discriminao requer que combatentes no ataquem diretamente no combatentes e que tomem medidas razoveis para evitar casualidades entre no combatentes. Assim, como garantir que este princpio seja respeitado por robs, em especial nos conflitos de hoje, muitos dos quais travados em ambientes urbanos, onde civis e soldados sem uniforme coexistem? J o princpio da proporcionalidade significa determinar os limites mximos do uso da fora que possam ser empregados racionalmente, tendo em vista os objetivos de uma guerra justa. Ao considerarmos um conflito onde de um lado temos seres humanos, os quais podem se ferir ou morrer, e do outro mquinas, que so produzidas em srie e podem ser restauradas aps qualquer avariao, retornando prontamente ao campo de batalha. Estas guerras sero certamente assimtricas. Concluso Vivemos um perodo de nossa histria onde as decises para o desenvolvimento tecnolgico respeitam leis de mercado, isto , interesses econmicos. Existem de um lado clientes, representados pelas foras armadas, e de outro lado fornecedores, representados pela indstria blica. No h evidentemente um pensamento tico e moral norteando o desenvolvimento tecnolgico das armas de guerra. Apesar dos esforos de Max Weber, Hans Jonas e Norbert Wiener, a tica computacional continua sendo nada mais do que uma bela disciplina terica ensinada nas universidades. Talvez ns tenhamos que ouvir justamente de um soldado-rob do futuro, com seu crebro de 100 trilhes de instrues por segundo, que o caminho para superar nossas diferenas polticas ou religiosas o dilogo, a negociao pacfica e no a guerra. Referncias Activision http://www.activision.com/atvihub/home.do
3

Asimo - http://asimo.honda.com/ ASIMOV, I. I, Robot. New York: Spectra, 2004. Computer and Information Ethics. Stanford Encyclopedia of Philosophy. First published Tue Aug 14, 2001; substantive revision Thu Oct 23, 2008. Available at: http://plato.stanford.edu/entries/ethics-computer/ CURRIER, C. Everything We Know So Far About Drone Strikes. ProPublica - Journalism in the Public Interest. Feb. 5, 2013. Available at: http://www.propublica.org/article/everything-we-know-so-far-about-drone-strikes DOWNES, D. Interactive Realism: the poetics of cyberspace. Canada: McGill-Queens University Press, 2005. HALLS, J. S. Beyond AI : creating the conscience of the machine. New York: Prometheus Books, 2007. JONAS, H., Technology and Responsibility: Reflections on the New Tasks of Ethics. Social Research, 40:1, Spring, p.31. 1973. Available at: http://www.conductiveoutfit.com/mta/technologyandmen/readings/Jonas%20- %20Technology%20&%20Responsibility.pdf KELLY, K. What technology wants: Technology is a living force that can expand our individual potential if we listen to what it wants. New York: Penguin Group, 2010. KREPS, S.E. and Kaag, J. The Use of Unmanned Aerial Vehicles in Contemporary Conflict: A Legal and Ethical Analysis. March 15, 2012. Available at SSRN: http://ssrn.com/abstract=2023202 or http://dx.doi.org/10.2139/ssrn.2023202 KURZWEIL, R. The Singularity is Near. New York: Viking Books, 2005. LANIER, J. You are not a Gadget A Manifesto. New York: Penguin Group, 2010. LEMOS, A. Cibercultura: Tecnologia e Vida Social na Cultura Contempornea. Porto Alegre: Editora Sulina, 2010. LVY, P. O que virtual? So Paulo: Editora 34, 1996.MORAVEC, H. Rise of the Robots-- The Future of Artificial Intelligence. Scientific America. March, 23, 2009. Available at: http://www.scientificamerican.com/article.cfm?id=rise-of-the-robots&page=2 OBENHAUS, S. R. A Estrada para Basra e a tica da Perseguio. Military Review. 2002. PARENTE, A. (Org.). Imagem mquina: a era das tecnologias do virtual. Rio de Janeiro: Editora 34, 1993.

RAYNER, A. Are video games just propaganda and training tools for the military? The Guardian, Sunday 18 March 2012. Available at: http://www.guardian.co.uk/technology/2012/mar/18/video-games-propaganda-tools- military SINGER, P. W. The Predator Comes Home: A Primer on Domestic Drones, their Huge Business Opportunities, and their Deep Political, Moral, and Legal Challenges. Brookings. March 8, 2013. Available at: http://www.brookings.edu/research/papers/2013/03/08-drones-singer SMITH, G. Pentagon Cyber Force Turns To Hackers To Meet Growing Demand. Huff Post Tech, January, 2013. Available at: http://www.huffingtonpost.com/2013/01/28/pentagon-cyber-force_n_2567564.html Notas Drones De forma genrica so chamados de UAVs (Unmanned Aerial Vehicles Veculos Areos No Tripulados) ou RPVs (Remotely Piloted Vehicles Veculos Pilotados Remotamente) ou ainda VANTS (Veculos Areos No Tripulados - na sigla em portugus). Prince Harry returns from Afghanistan as he reveals he killed Taliban insurgents http://www.telegraph.co.uk/news/uknews/theroyalfamily/9815438/Prince-Harry- confirms-he-killed-Taliban-as-he-returns-from-Afghanistan-saying-Take-a-life-to-save- a-life.html As Trs Leis da Robtica de Isaac Asimov:

1 Lei: Um rob no pode ferir um ser humano ou, por omisso, permitir que um ser humano sofra algum mal. 2 Lei: Um rob deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei. 3 Lei: Um rob deve proteger sua prpria existncia desde que tal proteo no entre em conflito com a Primeira e/ou a Segunda Lei.