A Culpabilidade de Robôs

A Culpabilidade de Robôs

TER, 01 DE DEZEMBRO DE 2009 08:03 IN

1 de dezembro de 2009 - Tendo sido utilizados em aplicações industriais desde os anos 1960’s, foi somente na década de 1980 que surgiram os primeiros robôs de uso não-industrial, sobretudo em aplicações nas quais a tarefa correspondente não poderia ser executada manualmente em razão de ser inaceitável ou demasiado perigosa para um ser humano executá-la, ou até mesmo porque a precisão e/ou a força exigida não poderia ser alcançada manualmente.

São os chamados robôs de serviço, que hoje já são utlilizados em serviços pessoais e tarefas domésticas tais como controlar um aspirador de pó ou um cortador de grama. Alguns avanços tecnológicos têm deixado bem claro que seu potencial de aplicabilidade nessas áreas é de fato inesgotável. Segundo Paul Saffo (professor da Stanford University, futurista, e jornalista de tecnologia), nos últimos dez anos tem ocorrido uma importante mudança tecnológica, crucial à robótica, no desenvolvimento de dispositivos sensores de baixo custo. Trata-se de sensores que são capazes de tirar proveito do poder computacional do chip e viabilizar melhoras significativas nos elementos de sensoriamento, movimento e locomoção.

A sofisticação de sensores leva ao que poderíamos chamar de robôs genuínos, capazes de servir em áreas como terapia física ou psicológica, educação, cuidados ao idoso, exploração, negociação de reféns, resgate, entretenimento, e segurança residencial. Muito provavelmente a população que hoje está mais próxima de se beneficiar desses robôs de serviços pessoais são os idosos ou deficientes que precisam de assistência em domicílio, além dos casos já concretos de aplicação na assistência a crianças com autismo.

Não obstante o ar futurista que tudo isso invoca, o fato é que, antes restritos a fábricas e ao domínio da ficção científica, robôs estão cada vez mais entrando no cotidiano das pessoas. Além dos avanços na tecnologia de sensores, as descobertas na área do raciocínio automatizado e tomada de decisão têm se traduzido em funcionalidades e autonomia cada vez mais amplas. Há um sentimento geral de que no momento o mercado da robótica pessoal se parece com o mercado do computador pessoal nos anos 1970’s: muitas empresas de pequeno porte com maior expertise em pesquisa e desenvolvimento do que em marketing estão tentando criar um produto para o qual outros desenvolverão aplicações. E, tal qual ocorreu com PC’s, muitas aplicações deverão surgir a partir da criatividade e da engenhosidade do usuário. Especificações proprietárias estão aos poucos cedendo lugar a soluções padronizadas, especialmente na parte alta do mercado onde o robô terá um computador completo seja a bordo ou conectado via 3G a um PC ou a um servidor de computação nas nuvens.

Conforme um relatório recente da ABI Research intitulado “Personal Robotics 2009: Task, Security & Surveillance/Telepresence, Entertainment and Education Robot, and Robotic Components Markets Through 2015”, o mercado global de robôs pessoais deverá crescer de menos de 9 milhões de unidades perfazendo um montante de US$1,28 bilhões em 2009, para mais de 25 milhões de unidades totalizando cerca de US$5,26 bilhões a serem entregues em 2015. Ainda segundo o estudo, o maior mercado para os robôs pessoais é a América do Norte, ficando a região da Ásia-Pacífico em segundo lugar, em grande medida devido ao Japão, onde a cultura é extremamente receptiva a robôs.

Além dos benefícios que traz, o robô de serviço pessoal introduz novos riscos à segurança e à privacidade do cidadão, além de suscitar questões legais inusitadas que vão além do campo da lesão corporal e dos danos à propriedade, passando inclusive pelo terreno das leis civis e criminais.

No campo de batalha, quem deveria ser responsabilizado no caso de uma arma controlada por um robô vir a matar um civil? A quem cabe a culpa se um desses carros controlados por robôs se atirar contra um grupo de pedestres? No caso de um robô programado para auxiliar um idoso nas tarefas de higiene pessoal provocar sua morte afogando-o na banheira, quem deveria ser processado? Em painel realizado em 12/11/09 na Faculdade de Direito da Stanford University intitulado “Legal Challenges in an Age of Robotics” (“Desafios Legais numa Era de Robótica”), especialistas se reuniram para discutir os novos desafios que estarão postos à medida em que a disponibilidade de robôs sofisticados alcance níveis verdadeiramente amplos.

Em matéria no seu blog intitulada “Robotics & The Law: Liability for Personal Robots” (“Robótica e A Lei: Culpabilidade para Robôs Pessoais”, 25/11/09), Ryan Calo, um dos idealizadores e também organizador do encontro procura esclarecer sua posição no que tange à imunidade dos fabricantes de robôs. Em coberturas jornalísticas sobre o evento, Calo havia declarado que “na ausência de uma boa reflexão sobre a questão da culpabilidade, teremos casos de grande repercussão que moverão o público contra os robôs ou esfriarão a inovação [na tecnologia de robôs] e tornarão menos provável que engenheiros entrem na área e menos provável que o capital venha a fluir no setor.” Entendendo que pode ter sido mal interpretado no sentido que estaria advogando que os fabricantes de robôs pessoais deveriam gozar de total imunidade pelos robôs que constroem e vendem, simplesmente porque do contrário esfriar-se-ia a inovação, Calo afirma que os fabricantes deveriam sim ser imunes de certas teorias de culpabilidade civil – particularmente aquelas baseadas no escopo da funcionalidade de um robô. Embora não acredite que a lei deva impedir a responsabilização dos “roboticistas” em todos os casos, sua convicção reside na necessidade urgente de se trazer essas questões à tona para a devida reflexão, pois do contrário estaremos ignorando avanços tecnológicos em escala global que têm potencial para melhorar significativamente a qualidade de vida do cidadão.

Todavia, enquanto dispositivo eletrônico dotado de software, é de se esperar que um robô esteja suscetível a falhas e vulnerabilidades, por maior que tenha sido o controle de qualidade de sua fabricação. Com toda a sofisticação tecnológica que se espera, a indústria de robôs pessoais de um modo geral prima por uma abordagem “centrada no ser humano”, o que significa a busca por sensores, motores e material que diminuam o risco de lesão ativa ou passiva. Porém é inevitável que alguém ou alguma propriedade sofrerá algum tipo de dano ou lesão, seja por erros no desenho do equipamento, ou mesmo devido a negligência ou má intenção de quem detém o controle do robô. E a culpabilidade do robô tende a ser um caso difícil de lidar, não apenas pela complexidade do personagem em si, mas pela tendência de simpatia ao(s) lesionado(s), que com boas chances virão do grupo dos desprivilegiados (idosos ou carentes de cuidados específicos). Em aplicações militares já existe a imunidade para o fabricante, porém o mesmo não ocorre no universo doméstico. Por outro lado, não parece razoável seguir os mesmos princípios da imunidade ao fabricante de software para PC’s, que o isenta de responsabilidade pelos eventuais danos decorrentes de erros e vulnerabilidades em seus produtos. Como diz Calo, uma coisa é não ser capaz de processar a Microsoft pelo fato de o Word ou o Windows ter dado um erro e termos perdido um documento; outra coisa é não poder processar um fabricante de robô cujo produto bateu contra um objeto ou uma pessoa.

O desafio está posto. Como preservar os incentivos não apenas para o desenvolvimento da tecnologia dos robôs, mas para que esses produtos sejam tão versáteis e seguros quanto possível?

(Ruy José Guerra Barretto de Queiroz, Professor Associado, Centro de Informática da UFPE)

Investimentos e Notícias (São Paulo), 01/12/2009, 08:03hs, http://www.investimentosenoticias.com.br/ultimas-noticias/artigos-especiais/a-culpabilidade-de-robos.html