Divulgação
Divulgação

Por que os robôs sempre precisarão de nós

Computadores são formidáveis em seguir instruções, mas são terríveis no quesito improvisação; seus talentos terminam nos limites da sua programação

Nicholas Carr, The New York Times

20 Maio 2015 | 21h02

"Os seres humanos estão envergonhados de terem nascido e não fabricados", escreveu o filósofo Günther Anders em 1956. Nossa vergonha aumentou à medida que nossas máquinas se tornaram mais versáteis.

Diariamente somos lembrados da superioridade dos computadores. Carros que não precisam de motorista não distraem ao volante e nem são agressivos no trânsito. Os trens robóticos não perdem o controle da velocidade. Os algoritmos não sofrem os desvios cognitivos que podem confundir os julgamentos de médicos, contadores e advogados. Os computadores trabalham a uma velocidade e precisão que nos faz parecer indivíduos indolentes e incapazes.

Parece claro: a melhor maneira de acabar com os erros humanos será nos livrarmos dos humanos.

Mas essa hipótese, embora popular, é equivocada. Nosso desejo de nos livrar de nós próprios baseia-se numa falácia. Exageramos as capacidades dos computadores e ao mesmo tempo que não damos a mínima importância aos nossos próprios talentos.


É fácil ver porque. Estamos sempre ouvindo falar de desastres que ocorreram por falhas humanas - a fábrica de produtos químicos que explodiu porque o técnico não abriu a válvula, o avião que caiu porque o piloto manejou mal os manches -, mas ninguém se refere muito a fatos em que o indivíduo usou suas habilidades e conhecimento para evitar acidentes ou diminuir os riscos.

Pilotos, médicos e outros profissionais normalmente enfrentam perigos inesperados com muita segurança, mas pouco crédito. Mesmo nos nossos afazeres quotidianos realizamos façanhas em termos de percepção e habilidade muito além da capacidade dos computadores mais perspicazes. Google é rápido quando se trata de nos informar que seus carros autônomos se envolveram em poucos acidentes, mas não fala das vezes em que o motorista na reserva precisou assumir o volante. Os computadores são formidáveis em seguir instruções, mas são terríveis no quesito improvisação. Seus talentos terminam nos limites da sua programação.

A capacidade humana não tem tais restrições. Lembre-se como o capitão Chesley B. Sullenberger III aterrissou o Airbus A320 no rio Hudson quando o aparelho atingiu um bando de gansos e os motores perderam potência. Nascida da profunda experiência no mundo real, essa perspicácia vai muito além dos cálculos. Se os computadores tivessem a capacidade de se surpreender, seriam surpreendidos por nós.

Enquanto as nossas falhas dominam nossos pensamentos, continuamos considerando os computadores infalíveis. Sua consistência programada é o ideal de perfeição que está muito distante da nossa própria incompetência. O que esquecemos é que essas máquinas são construídas pelas nossas próprias mãos. Quando transferimos o trabalho para uma máquina não eliminamos a intervenção humana e seu potencial de erro. E ela se transfere para os mecanismos da máquina, onde permanece oculta até alguma coisa dar errado.

Os computadores quebram, têm vírus. Podem ser pirateados. E quando à solta no mundo deparam com situações que seus programadores não os prepararam para enfrentar. Eles trabalham perfeitamente até o momento em que deixam de funcionar.

Muitos desastres que ocorrem por erro humano na verdade envolvem uma sequência de eventos que são iniciados ou agravados por falhas tecnológicas. Consideremos a queda em 2009 do avião da Air France que seguia do Rio de Janeiro para Paris. Os sensores de velocidade do avião congelaram. Sem dados sobre a velocidade, o piloto automático não conseguiu realizar seus cálculos e passou abruptamente o controle para os pilotos. Os investigadores do acidente descobriram depois que os pilotos foram pegos de surpresa numa situação de muito nervosismo e cometeram erros. O avião com 228 passageiros caiu no Atlântico.

O acidente foi um exemplo trágico do que os estudiosos chamam de paradoxo da automação. O software projetado para eliminar erros humanos às vezes torna o erro humano mais provável de ocorrer. Quando um computador assume uma tarefa, os trabalhadores ficam com pouca coisa para fazer. Sua atenção é desviada. Suas habilidades, na falta do exercício, atrofiam. E então, quando o computador falha, os humanos se atrapalham.

Em 2013 o Departamento de Aviação Federal dos Estados Unidos observou que o excesso de confiança na automação tornou-se um fator importante contribuindo para os desastres aéreos e insistiu para as empresas aéreas darem mais oportunidades para os pilotos conduzirem o avião manualmente. É a melhor maneira de voar com mais segurança do que já existe, a pesquisa sugere, pode ser transferir parte da responsabilidade para as pessoas. Quando humanos e máquinas trabalham em conjunto, mais automação nem sempre é o melhor.

Estamos juntos, nós e nossos computadores. Mesmo que os engenheiros criem sistemas automatizados que podem enfrentar qualquer contingência - o que não é tão seguro - levará anos até esses sistemas ocuparem plenamente o espaço. No campo da aviação, levará décadas para substituir ou modernizar as milhares de aeronaves em operação, todas projetadas para ter pilotos nos seus cockpits. O mesmo vale para rodovias e ferrovias. A infraestrutura não muda da noite para o dia.

766E3C01-53A8-483E-9B06-CCE0C7108013
Mesmo que os engenheiros criem sistemas automatizados que podem enfrentar qualquer contingência - o que não é tão seguro - levará anos até esses sistemas ocuparem plenamente o espaço
E0EAB005-9061-4B3D-86B9-AEB61693E313

Temos de ver os computadores como parceiros, com habilidades complementares, e não como substitutos. Se nos apressarmos a reduzir nosso envolvimento em trabalhos difíceis, vamos perder a versatilidade e perspicácia que nos diferenciam das máquinas.

O mundo está mais seguro do que nunca, graças à engenhosidade humana, aos avanços técnicos e regulamentos ponderados. Os computadores podem contribuir para esse progresso continuar. Recentes acidentes ferroviários, incluindo o descarrilhamento de um trem da Amtrak este mês, poderiam ter sido evitados se sistemas automatizados de controle de velocidades estivessem em operação. Algoritmos que pressentem quando os condutores estão cansados e soam os alarmes podem prevenir desastres.

O perigo em sonhar com uma sociedade totalmente automatizada é que torna estes modestos avanços menos urgentes e com menos valor de investimento. Porque nos dar ao trabalho de pequenos avanços se a utopia está aí, virando a esquina? / Tradução de Terezinha Martino

 

Mais conteúdo sobre:
new york timesrobôautomação

Encontrou algum erro? Entre em contato

O Estadão deixou de dar suporte ao Internet Explorer 9 ou anterior. Clique aqui e saiba mais.