A inteligência artificial chegou. Os computadores são hoje perspicazes e precisos. Eles podem medir o ambiente, resolver problemas complicados, fazer julgamentos sutis e aprender com a experiência. Eles não pensam como nós, mas podem reproduzir muitos de nossos talentos intelectuais. Deslumbrados com nossas máquinas, nós damos a elas todo tipo de tarefas sofisticadas que antes costumávamos fazer sozinhos.
Nossa crescente dependência da automação e computadores, porém, pode ter um custo elevado. Evidências preocupantes sugerem que nossa inteligência está se retraindo à medida que nos tornamos mais dependentes da inteligência artificial. Em vez de nos elevar, parece que o software inteligente nos emburrece.
A primeira leva de automação aconteceu nos EUA depois da Segunda Guerra Mundial, quando os fabricantes começaram a instalar equipamentos controlados eletronicamente em suas fábricas. As novas máquinas tornaram a indústria mais eficiente e as empresas mais lucrativas. Elas dariam aos trabalhadores funções mais revigorantes e valorizariam seus talentos. A nova tecnologia seria enobrecedora.
Entretanto, nos anos 50, James Bright, professor da Faculdade de Administração da Universidade Havard, estudou os efeitos reais da automação e descobriu que as novas máquinas estavam deixando os trabalhadores com funções mais monótonas e menos exigentes. Uma máquina de tecelagem, por exemplo, não transformava o trabalhador em um artesão mais criativo, mas em um apertador de botões.
Bright concluiu que a automação estava tirando habilidades do trabalhador, não tornando-o mais hábil. “A lição deveria ser cada vez mais clara”, escreveu ele em 1966. “Equipamentos altamente complexos” não precisam de “operadores habilidosos. A ‘habilidade’ pode ser embutida na máquina”.
Hoje, estamos aprendendo essa lição em escala mais ampla. À medida que programas de computador se tornam capazes de analisar e tomar decisões, a automação saiu das fábricas para o mundo executivo. Os computadores estão assumindo tipos de trabalho intelectual considerados um privilégio de profissionais bem educados e treinados: pilotos dependem de computadores para operar um avião; médicos consultam computadores para diagnosticar doenças; arquitetos os usam para projetar prédios. A nova onda da automação está atingindo todo mundo.
“Direcionados pela tela”
Os computadores não estão acabando com todos os trabalhos feitos por pessoas talentosas, mas estão mudando a forma como eles são realizados. E evidências mostram que o mesmo efeito negativo que reduziu os talentos nas fábricas no século passado está começando a atingir as habilidades dos profissionais, mesmo os mais especializados. Os operadores de máquinas de ontem são os operadores de computadores de hoje.
Veja o caso dos pilotos automáticos, inventados há um século para dar mais segurança e eficiência às viagens aéreas. Hoje, a quantidade de tarefas na cabine que foram transferidas para dispositivos computadorizados é tão grande, dizem especialistas, que os pilotos estão perdendo suas habilidades.
O pesquisador britânico da aviação Matthew Ebbatson conduziu, em 2007, um experimento com um grupo de pilotos aéreos enquanto preparava seu doutorado na Faculdade de Engenharia da Universidade de Cranfield. Eles tiveram que fazer uma manobra complicada em um jato avariado num simulador de voo enquanto Ebbatson media indicadores sutis de suas habilidades, como a precisão com que mantinham a velocidade do avião. Quando ele comparou as leituras dos simuladores com os registros de voos reais dos pilotos, encontrou relações entre a destreza dos pilotos nos controles e a quantidade de tempo em que haviam voado recentemente com controles manuais. “As habilidades de voo caem rapidamente em direção ao limite do desempenho ‘tolerável’ sem prática frequente”, concluiu Ebbatson. Mas os computadores agora realizam a maioria das operações entre a decolagem e a aterrissagem – então “prática frequente” é exatamente o que os pilotos não têm.
No ano passado, um relatório de uma força-tarefa da FAA, a Agência de Aviação Federal dos Estados Unidos, sobre tecnologia da cabine do piloto encontrou uma ligação crescente entre acidentes aéreos e o excesso de dependência da automação. A agência reguladora agora exige que as companhias aéreas façam com que os pilotos passem mais tempo voando manualmente.
À medida que o software melhora, diminui a probabilidade que os usuários agucem suas próprias habilidades. Aplicativos que oferecem muitas orientações e dicas são os culpados; programas mais simples e menos solícitos pressionam mais as pessoas a pensar, agir e aprender.
O filósofo Hubert Dreyfus, da Universidade da Califórnia em Berkeley, escreveu, em 2002, que a perícia humana se desenvolve através da “experiência numa variedade de situações, todas vistas sob a mesma perspectiva, mas que exigem decisões táticas diferentes”. Em outras palavras, nossas habilidades só melhoram através da prática, quando as usamos regularmente para superar diferentes tipos de desafios difíceis.
Já o objetivo do software moderno é facilitar a solução de tais desafios. E a automação continua a crescer. Os médicos de hoje dependem cada vez mais de planilhas de computador para guiá-los através dos exames dos pacientes. Os programas incorporam listas de checagem valiosas e alertas importantes, mas também tornam a medicina mais sequencial e estereotipada – e distanciam médicos de seus pacientes.
Beth Low, professora da faculdade de Medicina da Universidade Harvard, alertou, num artigo de 2012 escrito com seu aluno Dayron Rodriquez, que quando médicos se tornam “direcionados pela tela”, seguindo instruções do computador em vez da narrativa dos pacientes, suas reflexões podem se estreitar. No pior cenário, eles podem não ver sinais importantes do diagnóstico.
Subservientes à máquina
O risco não é apenas teórico. Em artigo recente publicado na revista Diagnosis, três pesquisadores médicos – incluindo Hardeep Singh, diretor de políticas de saúde, qualidade e programas de informática do Centro Médico dos Veteranos em Houston – examinou o erro de diagnose de Thomas Eric Duncan, a primeira pessoa a morrer de ebola nos EUA.
O artigo argumenta que as planilhas digitais usadas pelos médicos para registrar as informações do paciente provavelmente ajudaram a induzir uma visão afunilada. “Essas ferramentas altamente restritivas”, escreveram os pesquisadores, “são otimizadas para a captação de dados, mas às custas do sacrifício de sua utilidade para uma triagem apropriada e o diagnóstico, o que leva seus usuários a ver as árvores, e não a floresta”. O software médico, escreveram eles, não é um “substituto para o levantamento de um histórico básico [do paciente], para as habilidades de examinar ou para a reflexão crítica”.
Mas a automação não precisa eliminar os desafios de nosso trabalho e reduzir nossas habilidades. Essas perdas vêm do que os ergonomistas e acadêmicos chamam de “automação centrada na tecnologia”, uma filosofia que dominou o pensamento dos programadores e engenheiros.
Em uma “automação centrada no ser humano”, os talentos das pessoas têm prioridade. Os sistemas são criados para manter o operador humano no que os engenheiros chamam de “ciclo de decisão” – o processo contínuo de ação, feedback e formulação de juízo. Isso mantém os trabalhadores atentos e comprometidos, promovendo o tipo de desafio prático que fortalece as habilidades. Nesse modelo, o software ainda tem um papel essencial, porém secundário.
Se confiarmos demais na automação, vamos nos tornar menos capazes e mais subservientes às nossas máquinas. Vamos criar um mundo mais apropriado para robôs do que para nós.
******
Nicholas Carr é autor do livro A geração superficial: o que a internet está fazendo com os nossos cérebros (Editora Agir)