“O desenvolvimento de uma inteligência artificial completa pode significar o fim da raça humana”, adverte Stephen Hawking. Elon Musk receia que o desenvolvimento da inteligência artificial, ou IA, venha a ser a maior ameaça que a humanidade enfrentará. Bill Gates diz que as pessoas precisam tomar cuidado.
O temor de que as abominações criadas pelos homens se tornem seus senhores não é novo. Mas, na boca de um cosmólogo renomado, de um executivo do Vale do Silício e do fundador da Microsoft – gente que está longe de ser inimiga da tecnologia -, e tendo em vista o investimento enorme em IA que empresas do porte do Google e da Microsoft vêm fazendo, esse medo adquiriu uma dimensão nova. Com supercomputadores nos bolsos de todas as pessoas e robôs dando rasantes sobre campos de batalha, desdenhá-lo como mera ficção científica parece autoengano. A questão é como se preocupar de maneira sensata.
Você me ensinou a falar. O primeiro passo é entender o que os computadores são capazes de fazer hoje e o que provavelmente serão capazes de fazer no futuro. Graças ao aumento na capacidade de processamento e à abundância de dados digitalmente disponíveis, assiste-se a uma forte expansão das possibilidades da IA. Atualmente, os sistemas de “aprendizagem profunda”, que simulam as camadas de neurônios do cérebro humano e processam quantidades gigantescas de dados, aprendem por conta própria a executar algumas tarefas – do reconhecimento de padrões à tradução de textos – quase tão bem quanto uma pessoa. Em razão disso, coisas que antes requeriam a presença de uma mente ativa – desde interpretar figuras a jogar o videogame Frogger – agora estão ao alcance de programas de computador. O algoritmo DeepFace, apresentado pelo Facebook em 2014, reconhece o rosto das pessoas em 97% das vezes.
O fundamental é que se trata de uma habilidade limitada e específica. O que garante a aparência de inteligência da IA nos hoje é a força bruta do processamento de dados, não havendo, por ora, possibilidade de que imitem o modo como a mente dota os seres humanos de autonomia, interesses e desejos. Os computadores ainda não dispõem de nada que se aproxime da capacidade mais abrangente e fluida que permite fazer inferências, proferir julgamentos e tomar decisões.
No entanto, a AI já é suficientemente poderosa para fazer uma diferença drástica na vida dos homens. Ela já pode ampliar o alcance das iniciativas humanas complementando o que as pessoas são capazes de fazer. Basta pensar no xadrez – hoje, os computadores são melhores do que qualquer ser humano. Acontece que os melhores enxadristas do mundo não são máquinas, mas aquilo que o grande mestre Garry Kasparov chama de “centauros”: amálgamas de seres humanos e algoritmos.
Essas combinações serão a regra em todo tipo de atividade: apoiados por recursos de IA, os médicos ampliarão muito sua capacidade de identificar tumores cancerígenos em exames de imagem; algoritmos de reconhecimento de voz instalados em smartphones tornarão a internet acessível a analfabetos em países em desenvolvimento; assistentes digitais proporão hipóteses para pesquisas acadêmicas; algoritmos de classificação de imagens permitirão que computadores usados no corpo acrescentem informações úteis ao que as pessoas veem no mundo real.
Mesmo no curto prazo, porém, nem todas as consequências serão positivas. Considere-se, por exemplo, o poder que a IA oferece aos órgãos estatais de segurança, tanto em regimes autocráticos quanto em democracias. A capacidade de monitorar bilhões de conversas e identificar, pela voz ou pelo rosto, uma pessoa no meio de uma multidão representa uma grave ameaça à liberdade.
E mesmo onde os ganhos para a sociedade são grandes, muitos indivíduos serão prejudicados pela IA. Os primeiros “computadores” eram verdadeiros carregadores de piano, com frequência mulheres, encarregados de executar um sem fim de cálculos para seus superiores. Os transistores tomaram seus lugares. Do mesmo modo, a IA provavelmente colocará no olho da rua enormes contingentes de funcionários que hoje executam atividades administrativas. A solução será recorrer a mais educação e capacitação. Além disso, a riqueza produzida com a ajuda da IA será gasta em novas iniciativas que gerarão novos empregos. Mas os trabalhadores têm de se preparar para um período de incertezas.
Acontece que não é com vigilância e desestruturação que Hawking, Musk e Gates estão preocupados. Também não é o que inspira uma série de filmes futurísticos sobre IA. A preocupação diz respeito a algo muito mais distante e apocalíptico: a ameaça representada por máquinas autônomas, dotadas de capacidade cognitiva sobre-humana e interesses que conflitam com os do Homo sapiens.
Essas criaturas dotadas de inteligência artificial ainda estão a anos-luz de virar realidade. A bem da verdade, talvez nunca venham a existir. Depois de um século vasculhando e revirando o cérebro, ainda falta muito para que psicólogos, neurologistas, sociólogos e filósofos entendam como se cria uma mente .
E as razões comerciais que justificariam a criação de uma inteligência limitada – o tipo que tem interesses e autonomia – não estão claras. Um carro que pilota a si próprio e o faz melhor que seu dono parece uma boa coisa; um carro que tem ideias próprias sobre aonde ir, já não parece tão interessante.
…E eu sei xingar
Mas mesmo que aquilo que Hawking chama de uma IA “completa” ainda esteja distante, é prudente que as sociedades planejem como lidar com essa realidade. Isso é mais fácil do que parece. Afinal, faz um bom tempo que os homens criam entidades autônomas dotadas de habilidades sobre-humanas e interesses diferenciados. Burocracias governamentais, mercados, exércitos: todas essas instituições são capazes de fazer coisas que estão fora do alcance para homens desassistidos e desorganizados. Todas precisam de autonomia para funcionar, podem adquirir vida própria e causar danos enormes se não estiverem organizadas de forma justa e não forem submetidas a leis e regulamentos.
Tais paralelos devem reconfortar quem esteja assustado; também sugerem maneiras concretas para que as sociedades desenvolvam a IA. Assim como as forças armadas precisam ter um tipo de controle civil, os mercados devem seguir regras estabelecidas e as burocracias serem transparentes, também os sistemas de IA devem estar abertos a algum tipo de escrutínio. Como os programadores não têm como prever toda e qualquer circunstância, também é preciso haver uma maneira de desligar as máquinas. São restrições que podem ser adotadas sem comprometer o avanço tecnológico. Das bombas nucleares às regras de trânsito, a humanidade vem recorrendo a engenhosidades técnicas para manter outras inovações poderosas sob controle.
O medo de que os homens venham a criar uma inteligência não humana autônoma é tão grande que corre o risco de obscurecer o debate. Sim, há perigos. Mas eles não devem ser mais fortes do que os enormes benefícios trazidos pelo alvorecer da inteligência artificial.
***
O artigo original, em inglês, pode ser encontrado em www.theeconomist.com