Treze anos atrás, o cientista da computação Jaron Lanier publicou na revista digital Edge.org o artigo “One half of a manifesto” (Um manifesto pela metade). O texto procura definir e fazer uma crítica ao que o autor chama de totalitarismo cibernético, ou seja, a visão de mundo que coloca em seu centro o computador e que não raro desemboca no cenário escatológico em que a inteligência das máquinas alcança e supera a dos seres humanos.
Lanier esquematiza o totalitarismo cibernético em seis crenças interligadas: 1) os modelos cibernéticos de informação fornecem a maneira definitiva de compreender a realidade; 2) as pessoas não são nada além de modelos cibernéticos; 3) a experiência subjetiva ou não existe, ou é irrelevante por ser uma espécie de efeito ambiental ou periférico; 4) o que Darwin descreve na biologia também se aplica à criatividade e à cultura como um todo (“memes” et cetera); 5) os aspectos qualitativos e quantitativos dos sistemas de informação serão acelerados pela Lei de Moore (que prevê o crescimento exponencial da velocidade do hardware dos computadores) e, finalmente; 6) a biologia e a física se fundirão às ciências da computação, eliminando qualquer diferença entre seres vivos e máquinas.
Mas seu argumento mais importante, a meu ver, é o de que a concepção dominante de inteligência artificial está baseada num equívoco intelectual. O famoso teste de Turing propõe que a máquina atingirá o status intelectual de um ser humano quando um juiz humano não souber distinguir entre as respostas de um e outro. O resultado indicaria que a máquina ficou mais inteligente e mais humana. Mas poucos consideram a possibilidade contrária: de que os seres humanos envolvidos ficaram menos inteligentes e menos humanos.
No mundo digital, quando se fala na inteligência de um sistema ou aplicativo, é possível que estejamos falando do emburrecimento do usuário. É interessante pensarmos nisso ao usarmos nossos apps e gadgets. Exemplo: tendo a achar quase todos os algoritmos de recomendações de consumo burros e inadequados. Quase nada que Amazon, Netflix, Google, Kobo et cetera me sugerem fecha com meu gosto ou me instiga, por mais que eles garimpem meus hábitos de navegação e consumo. Se me rendo à conveniência dessas funções e acredito que as escolhas matemáticas do software devem ser necessariamente melhores que minhas próprias, por mais intuitivas, caprichosas e inseguras que sejam, estou sujeitando meu juízo humano ao computador. O contexto aqui é frívolo, mas o mesmo vale para o software que rege planos de saúde, perfis de crédito et cetera. Aí a coisa fica bem mais séria.
Tecnologia inteligente
O manifesto de Lanier é ainda mais relevante hoje do que na época em que foi escrito. Ao mesmo tempo que teorias computacionais da vida e da consciência ganham contrapontos (um dos meus exemplos favoritos é o filósofo Alva Noë), muitas pessoas já se sentem desconfortáveis com alguns efeitos que acompanham a revolução digital: vigilância, quantificação constante da experiência cotidiana, sensação de falta de tempo e de atividade ininterrupta.
Um dos melhores livros que li a esse respeito é 24/7 – Late capitalism and the end of sleep (24/7 – Capitalismo tardio e o fim do sono), de Jonathan Crary, que a Cosac Naify publicará no Brasil em 2014. É um texto pessimista e hiperbólico (me transportou de volta à faculdade e às leituras de teoria crítica e Paul Virilio) que, não obstante, agarra o leitor por sua perspicácia. Crary descreve “a vida pessoal e social reconfigurada para se sujeitar à operação ininterrupta dos mercados, redes de informação e outros sistemas”. No mundo desenhado por ele, o tempo se tornou obsoleto e não há recanto da experiência humana que não seja quantificável e exposto à luz. Um mundo sem descanso e sem mistérios, onde só se admite a existência daquilo que é útil, acessível e está disponível imediatamente.
Em tal mundo, diz o autor, o sono é a último espaço de resistência. A necessidade do sono não nos deixa perder de vista a natureza cíclica e frágil dos seres vivos dentro de uma sociedade que nos exige, cada vez mais, que estejamos sempre ligados, operantes, úteis, ativos na construção de nossas identidades nos parâmetros do mercado, da moda e das redes sociais. O sono abala a ideologia de que somos computadores. As tentativas de colonizar esse reduto se dão através de tecnologias que buscam encurtar (ou mesmo eliminar) nosso tempo de sono ou invadi-lo para otimizar a saúde, a mente e a produtividade.
O melhor a se tirar de autores como Lanier e Crary não é a vilanização da tecnologia, mas a importância de batalharmos ativamente por uma tecnologia verdadeiramente inteligente, que nos deixa no controle e enriquece nossa vida em vez de nos empurrar para o terreno homogêneo de uma hiperatividade sem trégua.
******
Daniel Galera é colunista do Globo