(Foto: O dilema das Redes/Reprodução)
O título original do documentário O Dilema das Redes é “The Social Dilemma” e retrata mais adequadamente o que é narrado na produção. Esse dilema envolve a tensão entre os benefícios que as interações sociais digitais promovem, como a maior ampliação das possibilidades de comunicação e distribuição de informações, e os diversos problemas morais, sociais e políticos envolvidos nessas interações. Entre tais problemas, podemos citar as questões de privacidade e acesso aos dados dos usuários, as questões de estímulo psicológico ao engajamento e à conexão constante, as possibilidades de manipulação e persuasão, que implicam em questões ligadas ao domínio e ação da inteligência artificial e do big data (massa de dados dos usuários), além das possibilidades de poluição do sistema informacional. Essas entre outras questões são discutidas nos estudos sobre ética da informação, ou infoética, uma área da filosofia cada vez mais presente nas discussões contemporâneas.
O Dilema das Redes foi produzido pelo Center for Human Technology, instituição voltada para o desenvolvimento de soluções para os desafios sociais e políticos da tecnologia, e aborda várias dessas questões de forma elucidativa e informada. Para alguns críticos o tom do documentário é excessivamente alarmista, no entanto, devido à urgência das questões envolvidas, trata-se de uma abordagem que busca chamar a atenção do público. O documentário é composto por entrevistas com profissionais que atuaram na indústria das mídias digitais e que hoje ocupam outras áreas. Seus talentos ajudaram a construir as tecnologias envolvidas nas mídias digitais e eles reconhecem que raramente pensaram no alcance e nas consequências das plataformas que ajudaram a criar. Tristan Harris, especialista em engenharia e design ético que atuou no Google durante alguns anos é o protagonista, tanto devido à sua área de trabalho, quanto pelas iniciativas de discussão e análise sobre o alcance das tecnologias em nossas vidas. Harris é um dos fundadores do Center for Human Technology e apresenta as diversas questões abordadas no documentário. Um dos seus argumentos principais defende que as empresas e os especialistas em interação digital conhecem o funcionamento da psicologia humana a fundo (a “natureza humana”, segundo Harris), o que lhes permite o desenvolvimento de tecnologias extremamente sofisticadas para a captura e estímulo constante de nossa atenção, criando um laço cada vez mais forte entre as plataformas e os usuários.
O documentário também trata das estratégias de monetização das plataformas digitais, cujo objetivo é manter os usuários cada vez mais conectados e engajados através do mapeamento de seus dados e perfis, naquilo que Shoshana Zuboff, uma das entrevistadas do documentário, identifica como “capitalismo de vigilância”. Essa estratégia envolve questões pouco discutidas sobre a privacidade e a análise dos dados usuários, que disponibilizam suas informações nas plataformas para poder utilizá-las. De posse desses dados, é possível elaborar estratégias de envolvimento cada vez mais eficazes. Trata-se de uma estratégia identificada por Zuboff como uma “negociação do futuro do ser humano”, uma vez que o mapeamento dos dados permite um conhecimento aprofundado dos usuários, inclusive com a possibilidade de manipulação e persuasão. Além do desenho voltado para estimulação constante e das estratégias de monetização questionáveis, as plataformas das mídias sociais também são construídas com base no envolvimento social e emocional dos usuários, explorando a tendência natural da humanidade de buscar contato e validação social. Essa possibilidade faz com que os usuários se envolvam cada vez mais em experiências interativas, com forte impacto na estima e na identidade, seja através das “curtidas”, seja através da busca por mais e mais novidades plataformas e aplicativos, que acabam por ser altamente viciantes. Segundo Jaron Lanier, especialista em tecnologias também entrevistado na produção, trata-se de uma “exploração das vulnerabilidades psicológicas dos seres humanos”, estrategicamente desenhada para a intensificação da experiência.
Essa exploração está diretamente conectada com a “personalização da experiência” nas plataformas de mídias digitais, que oferecem aos usuários conteúdos que atendem às suas preferências e gostos. A utilização de complexos algoritmos matemáticos, capazes de mapear os diversos pontos de informação oferecidos previamente pelos usuários, possibilita um enquadramento específico dos conteúdos, buscando manter os usuários cada vez mais engajados e envolvidos. Para isso, são utilizados a análise de dados e o direcionamento de informações, “conforme o gosto do freguês”, através de processos de inteligência artificial que “aprendem” a partir das experiências de utilização dos usuários. Na análise da pesquisadora Cathy O’Neil, que também é entrevistada no documentário, tais ferramentas são “armas de destruição matemática”, devido ao seu grande potencial de influência na vida e na ação das pessoas, estimulando comportamentos e direcionado ações. Um efeito colateral dessa personalização da experiência é a “ilusão de consenso” e a “formação de bolhas”, nas quais os usuários se mantém próximos apenas aos seus gostos e interesses, numa situação que reforça suas crenças e abre espaço para a poluição do ecossistema informacional. Formas variadas de desordem informacional, como negacionismos científicos e históricos, desestabilização dos debates públicos e polarizações sociais e políticas são comuns nas redes sociais, e são estimuladas por interesses políticos e econômicos. O documentário apresenta a situação de alguns países onde as redes sociais tiveram um papel de destaque na produção de crises e instabilidades sociais e políticas recentes, como no caso de Estados Unidos, Brasil, Índia, Hungria, Polônia, Turquia, Indonésia, entre outros, onde formas diversas de extremismos foram cultivadas nas redes e violentamente expostas nas ruas.
O documentário também apresenta algumas dramatizações da vida cotidiana, com o objetivo de exemplificar como se dão os processos e as estratégias de engajamento nas plataformas, juntamente com os efeitos das interações sociais digitais constantes. Mais uma vez o dilema aparece: jovens e adultos conectados a todo momento, com cada vez mais dificuldades de interação social e sendo amplamente influenciados pelas plataformas a partir de análise dos nossos dados, inclusive com situações extremas ligadas à diminuição do vínculo e da confiança entre os envolvidos e na sociedade em que vivem. Questionados sobre as possíveis respostas e soluções para esse dilema, os profissionais e estudiosos demonstram alguma perplexidade, mas apresentam algumas possibilidades para enfrentar as tensões, principalmente em relação à questão da desumanização e das implicações sociais e políticas. Nessa mistura de “utopia e distopia” das redes sociais, apontam a necessidade de regulamentação das atividades e responsabilização das plataformas, juntamente com a crítica e a revisão do modelo de negócios pautado na monetização e no engajamento. No entanto, os resultados atuais das tentativas envolvendo tais possibilidades não têm sido promissores. Também ficam em aberto questões sobre a natureza da denúncia. Os profissionais envolvidos na construção das ferramentas e das tecnologias conheciam as finalidades de seu trabalho? Por que tudo isso não foi abordado antes? Por que somente agora tais profissionais seguem numa cruzada para a “humanização da tecnologia”? Ingenuidade ou má-fé?
Uma outra questão mais ampla também se apresenta: é tudo culpa das redes sociais e suas plataformas? Num mundo pretensamente globalizado, no qual muitas pessoas não usufruem dos benefícios dos processos sociais, produtivos e econômicos, mas são paralelamente estimuladas por ideais de realização humana pautados em liberdade, consumo e na ausência de reflexão, as redes sociais parecem apenas trazer a mensagem de insatisfação e inadequação de muitas pessoas. Devidamente influenciadas, para usar um termo caro à dinâmica das redes, a partir da virtualidade e da experiência seletiva das relações sociais digitais, o ressentimento cresce nas sociedades contemporâneas. As propostas políticas que captam essas tensões acabam por capitalizar e por estimular ainda mais as emoções disruptivas, angariando poder para posicionamentos populistas e extremistas, mas que não abordam os problemas estruturais de um mundo que vive “um estranho agora”. É provável que as redes sociais e suas ferramentas para a exploração constante de nossas fragilidades emocionais e cognitivas sejam apenas um mensageiro tecnológico de uma mensagem que envolve muitos outros dilemas acerca do modo como vivemos. O fato de cada um de nós dispor de um potente computador no bolso, que nos conecta e oferece grandes quantidades de informação poderia nos emancipar e ajudar-nos a viver melhor. O Dilema das Redes mostra que não é esse o caso.
___
Referências
O Dilema das Redes. Direção de Jeff Orlowski. Netflix. 89 minutos. 2020.
LANIER, Jaron. You are not a gadget: A manifesto. Nova York: Vintage, 2010.
O’NEIL, Cathy. Weapons of math destruction: How big data increases inequality and threatens democracy. Nova York: Broadway Books, 2016.
ZUBOFF, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Nova York: Public Affairs, 2019.
***
José Costa Júnior é professor de Filosofia e Ciências Sociais – IFMG Campus Ponte Nova.