Como numa receita, os algoritmos mostram o passo a passo de como uma tarefa é executada, seja no Facebook, no Google ou em qualquer outra rede social ou site de buscas. São eles que explicam por que certos anúncios são recomendados para um internauta, que resultados deverão aparecer quando uma busca é feita por ele, que notícias serão sugeridas e como se darão suas interações on-line. Compreender como esses ingredientes afetam cada um – inclusive em termos éticos – é o que a pesquisadora Karrie Karahalios, da Universidade de Illinois, entende como um direito legítimo.
Ao lado dos colegas Cedric Langbort, também de Illinois, e Christian Sandvig, da Universidade de Michigan, Karrie desenvolveu um aplicativo, o Feedvis, para mostrar o que o algoritmo do Facebook esconde a cada atualização de página: comentários, posts e likes de amigos. Construído a partir da API (Interface de Programação de Aplicativos) da rede social, o app dispõe as mensagens que um usuário vê normalmente em seu feed de notícias (e, portanto, com curadoria do algoritmo) lado a lado a todos os posts que seus amigos têm feito. Assim, o software permite tirar do limbo pessoas próximas cujos posts não estão sendo exibidos na linha do tempo.
Mais do que postagens escondidas, o app, ainda não lançado publicamente, revelou a discrepância entre a popularidade da criação de Mark Zuckerberg e o que a maioria dos usuários sabe sobre ela: 62,5% dos voluntários da pesquisa não tinham sequer conhecimento da filtragem do conteúdo que aparecia em seus perfis.
Para resolver esse paradoxo, Karrie e seus colegas defendem o que chamam de auditoria colaborativa. Por meio da experiência on-line, usuários compartilham impressões e hipóteses até descobrirem regras básicas que regem esses sistemas. “Não se trata de ativismo, mas de fazer perguntas, expressar sua opinião e fazer a diferença”, afirma.
Por que a escolha do Facebook como objeto de estudo?
Karrie Karahalios – Muitas pessoas usam o Facebook hoje e fazem especulações sobre ele. O que descobrimos no estudo é que muitas dessas hipóteses não estão corretas. Uma das principais afirmações era que não havia sequer uma filtragem. Outras falavam sobre atividades fora do Facebook, mas, uma vez que não sabemos o algoritmo real por trás de filtragem do Facebook, só podemos especular que algumas das teorias são falsas.
Quais regras básicas do algoritmo do Facebook a pesquisa revelou?
K.K. – As percepções das pessoas sobre as regras foram que comentários são mais importantes do que curtidas e que escrever na timeline de alguém faz com que os posts dessa pessoa apareçam mais. Algumas vezes, as pessoas perceberam que, ao ler páginas de política na web, o Facebook postou mais notícias sobre o assunto, por exemplo. Mas, para além da pesquisa, as pessoas começaram a fazer especulações realistas e inteligentes desde então. Começaram a curtir postagens ou a não curtir nada para ver o resultado disso. Antes, sequer sabiam sobre a existência de um algoritmo. Portanto, trata-se de fazer perguntas e expressar a sua opinião. Queremos que as pessoas falem sobre suas experiências. Não estou falando de ativismo propriamente dito, mas queremos que todos se expressem e que possam fazer diferença.
Você acha que a curadoria desses algoritmos afeta mais as pessoas nas redes sociais do que em outras plataformas, como sites de busca?
K.K. – Afeta as pessoas de diferentes formas. Por exemplo, empresas estão usando algoritmos para priorizar e-mails. Se um algoritmo faz isso, ele se torna uma ferramenta poderosa ao pôr no topo algo que é importante para você e ajuda a organizar suas informações. Se costumo receber muito spam, ou mensagens que posso responder em dois ou quatro dias em vez de convocações para reuniões que acontecerão em poucos minutos, o algoritmo vai me ajudar a trabalhar melhor. Por isso, se compararmos as redes sociais com buscadores, eu diria que em termos de encontrar coisas fundamentais os algoritmos podem ser fantásticos, desde que as pessoas entendam como funcionam e como ajudar no processo de curadoria.
Mas quando você descobre que o Facebook não está mostrando posts de um parente ou amigo próximo isso não tem um efeito maior do que não achar um resultado de busca?
K.K. – As redes sociais expõem um aspecto mais íntimo. Nós somos criaturas sociais. Fizemos um estudo em 2009 tentando determinar a força dos laços entre duas pessoas por meio das interações realizadas no Facebook. Descobrimos que a intimidade demonstrada em mensagens postadas no mural ou privadamente determinavam a força dessa relação, mais do que outras variáveis, como grupos em comum, links compartilhados ou similaridade de patamar social ou econômico. Então, se você se considera fortemente ligado a alguém e perde algo sobre ela isso pode ser doloroso.
No próprio Facebook, vemos muitas vezes anúncios estarem mais presentes do que informações sobre amigos. Qual o impacto comercial dos algoritmos nas nossas vidas?
K.K. – Os anúncios não apenas acontecem, como muitas vezes somos usados como propaganda. Se eu compartilhar o link de um site comentando que o produto é ruim, o Facebook pode simplesmente registrar que você gosta daquela marca. E os seus amigos vão receber, em seus feeds, anúncios que dizem que você curtiu aquela marca. No estudo, algumas pessoas afirmavam que não curtiam nada para que o Facebook não tirasse conclusões sobre o que gostavam. O interessante é que, nas entrevistas após o estudo, algumas pessoas começaram a curtir algumas páginas para testar o impacto disso em seu feed. É incrível que as pessoas usem o Facebook de modo colaborativo ao tornar público suas descobertas, porque é esse o sentido da auditoria colaborativa que fizemos no estudo.
De que forma essa ideia de auditoria colaborativa criada com o Feedvis pode ser aplicada em outros sites orientados por algoritmos?
K.K. – A questão dos anúncios pode ser usada em outras plataformas, por exemplo. Se as pessoas compartilham as propagandas que estão recebendo em outras páginas e as comparam com dados demográficos, é uma ótima forma de fazer uma auditoria coletiva e perceber se há, por exemplo, discriminação.
Que tipo de discriminação?
K.K. – Não há dados para confirmar, mas hipoteticamente anúncios poderiam ser direcionados para determinadas populações, ou seja, propagandas para empréstimos, cursos universitários on-line etc. Quando esta segmentação se correlaciona com a raça, torna-se ilegal. Especula-se que minorias raciais estariam menos propensas a encontrar moradia via correspondência algorítmica ou que mercados on-line ofertariam produtos mais caros para determinados perfis demográficos. Portanto, anúncios são uma ótima forma de se realizar um auditoria coletiva.
Como uma pesquisa sobre algoritmos pode acontecer sem o acesso, de fato, ao algoritmo?
K.K. – Um dos exemplos é a auditoria que fizemos. Nós não sabemos o que está por trás do Facebook, mas, se as pessoas fazem especulações, criam teorias e postam sobre isso, o próximo passo é agregar essas informações e ver o que se pode fazer coletivamente. As pessoas estão usando a web para falar sobre os efeitos dos algoritmos. Uma outra abordagem é engenharia reversa de algoritmos, o que nós evitamos no nosso estudo porque o algoritmo pode mudar em horas, ao longo de um dia, mês. O nosso objetivo não é saber o bit exato, mas entender as consequências do algoritmo.
E que tipo de consequência um algoritmo pode ter em nossas vidas?
K.K. – Houve uma discussão interessante levantada pelo presidente Obama um mês atrás sobre a potencial discriminação devido a algoritmos contidos em aplicativos de celulares. Em muitos casos, só identificaríamos esses apps como algoritmos puramente técnicos, mas o serviço de localização do iPhone tem permitido que cidadãos informem através de aplicativos sobre buracos nas ruas. O que se descobriu é que os buracos estavam sendo consertados em bairros ricos e não tanto em outros locais. E isso pode ser devido ao fato de algumas pessoas terem smartphones e outras não. Isso não é um algoritmo tradicional, mas um que envolve pessoas, tecnologia e as consequências na reparação correta de buracos. São consequências assim que queremos explorar.
Quão importante é entendermos como esses números por trás dos computadores funcionam?
K.K. – É importante saber que essa curadoria está acontecendo, mas não acho que precisamos saber os detalhes. Eu posso dirigir um carro sem saber como o motor funciona e ainda assim sair de um ponto “a” para um ponto “b”. Mas, se de repente o meu carro começa a gastar mais gasolina no meio do caminho, eu tenho que saber isso. É importante ter a visualização e feedbacks para dirigir bem. Então, uma das coisas que acho interessante para o futuro é destacar as mudanças nos algoritmos, e não necessariamente os detalhes do que está fazendo agora.
Como você pretende expandir a pesquisa a partir de agora?
K.K. – Queremos tornar o Feedvis público, mas o IPA do Facebook mudou desde que terminamos a pesquisa. Mesmo durante a pesquisa tivemos que mudar o software três ou quatro vezes por conta de alterações. Também precisamos de uma autorização da Junta de Revisão Institucional da universidade, já que o software surgiu como um projeto de pesquisa. Um próximo passo seria criar também uma extensão do Feedvis para permitir que as pessoas troquem impressões sobre os algoritmos.
[Matéria publicada na revista digital O Globo a Mais]
******
Thais Lobo, do Globo