Computadores não são mais só ferramentas. Converteram-se em amigos, conselheiros, confidentes ou assistentes pessoais. A interação entre homem e máquina está ficando cada vez mais emocional. Não por acaso uma das principais áreas em desenvolvimento atualmente são as chamadas “tecnologias afetivas”, que estudam como as máquinas podem gerar empatia conosco, seres humanos.
Dotar máquinas de características humanas, como a capacidade de interpretar, expressar e reagir a emoções, é um elemento central da próxima rodada de inovação que vai acontecer nos próximos anos. Mas o que muda quando o computador fica mais humano?
Pensando sobre o tema, o pesquisador e amigo Ethan Zuckerman, do MIT Media Lab, publicou há pouco um intrigante texto sobre “máquinas que escutam”. Ele dá como exemplo a Hello Barbie. Trata-se de uma versão da boneca popular entre garotas do mundo todo, mas com um importante diferencial.
Por meio de um dispositivo de análise de voz, o brinquedo escuta tudo o que é dito perto dela e reage a interações diretas. Se a garota diz “Barbie, do que vamos brincar hoje?”, a boneca dá uma lista de possibilidades. Mais do que isso, a boneca é curiosa. Faz perguntas como “qual sua comida preferida?”, “onde você está agora?”, “qual o nome dos seus amigos?” e vai registrando as preferências da sua dona.
O que acontece é que a boneca grava as falas da criança, envia para um servidor centralizado de reconhecimento de voz, que por sua vez analisa o que é dito contextualmente e retorna com respostas com base no perfil da garota.
A empresa Mattel, fabricante do produto, escuta, armazena e analisa falas de todas a crianças (e adultos) que interagem com a Hello Barbie. O sistema vai assim se aperfeiçoando, ficando cada vez mais sábio e familiarizado com as preferências de quem interage com ele.
É claro que isso é assustador. Quando sistemas de reconhecimento de voz são embutidos em objetos como bonecas ou ursinhos de pelúcia que respondem à nossa voz, eles ganham um aspecto “fofo”, que não mostra o que de fato está se passando. Além disso, essa tecnologia será cada vez mais inserida em objetivos cotidianos, como celulares, televisores, videogames e outros objetos, tornando-se natural.
Isso tem efeito direto na questão da privacidade. Como é possível estar sozinho se cada palavra que dissermos poderá ser ouvida por alguma máquina e armazenada em um servidor em algum lugar? Conversas que seriam privadas e efêmeras passam a ser registradas indefinidamente. Questões difíceis surgirão. Se a Hello Barbie ouvir sua dona conversando sobre maconha com as amigas, deve a boneca alertar os pais da criança? Ou poderia, em última análise, chamar a polícia?
Esse é o tipo de questão que teremos de enfrentar. Na minha visão, melhor enfrentá-las cedo.
***
Ronaldo Lemos é advogado e diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro