Professor da UFMG comenta o documentário 'O dilema das redes'

O documentário O dilema das redes, disponível na Netflix, se parece com um filme de ação por ser capaz de deixar o espectador sem fôlego. Dirigido por Jeff Orlowski, o filme procura desvendar os mecanismos pelos quais as redes sociais se tornaram um instrumento de manipulação em larga escala e, consequentemente, uma ameaça à privacidade e à autonomia dos cidadãos e à saúde da democracia. 

O filme traz uma série de depoimentos de especialistas e ex-funcionários do Facebook, Instagram, YouTube, Twitter, Google, Pinterest, entre outras, relatando suas experiências profissionais e preocupações com a evolução dessa indústria. 

Os entrevistados explicitam como os problemas relacionados à atuação das grandes empresas de tecnologia – como roubo de dados, vício em tecnologia, polarização política, disseminação de fake news e influências nas eleições – estão vinculados à estrutura algorítmica de funcionamento das redes. 

O dilema das redes deixa claro que o serviço gratuito oferecido pelas plataformas digitais é, na verdade, um mecanismo para reter a atenção dos internautas com o objetivo de vender anúncios baseados em seus dados. 

“Quando você não está pagando pelo produto, então você é o produto”, afirma o ex-funcionário do Google Tristan Harris, que conduz boa parte da trama. Segundo ele, o modelo de negócio é baseado na garantia de que os anúncios terão sucesso a partir do rastreamento infinito de dados e o direcionamento das publicações, criando o chamado “capitalismo de vigilância”. 

Todo o sistema é responsabilizado pelo desenvolvimento de um novo mercado que negocia o “futuro do ser humano em larga escala”, tornando as empresas de internet as mais ricas e lucrativas da história. 

Para ilustrar o funcionamento e o impacto desse mecanismo na sociedade, o documentário apresenta uma narrativa ficcional baseada na rotina de uma família norte-americana convencional. 

O protagonista, Ben (Skyler Gisondo), é um adolescente que convive com as redes sociais diariamente e não se preocupa com os impactos dessa tecnologia. A inteligência artificial responsável por conduzir seu engajamento nas redes é representada por três indivíduos, interpretados por Vincent Kartheiser, em um cenário distópico. 

Cada um deles cumpre uma função no cruzamento de dados do algoritmo e demonstra como os interesses financeiros das empresas são colocados como prioridade, em detrimento do bem- estar dos usuários. 

Os personagens acompanham a vida de Ben, atuando para seu constante engajamento na plataforma. O documentário revela como adolescentes são mais propensos ao vício das redes sociais e aponta como esse engajamento gera danos em sua saúde mental. Mas a dependência não se resume aos jovens. 

Ex-funcionários das big techs relatam como ficaram viciados em celular e se preocupam com a capacidade humana de lidar com esses mecanismos. A frase “existem apenas duas indústrias que chamam seus clientes de usuários: a de drogas e a de software”, de Edward Tufte, ilustra a discussão.

Ao explicar toda a arquitetura algorítmica das redes socais, o documentário apresenta de forma didática a relação do sistema com a polarização política. Fica evidente como fake news, teorias da conspiração e discursos extremistas circulam com mais velocidade nas plataformas, tendo em vista que o algoritmo não se baseia na qualidade do conteúdo, mas no nível de engajamento da publicação. 

A criação de “bolhas” sociais baseadas na interação dos usuários,é responsabilizada pelo aumento da intolerância e discurso de ódio na internet. O filme mostra como essa essa dinâmica causou danos à democracia e proporcionou a ascensão de diversos líderes extremistas ao redor do planeta. A eleição do presidente Jair Bolsonaro, no Brasil, e o impacto da desinformação durante a pandemia da COVID-19 são destacados nesse contexto. 

Segundo a perspectiva de O dilema das redes, o sistema saiu do controle das empresas e dos usuários. O filme alerta para o fato de a inteligência artificial seguir se aprimorando exponencialmente na busca por engajamento e manipulação dos usuários, e salienta a preocupação com a possibilidade de o algoritmo superar a mente humana. 

O professor do Departamento de Comunicação Social da UFMG Carlos D'Andréa, autor do livro Pesquisando plataformas on-line: conceitos e métodos, acredita que o filme cumpre uma função pedagógica importante, mas contesta o nível de manipulação demonstrado.

Segundo ele, o rastreamento de dados pelas plataformas digitais não é capaz de domar o indivíduo. “O modo como a manipulação é colocada fica parecendo que os dados podem de fato nos conhecer, mas isso não é possível. Nem tudo que fazemos é mensurável. O jogo é mais complexo do que o documentário mostra”, afirma. 

O professor diz que o filme não leva em consideração um conjunto de especificidades do usuário, envolvendo idade, classe social, gênero e nacionalidade, determinantes no impacto da tecnologia. Também questiona o fato de os próprios criadores dos sistemas ouvidos pelo documentário legitimarem essa narrativa. 

“A ideia de manipulação é colocada como um sistema de cima para baixo, unidimensional, como se as pessoas não jogassem com os algoritmos, não enganassem os mecanismos em alguns momentos. A gente não pode enxergar isso como um processo estabilizado. Mesmo com a disparidade técnica e de poder econômico dessas plataformas, o jogo é jogado com os usuários”, diz.

Por outro lado, D'Andréa aprova o debate sobre o vício em redes sociais. “Isso já é identificado com um problema de saúde pública em escala global. Esse debate é pertinente para criar oportunidades de diálogo e chamar a atenção para algumas situações que não estavam muito claras.” 

Apesar dos excessos, o professor frisa que existem benefícios provenientes das plataformas e acredita que o documentário simplificou a discussão em torno do fenômeno. “É importante que isso seja tomado como uma coisa que tem positividades. Se não fosse prazeroso, não trouxesse benefícios sociais e profissionais, tudo já teria ido para o espaço”, comenta.

O cenário apocalíptico desenhado no final do filme é um dos pontos que o professor critica. Segundo ele, já existem diversos debates para otimizar o funcionamento das redes, incluindo propostas para incorporar a ideia de justiça, redução da desigualdade e antirracismo nas lógicas algorítmicas. 

“Isso já está sendo pautado por agências regulatórias. Nos Estados Unidos eles estão discutindo isso pesadamente. Agora, isso ser colocado em prática é mais delicado, porque envolve toda uma negociação comercial, política, regulatória, algo que é extremamente complexo”, afirma. 

Embora avalie que o documentário possa incentivar o espectador a desenvolver um olhar crítico em relação à tecnologia, o professor diz: “O que está lá é correto, mas não se reduz àquilo. Existem outras questões que o documentário não se propõe a discutir. Seria importante que as pessoas, ao se dedicar ao filme, façam esse esforço de ampliar o debate. Devemos evitar uma visão simplista desse fenômeno”.