O documentário O dilema das redes, disponível na Netflix, se parece com um filme de ação por ser capaz de deixar o espectador sem fôlego. Dirigido por Jeff Orlowski, o filme procura desvendar os mecanismos pelos quais as redes sociais se tornaram um instrumento de manipulação em larga escala e, consequentemente, uma ameaça à privacidade e à autonomia dos cidadãos e à saúde da democracia.
O filme traz uma série de depoimentos de especialistas e ex-funcionários do Facebook, Instagram, YouTube, Twitter, Google, Pinterest, entre outras, relatando suas experiências profissionais e preocupações com a evolução dessa indústria.
Os entrevistados explicitam como os problemas relacionados à atuação das grandes empresas de tecnologia – como roubo de dados, vício em tecnologia, polarização política, disseminação de fake news e influências nas eleições – estão vinculados à estrutura algorítmica de funcionamento das redes.
O dilema das redes deixa claro que o serviço gratuito oferecido pelas plataformas digitais é, na verdade, um mecanismo para reter a atenção dos internautas com o objetivo de vender anúncios baseados em seus dados.
“Quando você não está pagando pelo produto, então você é o produto”, afirma o ex-funcionário do Google Tristan Harris, que conduz boa parte da trama. Segundo ele, o modelo de negócio é baseado na garantia de que os anúncios terão sucesso a partir do rastreamento infinito de dados e o direcionamento das publicações, criando o chamado “capitalismo de vigilância”.
Todo o sistema é responsabilizado pelo desenvolvimento de um novo mercado que negocia o “futuro do ser humano em larga escala”, tornando as empresas de internet as mais ricas e lucrativas da história.
ALGORITMO
Para ilustrar o funcionamento e o impacto desse mecanismo na sociedade, o documentário apresenta uma narrativa ficcional baseada na rotina de uma família norte-americana convencional.
O protagonista, Ben (Skyler Gisondo), é um adolescente que convive com as redes sociais diariamente e não se preocupa com os impactos dessa tecnologia. A inteligência artificial responsável por conduzir seu engajamento nas redes é representada por três indivíduos, interpretados por Vincent Kartheiser, em um cenário distópico.
Cada um deles cumpre uma função no cruzamento de dados do algoritmo e demonstra como os interesses financeiros das empresas são colocados como prioridade, em detrimento do bem- estar dos usuários.
Os personagens acompanham a vida de Ben, atuando para seu constante engajamento na plataforma. O documentário revela como adolescentes são mais propensos ao vício das redes sociais e aponta como esse engajamento gera danos em sua saúde mental. Mas a dependência não se resume aos jovens.
Leia Mais
Filme com Robert Pattinson dirigido por brasileiro estreia na NetflixFilme 'Lindinhas': Netflix é acusada de pornografia infantilNetflix aposta em megassérie de ficção científica chinesaNetflix lança série sobre vírus que se dissemina pelo beijoPessoas com deficiência usam redes sociais para combater preconceitos'Aos olhos de Ernesto' é filme divertido e comovente sobre a velhiceCurta-metragem de igarapense é selecionado para Mostra de CinemaAo explicar toda a arquitetura algorítmica das redes socais, o documentário apresenta de forma didática a relação do sistema com a polarização política. Fica evidente como fake news, teorias da conspiração e discursos extremistas circulam com mais velocidade nas plataformas, tendo em vista que o algoritmo não se baseia na qualidade do conteúdo, mas no nível de engajamento da publicação.
A criação de “bolhas” sociais baseadas na interação dos usuários,é responsabilizada pelo aumento da intolerância e discurso de ódio na internet. O filme mostra como essa essa dinâmica causou danos à democracia e proporcionou a ascensão de diversos líderes extremistas ao redor do planeta. A eleição do presidente Jair Bolsonaro, no Brasil, e o impacto da desinformação durante a pandemia da COVID-19 são destacados nesse contexto.
INTELIGÊNCIA ARTIFICIAL
Segundo a perspectiva de O dilema das redes, o sistema saiu do controle das empresas e dos usuários. O filme alerta para o fato de a inteligência artificial seguir se aprimorando exponencialmente na busca por engajamento e manipulação dos usuários, e salienta a preocupação com a possibilidade de o algoritmo superar a mente humana.
O professor do Departamento de Comunicação Social da UFMG Carlos D'Andréa, autor do livro Pesquisando plataformas on-line: conceitos e métodos, acredita que o filme cumpre uma função pedagógica importante, mas contesta o nível de manipulação demonstrado.
Segundo ele, o rastreamento de dados pelas plataformas digitais não é capaz de domar o indivíduo. “O modo como a manipulação é colocada fica parecendo que os dados podem de fato nos conhecer, mas isso não é possível. Nem tudo que fazemos é mensurável. O jogo é mais complexo do que o documentário mostra”, afirma.
O professor diz que o filme não leva em consideração um conjunto de especificidades do usuário, envolvendo idade, classe social, gênero e nacionalidade, determinantes no impacto da tecnologia. Também questiona o fato de os próprios criadores dos sistemas ouvidos pelo documentário legitimarem essa narrativa.
“A ideia de manipulação é colocada como um sistema de cima para baixo, unidimensional, como se as pessoas não jogassem com os algoritmos, não enganassem os mecanismos em alguns momentos. A gente não pode enxergar isso como um processo estabilizado. Mesmo com a disparidade técnica e de poder econômico dessas plataformas, o jogo é jogado com os usuários”, diz.
Por outro lado, D'Andréa aprova o debate sobre o vício em redes sociais. “Isso já é identificado com um problema de saúde pública em escala global. Esse debate é pertinente para criar oportunidades de diálogo e chamar a atenção para algumas situações que não estavam muito claras.”
Apesar dos excessos, o professor frisa que existem benefícios provenientes das plataformas e acredita que o documentário simplificou a discussão em torno do fenômeno. “É importante que isso seja tomado como uma coisa que tem positividades. Se não fosse prazeroso, não trouxesse benefícios sociais e profissionais, tudo já teria ido para o espaço”, comenta.
O cenário apocalíptico desenhado no final do filme é um dos pontos que o professor critica. Segundo ele, já existem diversos debates para otimizar o funcionamento das redes, incluindo propostas para incorporar a ideia de justiça, redução da desigualdade e antirracismo nas lógicas algorítmicas.
REGULAÇÃO
“Isso já está sendo pautado por agências regulatórias. Nos Estados Unidos eles estão discutindo isso pesadamente. Agora, isso ser colocado em prática é mais delicado, porque envolve toda uma negociação comercial, política, regulatória, algo que é extremamente complexo”, afirma.
Embora avalie que o documentário possa incentivar o espectador a desenvolver um olhar crítico em relação à tecnologia, o professor diz: “O que está lá é correto, mas não se reduz àquilo. Existem outras questões que o documentário não se propõe a discutir. Seria importante que as pessoas, ao se dedicar ao filme, façam esse esforço de ampliar o debate. Devemos evitar uma visão simplista desse fenômeno”.
*Estagiário sob supervisão da editora Silvana Arantes