Pode não parecer para alguns de nós, mas vivemos em um tempo em que os algoritmos desempenham um papel cada vez mais central em nossas vidas. São eles quem decidem o que vemos nas redes sociais, quais produtos nos são recomendados e até mesmo quais notícias lemos. Nessa era algorítmica, será que ainda podemos falar em autonomia, quando estamos cercados por um sistema que, silenciosamente, molda nossas escolhas?
É de Foucault a noção de que o poder na modernidade não é exercido apenas pela força ou pela coerção, mas, muitas vezes, pela organização do comportamento das pessoas. Essa forma de controle, que ele chamou de governabilidade, se manifesta na maneira como as instituições moldam nossas vidas cotidianas. No século 21, esse controle ganhou uma nova roupagem: os algoritmos.
Em tese, os algoritmos são programados para tornar nossas vidas mais “fáceis”, nos oferecendo o que queremos, mesmo antes de pedirmos. Mas, ao fazerem isso, somos colocados em uma posição tal que, ao invés das escolhas serem feitas por nós mesmos, elas são condicionadas por essas ferramentas invisíveis. Shoshana Zuboff, em seu livro “A era do capitalismo de vigilância", explica como as grandes empresas utilizam algoritmos para monitorar, prever e, em muitos casos, influenciar nossas ações. Dessa forma, o poder estatal tradicional passou a dividir espaço com o poder tecnológico das grandes corporações.
Teoricamente, essa personalização prometida pelos algoritmos deveria nos dar mais liberdade. Afinal, em tese, recebemos sugestões baseadas em nossas preferências. No entanto, isso cria o que pode ser chamado de ilusão de escolha, pois as opções que nos são apresentadas já passaram por uma curadoria algorítmica que, ainda que não percebamos, limita nossa visão de mundo. Ao sermos expostos apenas a conteúdos que o algoritmo decidiu que são relevantes, acabamos presos em bolhas, que reforçam nossas crenças e nos privam do contato com ideias divergentes.
É o que pode ser chamado de câmaras de eco. Se procurarmos determinado tipo de conteúdo, o algoritmo nos entregará mais do mesmo, criando um ciclo no qual nossa visão de mundo é restringida. Isso afeta não apenas nossas escolhas individuais, mas também o debate público. Nas redes sociais, onde o diálogo e o confronto de ideias deveriam prosperar, o algoritmo promove conteúdos que geram engajamento, muitas vezes, inflamando discursos polarizados.
Esse tipo de poder é especialmente problemático porque é difícil de identificar. Ao contrário das formas tradicionais de controle, que vinham de instituições claramente identificáveis, como o Estado, o poder algorítmico está embutido nas nossas interações diárias e se disfarça na conveniência. Não vemos quem ou o que está controlando nossas escolhas.
Estamos, sem dúvidas, diante de uma transformação sem precedente nas relações de poder. O que antes era claro e tangível – como o controle exercido pelo Estado – agora se dilui em sistemas que operam silenciosamente, organizando nossas ações sem que nos demos conta. Se nossos desejos são moldados antes mesmo de os identificarmos, talvez seja o momento ideal para nos questionarmos o que entendemos por liberdade. Afinal, que tipo de liberdade é essa que nos aprisiona em bolhas, nos dá a ilusão de escolha e limita nossa capacidade de questionar? Os algoritmos vieram para ficar, mas a pergunta que não podemos ignorar é: até que ponto somos senhores das nossas próprias escolhas ou apenas cúmplices involuntários de um poder que se opera nas sombras?