Livro adverte para os riscos dos algoritmos nas governanças públicas

Edésio Fernandes

Especial para o EM

Uma das marcas dos tempos é o descompasso entre os processos sócio-político-ambientais e os processos político-jurídico-institucionais que se propõem a regulá-los, determinando as regras do contrato social, especialmente quanto às questões supranacionais que afetam a sociedade global. Por um lado, leis, políticas públicas e ações institucionais têm fomentado processos de desigualdade, exclusão e injustiça socioambiental, levando à descrença nas instituições jurídico-políticas tradicionais que materializam os princípios do Estado Nação e da democracia representativa.

São muitas as expressões da crise de governança política e da ameaça de ruptura do contrato social, dando ensejo aos mandatos populistas e ao clamor por regimes autoritários. Nas esferas nacionais, regionais e locais cresce o sentimento de que as instituições estão a serviço dos grupos políticos poderosos e das elites econômicas, financeiras e fundiárias.

Por outro lado, em que pese a pressão pelo localismo, é na esfera global que tem crescido os processos que mais afetam a sociedade – da globalização econômica e financeira com uma ampla circulação de capital, mercadorias e trabalhadores a conflitos políticos e territoriais, desastres extremos, crise sanitárias e mudanças climáticas. Não existem instituições globais sólidas que possam regular esses processos, que ficam à mercê de decisões fragmentadas dos Estados nacionais em crise. Há uma descrença generalizada sobre a legitimidade dessas instituições globais, associadas com os interesses de certos países e de grupos econômicos.

A consolidação do capitalismo financeiro, a concentração da riqueza e o aprofundamento das desigualdades sociais têm suscitado dúvidas quanto à possibilidade das instituições democráticas, mesmo se ampliadas, darem conta das necessidades sociais em um mundo ameaçado pelas implicações da mudança climática. A democracia como sistema de organização social e distribuição do poder político está em xeque, especialmente quanto à sua capacidade de criar uma ordem socioeconômica justa e sustentável que expresse mais necessidades comunitárias do que interesses individuais.

Com o avanço da tecnologia outra ordem de descompasso tem se formado rapidamente entre a “vida física” e a “vida digital”. Diversos produtos e serviços relativamente recentes – do computador pessoal à internet e à telefonia celular – já transformaram a maneira como as pessoas vivem, trabalham, produzem, consomem, se comunicam e se relacionam e tem acesso a serviços variados. Os anos de pandemia tornaram irreversíveis essas mudanças.

• Marcelo Dolabela ganha livro póstumo

A tecnologia tem determinado mudanças mais profundas na ordem social do que as políticas públicas, criando obrigações variadas, determinando responsabilidades e distribuindo possibilidades – e tudo isso através de processos obscuros, pouco participativos e sem accountability. Com o estado refém do setor privado, a frágil ordem democrática tem ficado ainda mais ameaçada.

Avanços tecnológicos têm afetado as garantias e liberdades individuais, especialmente a noção de privacidade, através da ação de governos e das empresas big tech para ampliação de sua hegemonia no poder, e também através de produtos comerciais como vídeos de segurança, reconhecimento facial, inteligência artificial e sistemas de espionagem.

• Livro de Mahmud Darwich tem posfácio de Milton Hatoum

Todas essas ordens de descompasso têm se encontrado na política nacional, com o avanço das estratégias de desinformação, fake news, fraudes e manipulação dos processos eleitorais, tornando ilusória qualquer noção de transparência. Para muitos, a tecnologia tem servido à tomada do poder por grupos, com a exclusão da sociedade e manutenção de um verniz democrático que dá ilusão de legitimidade a um contrato social viciado.

A palavra dos tempos é “algoritmos”, sequências de instruções executáveis destinadas a cumprir certos objetivos que, especialmente no contexto da inteligência artificial, estão presentes em programas de computador e aplicativos que atravessam a vida cotidiana, afetando decisões simples e complexas, inclusive quanto às políticas públicas. Levando em conta um número enorme de informações já acumuladas nos diversos sistemas, os algoritmos são promovidos como soluções impessoais e neutras que permitiriam um uso mais eficiente de recursos privados e públicos.

• Livro adverte para os riscos dos algoritmos nas governanças públicas

No entanto, estudos indicam que, em que pesem suas incontáveis vantagens, longe de serem tecnicamente objetivos e politicamente neutros os algoritmos da IA como os populares ChatGPT têm aprofundado desigualdades, fortalecido polarizações, desrespeitado direitos autorais, reforçado preconceitos e consolidado injustiças, inclusive raciais. Como garantir que os avanços tecnológicos sirvam para promover avanços sociais e uma distribuição justa de recursos – e não se reduzam a mais uma forma de dominação, novos instrumentos para a manutenção de velhos processos? É nesse contexto de desafios e perguntas sem respostas que este livro original dos professores Ricardo F. Mendonça, Fernando Filgueiras e Virgílio Almeida merece destaque.

Combinando os enfoques da ciência política e da ciência da computação, os autores propõem um argumento provocativo: algoritmos são instituições globais emergentes na sociedade contemporânea, já que funcionam como um conjunto de regras que estruturam os contextos nos quais pessoas e máquinas interagem. Influenciando comportamentos individuais e provocando consequências coletivas, os algoritmos acabam por estruturar uma nova ordem política baseada na racionalização proposta pelos sistemas de computação – e como tal são como leis que geram direitos, obrigações, responsabilidades e possibilidades, sem que passem pelo mesmo processo decisório intrínseco ao sistema democrático. Quem decide e como, quem participa e como, quem controla e como questões centrais ao processo democrático têm passado longe do avanço dos algoritmos.

Depois de analisarem a utilização de algoritmos nas políticas de segurança pública, no redesenho e na integração das plataformas governamentais e na construção de sistemas de recomendações, os autores argumentam que é fundamental avançar no sentido da democratização dos algoritmos para conter os riscos que eles potencialmente criam para a governança política.

A democratização dos algoritmos requer a crítica das instituições existentes e um processo contínuo no qual os algoritmos sejam inseridos nas dinâmicas políticas e orientados por valores democráticos de participação, igualdade, pluralismo, debate público, accountability e liberdade. Um argumento necessário, já que temos de buscar as melhores maneiras de adaptação a um mundo que passa por processos tão rápidos de mudanças – ao mesmo tempo em que tentamos requalificar os processos decisórios para que sejam inclusivos e sustentáveis.

O desafio maior talvez seja aproximar o “mundo digital” do “mundo físico”, já que a combinação entre a precariedade do trabalho, a precariedade da moradia e a concentração da riqueza tem gerado um processo alarmante de exclusão digital. A revolução da telefonia celular tem permitido que muitos dos mais pobres passem por fora dos gargalos da precária infraestrutura de comunicação, mas o acesso ao mundo digital depende bem mais de condição econômica e de capacidade financeira e educacional.

Democratizar a nova instituição dos algoritmos requer também democratizar as velhas instituições democráticas nacionais, juntamente com a criação de novas instituições globais sólidas, para que sejam participativas e plurais, legitimas e efetivas, e para a promoção de mudanças profundas nas ordens socioeconômica e socioambiental de um mundo em perigo. Este é um livro importante que nos oferece uma excelente sinalização para a navegação dessa viagem desafiadora por caminhos tão imprecisos.

Edésio Fernandes é jurista e urbanista

“Algorithmic Institutionalism: The Changing Rules of Social and Political Life”
• De Ricardo F. Mendonça, Fernando Filgueiras e Virgílio Almeida
• Oxford University Press
• 192 páginas