Racismo digital: como as máquinas reproduzem comportamentos humanos

Pesquisador e mestre em Comunicação Tarcízio Silva lança livro "Racismo algorítmico – Inteligência artificial e discriminação nas redes sociais" e questiona como as estruturas de inteligência artificial (IA) reproduzem comportamentos racistas por meio de ferramentas como reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, policiamento preditivo e escore de crédito, entre outros. 

Para entender como esses comportamentos humanos são reproduzidos por máquinas e programas, é preciso entender quem está por trás da programação, quem decide o que é bom ou ruim, o belo e o que é considerado risco potencial.

Desse modo, o autor considera o conceito de “racismo algorítmico” é mais sociológico do que tecnológico, sendo essencial entender muito além das linhas de programação, mas como esses sistemas favorecem as estruturas de poder que já estão em vigor na sociedade.

“Quando se pensa, mede e critica “por quem” é feito, é possível descobrir que as grandes plataformas usadas em países como o Brasil costumam ser feitas por homens brancos, cis, afluentes, dos Estados Unidos. Promovendo a diversidade há, por exemplo, organizações que apoiam desenvolvedores e startups negras”, declara Tarcízio.

O pesquisador explica que na lógica de otimização que se baseia no aprendizado da máquina, os dispositivos partem do princípio que os dados que alimentam o sistema representam um mundo reproduzível. Busca-se partir do histórico de um determinado tipo de decisão para otimizá-la continuamente em favor de métricas de negócio ou gestão pública.

“Entretanto, temos inúmeros exemplos de como esta lógica reproduz e intensifica – ao mesmo tempo que esconde – decisões discriminatórias que foram tomadas de forma massiva anteriormente. Não podemos projetar o futuro da segurança pública ou da mídia repetindo os mesmos erros de desigualdade e discriminação do passado”, afirma.

As redes sociais, por exemplo, usam um algoritmo que coleta dados a partir das buscas e curtidas dos usuários para recomendar novos conteúdos, criando o que chamam de “bolhas”, ou seja, as pessoas consomem ideias parecidas com as suas e não são expostas a novos tipos de pensamentos, fazendo com que ideais antigos perpetuem.



Quando as empresas que desenvolvem as plataformas se isentam da responsabilidade de moderar conteúdos preconceituosos, a violência discursiva, incluindo falas racistas, se torna padrão para usuários e para algoritmos que aprendem e replicam.

Para além do uso das redes sociais e meios de comunicação, a plataformização, modelo de negócios que utiliza da tecnologia para ligar fornecedores e prestadores de serviço aos clientes, acelerou nos últimos anos. Isso significa que a concentração econômica e cultural através de aplicativos de transporte, entregas, paquera, saúde etc, é gerenciados um pequeno grupo de empresas.

Tarcízio afirma que a plataformização busca aumentar taxas de lucro e concentração econômica através da aparente comodidade de serviços digitais, mas resulta em erosão da capacidade de consumidores e cidadãos buscarem seus direitos. É um reflexo do acirramento da desigualdade e tem relações com o racismo estrutural, ao precarizar ainda mais as condições das populações já minorizadas.

Como combater o racismo algorítmico?

Sendo o racismo algorítmico o desdobramento digital-tecnológico do racismo estrutural, também está imbricado em várias camadas da sociedade e dos artefatos. Desse modo, para combate-lo, o pesquisador aponta que é preciso apoiar a diversificação dos desenvolvedores por trás dos algoritmos e o apoio a startups negras. 

Outra forma de criar um mundo digital mais igualitário, é promovendo grupos de pesquisa, organizações e coletivos que mostram os impactos dos sistemas na sociedade a fim de criar uma população crítica que possa pressionar empresas, legisladores e governo.

“Cada vez parece que uma defesa forte de uma web plural é possível e urgente. Precisamos ter nos nossos imaginários sobre tecnologia a capacidade de lutar por futuros que hoje parecem utópicos, mas que podemos construir coletivamente”, afirma Tarcízio.