Temos consciência do impacto que os algoritmos causam na sociedade?

Quando você recebe um e-mail um algoritmo decide se ele vai diretamente para sua caixa de spam ou para sua caixa de entrada, nas redes sociais ele escolhe qual o post você irá ver primeiro. E a partir do momento que você clicou neste artigo, um algoritmo já decidiu quais são as sugestões que você receberá para a sua próxima leitura.

O que são exatamente os algoritmos e como eles fazem tudo isso?

• Estudo indica que algoritmo do Facebook não altera crenças dos usuários

Um algoritmo é uma combinação de passos. Como uma receita de bolo, sustenta o funcionamento da internet. De forma bastante simplificada, eles são conjuntos de etapas a serem executadas, um passo a passo computacional, um código de programação. A internet é uma combinação de códigos matemáticos e os algoritmos são responsáveis pela tradução do mundo em dados. Para funcionar, um algoritmo começa recebendo uma instrução de entrada, que é uma espécie de gatilho para disparar o processo e realizar uma tarefa. Ele não responde à pergunta “o que fazer?”, mas sim “como fazer”. Embora você não perceba, utilizamos algoritmos de forma intuitiva e automática diariamente quando executamos tarefas comuns, como sacar dinheiro pelo caixa eletrônico por exemplo. É algo simples, prático e conveniente e que faz parte importante do nosso dia a dia.

Os algoritmos são a base para a operação de todos os softwares e não servem apenas para encontrar, ordenar e processar grandes quantidades de dados. Eles também podem dar aos computadores a habilidade de aprender com esses dados (números, textos, imagens, vídeos e áudios) para tomar decisões e fazer previsões. É o que chamamos “machine learning” ou aprendizado de máquina, e isso contribui para a antecipação de cenários em diversas aplicações que vão desde o serviço de compra pela internet até a detecção de fraudes em transações bancárias.

• Twitter exclui algoritmo de recorte de imagem por viés contra minorias

Cada vez que você interage com uma postagem, você está ensinando ao programa ou à máquina como você pensa ou do que gosta. Como a máquina tem uma capacidade maior de processamento muito maior que a nossa, pode testar um número enorme de cenários possíveis até escolher o que se ajusta mais ao seu gosto. E é com essa informação que ela tenta prever o próximo post que você vai querer ver. Uma vez que ela fez isso, precisa de sua resposta para saber se acertou ou não, e aprender mais uma vez.  
Quanto mais dados recebe e processa mais sofisticado fica o algoritmo e mais preciso ele consegue ser. Isso acontece não somente nas redes sociais, um exemplo disso é que através de treinamentos por imagens, a “machine learning” desenvolveu a capacidade de analisar ressonância magnética para reconhecer padrões de tumores, superando frequentemente a capacidade de especialistas.

• 4 qualidades humanas que a inteligência artificial não consegue copiar

No entanto, tudo isso apresenta o seu lado problemático. Ao usar nossos dados para exibir somente o que consideram ser de nosso interesse, os algoritmos podem criar uma bolha que distorce ou restringe nossa percepção da realidade. É quando os algoritmos de inteligência artificial assumem as rédeas, e as redes se tornam cada vez menos sociais. Isso ocorre porque, ao nos apresentar apenas conteúdos que reforçam nossas crenças, sem expor opiniões, gostos ou perspectivas diferentes, esse ambiente digital pode acabar perpetuando preconceitos e até interferindo nos resultados de eleições.

Siga o nosso canal no WhatsApp e receba em primeira mão notícias relevantes para o seu dia

Por exemplo, se o algoritmo de classificação de imagens é alimentado somente com imagens de pessoas jovens e brancas, como é que ele vai aprender que existem pessoas de idade ou com outro tom de pele? Por essa razão, muitos analistas afirmam que os algoritmos estão reproduzindo os preconceitos presentes na sociedade. Por trás de todos os algoritmos, existem pessoas tomando decisões sobre quais problemas resolver, como resolvê-los e quais dados serão utilizados. Nessas escolhas, pode estar a chave para corrigir os vieses preconceituosos. Como ocorre com qualquer tecnologia revolucionária, é fundamental questionar: será que temos plena consciência do impacto real que os algoritmos causam na sociedade?