Abrindo engrenagens da Máquina da Vergonha: um trajeto rumo ao cibernético

Rafael Oliveira - Estado de Minas

A investigação do abstrato digital e a arte de pensar dão continuidade à obra de Cathy O’Neil, uma das principais referências em análise de algoritmos e suas consequências humanas e sociais. Eles, os algoritmos, estão por toda parte e separam, muitas vezes, os vencedores dos perdedores. Os primeiros logram êxito na conquista por uma vaga no mercado de trabalho ou, ainda, determinada oferta de um bom cartão de crédito.

Os perdedores não conseguem nem mesmo uma entrevista de emprego – ou, pior, pagam um valor diferenciado e bem mais elevado pelo seu seguro ou plano de saúde, por exemplo. Eles estão sendo avaliados com fórmulas secretas que não entendemos e que, corriqueiramente, não deixam brechas para serem contestadas. Agora, e se os algoritmos estiverem errados? A inteligência artificial, bem como sua engenharia e engrenagens estarão sempre certas? São necessários dois elementos para a criação de um algoritmo: os dados do que aconteceu no passado de alguém e uma definição de sucesso, ou seja, daquilo que estamos procurando e, geralmente, à espera ‘sedenta’.

Treinamos este componente cibernético na medida em que procuramos ou coletamos informações e as calculamos. O algoritmo descobre que está associado com o sucesso e desvenda qual situação leva ao êxito (ou a fracasso). Na verdade, todos usamos estas novidades tecnológicas, apenas não formalizamos em um código escrito. Uma demonstração é que, todo dia, a inteligência (programada) de dados é utilizada até mesmo para prepararmos refeições das famílias.

As informações aproveitadas, como ingredientes, o tempo disponível de produção, a ambição criativa, e quem seleciona estes aspectos, são as pessoas. Há uma sabedoria popular que diz: uma refeição é um sucesso quando os filhos comem verduras. Mas é muito diferente se um filho – ainda que indiretamente – estiver sob o comando ‘dos olhos’ dos algoritmos. Não há como falar em “A máquina da vergonha” (Rua do Sabão Editora), sem partirmos do conceito que, como a própria autora disse à BBC de Londres, se trata de uma continuação da sua vasta obra de “investigação do abstrato digital”.

Para alguns, o símbolo de sucesso é um chocolate gourmet ‘enlatado’. Mas a palavra final está com os pais. A questão é: conseguimos lutar contra a convicção e os atributos de sedução de um algoritmo? Teoricamente, estamos no comando e nossa posição conta. Mas o algoritmo sabe e essa é sua primeira regra matemática; por isso, eles são embutidos em códigos maiores e mais complexos.

Bem diferente do que a maioria de nós pensamos sobre o tema, por acharmos que a inteligência artificial de dados é objetiva, precisa e científica, a realidade é que a dicotomia de quem está no comando é nada mais e nada menos que um truque de marketing. A intimidação vem por força do algoritmo, e a confiabilidade é obtida por meio do convencimento, do medo ou da insegurança, e a explicação é simples e tem lastro na educação: muitos de nós acreditamos na matemática, mas temos medo dela. Muitas situações podem sair do controle, como a criação de um filho e/ou quaisquer formatos de família, muito pode dar errado quando confiamos, indubitavelmente, nas big techs.

Professores já são, ao redor do planeta, avaliados por algoritmos complexos e secretos, sem quaisquer transparências, ou mesmo convidados a, enquanto docentes, serem convidados para revisarem o que a inteligência artificial produz. É o chamado “Modelo de Valor Agregado”. E quem tenta conseguir acesso às fórmulas, jamais recebem um parecer técnico de órgãos de educação que as utilizam. Ainda dizem, por vezes: é matemática avançada e impossível de ser compreendida por ‘seres humanos simples’.

Os próprios matemáticos já ouviram estas respostas, segundo relatos de Cathy O’Neil no livro. A autora, que nasceu nos EUA, é matemática de formação, graduada em Matemática e Ciência de Dados, com PH.D pela Universidade de Harvard, em Cambridge (Massachussets/Estados Unidos) e já tendo trabalhado no Departamento de Matemática do MIT (Instituto de Tecnologia de Massachusetts, na tradução), que representa um dos mais renomados centros de produção de conhecimento do mundo.

• Paul Auster: o adeus de um escritor 'à moda antiga'

“Vivemos na era dos algoritmos. Cada vez mais, as decisões que afetam as nossas vidas – como qual escola estudar, se podemos ou não fazer um empréstimo, quanto pagamos por um seguro de saúde – não são tomadas por humanos, e sim por matemáticos”, já escreveu Cathy O’Neil no best seller “Algoritmos de destruição de massa: como o big data aumenta a desigualdade e ameaça a democracia”, publicado no ano de 2016 e lançado no Brasil também pela editora Rua do Sabão.

No ano de 2022, como forma de aprimoramento, O’Neil lançou “A máquina da vergonha”, que chega agora ao Brasil. Desde pequena, era estimulada, dentro e fora de casa, a lutar com o ganho de peso. Quem vive num mundo que elege padrões (de beleza, de corpo, de saúde…) é constrangido a fazer parte dele – do contrário, será atacado e ridicularizado na “cova dos leões atuais”: a internet.

Com base em sua experiência de vida e competente conhecimento de como empresas do Vale do Silício atuam, ela decodifica o ‘modus operandi’ de como a indústria estadunidense buscou montar um sistema ancorado em formas de embaraço e opressão, em sua ótica de interpretação empírica e social e , nessa mesma linha, como ganham dinheiro à custa do sofrimento de terceiros – caracterizados pela humilhação, a destruição de reputações, da autoestima e da expectativa esperançosa por um horizonte melhor – seja no âmbito individual, ou mesmo na interpretação da sociedade.

Neste livro quase autobiográfico, ela denuncia o constrangimento proposital e calculado, prática tão antiga quanto a própria espécie humana, mas ressignificada e explorada à exaustão, especialmente nos temos em que mídias digitais, embora possuam inúmeros adventos positivos à sociedade, são plataformas capazes de alienar a grande massa, ou – pior do que isso – moldá-la por completo, em se tratando dos indivíduos sem mecanismos mentais de defesa e discernimento dos estímulos externos.

• Livro 'Morte e vida severina' ganha adaptação para quadrinhos

Para a autora, a vergonha se demonstra em meios como “pessoas acima do peso”, “as camadas mais pobres”, “viciados em drogas” (ou em diferentes elementos passíveis, historicamente, de alta probabilidade de vício), e o que ela tipifica como “seres portadores de comportamentos atípicos”, o que é intensificado com a capacidade de regionalização das nuances culturais, hoje facilitada pelos mapeamentos que a parte majoritária da web permite ser gerada, precisamente, por diferentes instrumentos de mensuração.

O que a escritora enfatiza é que as redes sociais, que chama de “redes da vergonha”, potencializaram o alcance do constrangimento público, convertendo-o em ferramenta que eleva audiências e lucros das empresas, ainda que isto custe a saúde mental dos usuários. Ela apresenta, com propriedade, estudos que integram as redes X, Instagram, TikTok, entre outras, como instrumentos de maximização direta do risco de desenvolvimento da ansiedade e da depressão.

“A dinâmica das nossas histórias com a vergonha tem sido tão clara quanto a de uma peça de teatro medieval de moralidade. Essas imensas máquinas da vergonha atacam os desfavorecidos para explorar sua obesidade, vícios, pobreza ou saúde deficiente , ganhando poder e fatia de mercado no processo. Elas tratam suas vítimas como lucrativos alvos de negócios ou como totalmente descartáveis”, denuncia no livro da vez.

E qual é o segredo para quebrar a “máquina da vergonha”? Boa parte das entrelinhas, Cathy O’Neil deixa exposta nas 312 páginas de sua nova obra. Portanto, vale – em absoluto – a leitura. Mas é honesto dar um spoiler: esta equação é convidativa, ou seja, leitor e escritora formam esta equação em conjunto; afinal, seria incoerente a máquina que luta contra estereótipos, apresentar uma máquina com intinerário pronto, outorgado e engessado, para solucionar as armadilhas produzidas por algoritmos. O segredo é que não há segredo. Existe algo melhor: um quebra-cabeças de montagem conjunta (por parte do degustador da obra e da acadêmica que a produziu). Quando encaixadas as peças, é possível lutar o bom combate. É isto, em “A máquina da vergonha”, prova Cathy O’Neil.

• Márcia Denser escreveu um dos grandes livros brasileiros dos anos 1980

Trecho do livro

“O gerenciamento de reputação e o vasto ecossistema econômico do constrangimento digital oferecem infinitas oportunidades de se ganhar dinheiro. Em uma tarde gelada de Nova Iorque, estou sentada com um grupo de jovens mulheres. Elas são estudantes do último ano de uma escola privada de elite da cidade. Por quase qualquer critério, elas levam vidas encantadoras, dentre as melhores que o século XXI pode proporcionar. Se estiverem indo mal em matemática, terão professores particulares. Se tiverem acne no rosto, o dermatologista estará lá. Seus pais irão gastar o que for preciso para ajuda-las a elevar suas notas para o patamar correto. Dinheiro não é problema. A essa altura (....) a maioria delas já foi aceita nas faculdades e universidades de maior prestígio do país. Essa barreira ficou para trás. Em uma sociedade marcada pela desigualdade, elas estão do lado vencedor. E, no entanto, quando trago o assunto da vergonha é como se tivesse tirado a tapa de um caldeirão efervescente. Transbordam histórias horripilantes sobre humilhações e classificações [nas redes]”.

“A máquina da vergonha”
• Cathy O’Neil
• Tradução de Raphael Abraham
• Rua do Sabão Editora
• 312 páginas
• R$ 60