Homenagem a Kafka propõe reflexões sobre a Inteligência Artificial

Virgilio Almeida

Especial para o EM

Estamos vivendo o limiar de um tempo em que máquinas e dispositivos inteligentes podem vir a substituir o ser humano em diversas atividades, gerando uma nova ordem. Máquinas, no sentido amplo, incluindo os computadores, celulares, software e algoritmos, que fazem e irão cada vez mais fazer tarefas que até então pensávamos ser exclusividade de nós humanos.

Siga nosso canal no WhatsApp e receba em primeira mão notícias relevantes para o seu dia

O alicerce fundamental da vida contemporânea vai sendo gradativamente deslocado para o mundo digital, que através de plataformas, aplicativos, algoritmos, celulares e computadores interage com todos, indistintamente. Governos, empresas operam em cima das plataformas, que oferecem com eficiência e rapidez serviços e produtos à sociedade. No entanto, esse mundo digital constitui um terreno fértil para o renascimento de labirintos que Franz Kafka tanto explorou em sua literatura.

Sem os contos e os romances desse escritor de Praga, não seríamos capazes de entender, com a clareza possível de hoje, os sentimentos de impotência e indefensabilidade que indivíduos isoladamente ou grupos minoritários muitas vezes sentem frente às múltiplas faces dos sistemas de poder, agora ampliadas pelo avanço da inteligência artificial (IA).

A homenagem aos 100 anos da morte do escritor Franz Kafka, em 1924, evidencia a importância das humanidades, artes e literatura para refletir sobre os avanços da inteligência artificial. Em “O processo”, Kafka conta a história de Josef K., procurador de um banco que se vê processado sem nunca chegar a saber por quê. `

• Reiner Stach: 'Os anos decisivos' de Kafka

• Tradutor dos 'Diários' explica por que obra de Kafka segue atual

• Kafka sofreu com o autoritarismo, discriminação e falta de um amor pleno

“Alguém certamente havia caluniado Josef K. pois uma manhã ele foi detido sem ter feito mal algum.’’, assim começa “O processo”. Nessa obra, o personagem é considerado culpado de algum crime, cujo teor não é divulgado. Na tentativa de provar sua inocência, K. submete-se a vários procedimentos nos tribunais. Um labirinto de leis e personagens enigmáticos, de caráter duvidoso, formam o pesadelo de K.

 
“O processo” começa com dois oficiais informando a Josef K. que ele está preso. Um dos oficiais diz para K.: “Não posso absolutamente lhe dizer que é acusado, ou melhor, eu não sei se o é. O senhor está detido, isso é certo, mas eu não sei.’’ K. tenta desesperadamente entender o que está acontecendo, mas descobre muito pouco. Como já foi dito, Kafka retrata um processo marcado pela indiferença burocrática, erros arbitrários e desumanização, onde as pessoas se sentem impotentes e vulneráveis, sem participação significativa no uso ou coleta de suas informações.

Em sua luta, K. busca desesperadamente compreender as acusações contra ele, mas, ao perder a vontade de resistir, é executado. “O processo” pode ser visto como uma sátira que expõe os exageros e absurdos de certas burocracias do poder, que, aos nossos olhos, parecem sem sentido. Contudo, esses mesmos absurdos estão presentes em muitas estruturas da vida contemporânea, refletindo o cenário kafkiano da obra.

• Franz Kafka: característica narrativa está nos protagonistas do autor

• Kafka segue influente na literatura cem anos após sua morte

• Kafka em processo

O avanço da inteligência artificial levanta preocupações sobre o risco de o controle em várias esferas da vida escapar das mãos humanas, sendo transferido para robôs e sistemas de IA. Na busca por informações sobre seu caso, K. percorre prédios judiciais e labirintos sombrios e abafados, repletos de caos e desordem, onde ninguém é capaz de fornecer respostas claras. Essa jornada reflete a inquietação da sociedade moderna diante a opacidade da IA, caixas-pretas indecifráveis, que impactam diretamente nossas vidas.

O avanço da inteligência artificial abre um horizonte de possibilidades positivas, acompanhado no entanto por incertezas e riscos. Trata-se de um cenário ainda desconcertante, com muitas perguntas. Que nova ordem é essa, onde humanos e máquinas vão coexistir? Como a sociedade deve se preparar para esse novo tempo? De onde virão os sinais para se entender e moldar um futuro mais seguro e humano? Das artes, da literatura? Da ciência?

Nestes tempos de incerteza, chama a atenção o impressionante poder da literatura. Apesar de ter sido escrita há mais de um século, a atualidade da obra de Franz Kafka torna visível um problema central das tecnologias digitais e automação: a maneira como os indivíduos são tornados impotentes e vulneráveis. “O processo” é um exemplo poderoso de como a liberdade da literatura pode inspirar a criação de imagens eficazes para compreender os riscos associados aos novos tempos.

Como refletiu K., “o que aconteceu comigo é somente um caso isolado, e como tal não muito importante, já que eu não o levo muito a sério, mas é um indício de como se move um processo contra tantas pessoas”. A tomada de decisão por algoritmos de IA pode ter consequências diretas e potencialmente de longo alcance para indivíduos e sociedade. Será que os cidadãos devem aceitar passivamente as decisões algorítmicas ou rejeitar decisões tomadas por não-humanos em certas condições? Quais requisitos e garantias precisam ser atendidos para promover a aceitação dessas decisões?

Essas são questões urgentes, como demonstram vários alertas contundentes sobre o futuro distópico presente no discurso sobre IA.

De fato, decisões tomadas por algoritmos, muitas vezes opacos e incompreensíveis, podem ser percebidas como kafkianas pelos cidadãos afetados. Em 2020, a pandemia de COVID-19 e as medidas distanciamento social levaram a um aumento sem precedentes no uso de serviços digitais. Esse contexto acelerou a digitalização em diversos setores, incluindo as políticas públicas.

Um exemplo marcante foi o auxílio emergencial que utilizou ferramentas digitais para atender, através de auxílios sociais, grande parte da população mais vulnerável durante a pandemia. No entanto, os instrumentos digitais utilizados na administração pública não são neutros. Eles podem, por exemplo, influenciar quem tem acesso aos serviços, quem é excluído e como as solicitações são processadas.

As decisões geradas pelo serviço desenvolvido pelo governo determinavam automaticamente a concessão ou negativa do benefício, através de algoritmos, sem qualquer intervenção humana. Dada a ausência de mecanismos administrativos para revisar essas decisões automatizadas, a principal forma de contestação e solicitação de análise humana foi por meio da via judicial.

O que chamamos de inteligência artificial é uma combinação complexa de algoritmos e dados, em sistemas capazes de tomar decisões autônomas com base em padrões encontrados em grandes volumes de dados. Algoritmos não são apenas processos computacionais abstratos, mas ferramentas capazes de moldar realidades materiais ao influenciar a vida social, política e econômica em diferentes níveis, sobre os quais os indivíduos têm cada vez menos controle. São, sem dúvida, instrumentos de poder, que estão redefinindo dinâmicas de autoridade e controle, por vezes colocando em risco a proteção e direitos fundamentais dos indivíduos.

A crescente dependência da sociedade moderna de sistemas digitais nos leva a refletir sobre a ficção de Kafka. É fundamental evitar um futuro kafkiano! Uma das lições extraídas da obra de Kafka aplicável às tecnologias emergentes é a necessidade de limitar o poder de grandes corporações tecnológicas, cujos serviços podem explorar e manipular pessoas. É indispensável assegurar a proteção dos indivíduos, das comunidades e da sociedade como um todo diante dos potenciais riscos trazidos pelas novas tecnologias.

Longe de ser uma visão pessimista da modernidade, a obra de Kafka pode ser interpretada como um alerta para a importância da participação ativa da sociedade na defesa do papel do humano e direitos fundamentais. O desencanto aparentemente presente na ficção de Kafka não precisa ser visto como o fim da utopia da ciência ou da tecnologia.

Pelo contrário, o desenvolvimento científico e tecnológico trouxe benefícios inimagináveis para a humanidade. No entanto, como Kafka sabiamente escreve em “O processo”, “as vantagens e desvantagens se distinguem uma das outras por um fio de cabelo.” 

VIRGÍLIO ALMEIDA é professor emérito do Departamento de Ciência da Computação da UFMG e professor associado ao Berkman Klein Center da Universidade de Harvard.