Carta de Musk e cientistas sobre pausa na IA gera debate

A carta pública assinada pelo magnata Elon Musk e por centenas de especialistas para interromper o desenvolvimento da Inteligência Artificial (IA) provocou um debate entre acadêmicos nas redes nesta quinta-feira (30).

Os vertiginosos avanços da IA levaram Musk, fundador da gigante dos carros elétricos Tesla e atual dono do Twitter, a assinar essa carta, diante do que ele chama de "dramática perturbação econômica e política (especialmente para a democracia) que a IA causará".

Apesar de a carta, publicada no site futureoflife.org, ter sido assinada por pensadores independentes, como o historiador Yuval Noah Hariri, ou o cofundador da Apple, Steve Wozniak, alguns acadêmicos protestam contra o que consideram uma má interpretação da discussão.

Timnit Gebru, uma pesquisadora especializada em ética da Inteligência Artificial, escreveu um artigo acadêmico que foi citado na carta e manifestou sua insatisfação com o uso que se fez do texto.

"Eles basicamente dizem o contrário do que dissemos e citamos em nosso artigo", critica.

A outra autora do artigo, Emily Bender, descreve a carta aberta como uma "confusão".

"Nos últimos meses, vimos laboratórios de IA se lançarem em uma corrida descontrolada para desenvolver e implantar cérebros digitais cada vez mais poderosos que ninguém, nem mesmo seus criadores, pode entender, prever, ou controlar com segurança", dizem Musk e os especialistas.

O diretor da Open AI, que projetou o ChatGPT, Sam Altman, admitiu que tem "um pouco de medo" de que seu algoritmo seja usado para "desinformação em larga escala, ou para ciberataques".

As acadêmicas Gebru e Bender afirmam, no entanto, que o perigo da IA é "a concentração de poder nas mãos de pessoas, a reprodução de sistemas de opressão, o dano ao ecossistema da informação".

Um dos signatários da carta aberta, Emad Mostaque, fundador da empresa britânica Stability AI, afirmou se retratar da demanda de uma moratória de seis meses.

"Não acho que um hiato de seis meses seja a melhor ideia", disse ele no Twitter.

- Sem contradições -

O professor de psicologia Gary Marcus, signatário da carta, considera em uma contrarresposta que "os céticos devem emitir um alarme; não há contradição a esse respeito".

Embora gigantes da indústria como Google, Meta e Microsoft tenham passado anos pesquisando programas baseados em IA para acelerar tarefas como tradução, ou publicidade direcionada, foram os algoritmos de empresas como a OpenAI que causaram controvérsia.

Seu robô conversacional ChatGPT, capaz de realizar conversas complexas com humanos, acaba de ser atualizado com uma nova versão, GPT-4, ainda mais potente.

"Devemos permitir que as máquinas inundem nossos canais de informação com propaganda e mentiras? Devemos automatizar todos os trabalhos, incluindo os gratificantes? (...) Devemos nos arriscar a perder o controle da nossa civilização? Essas decisões não devem ser delegadas a líderes tecnológicos não eleitos", dizem os signatários da carta.