A OpenAI, empresa criadora do programa de inteligência artificial (IA) generativa ChatGPT, chegou a um acordo para permitir que o governo dos Estados Unidos tenha acesso a seus novos modelos de linguagem antes de serem lançados, com o objetivo de identificar possíveis riscos.
Os modelos de linguagem são programas que permitem gerar, conforme o caso, texto, imagens ou som a partir de uma instrução em linguagem comum, como o próprio ChatGPT.
O AI Safety Institute (Instituto de Segurança para a Inteligência Artificial), criado em 2023 pelo governo de Joe Biden, concluiu um acordo similar com um concorrente da OpenAI, a Anthropic, segundo um comunicado publicado nesta quinta-feira (29).
As duas startups se comprometeram a colaborar com o instituto para "avaliar as capacidades [dos modelos] e os riscos de segurança" que possam surgir, além de trabalhar em "métodos para gerenciar esses riscos", informou o organismo.
"Esses acordos são apenas um começo, mas marcam uma etapa importante para ajudar a orientar o futuro da IA em direção a uma abordagem responsável", resumiu Elizabeth Kelly, diretora do instituto, citada no comunicado.
O avanço desses modelos de linguagem (LLM) aumenta suas capacidades e os riscos associados, especialmente de uso mal-intencionado.
"Uma IA segura e confiável é determinante para que essa tecnologia possa ter um impacto positivo", explicou à AFP Jack Clark, cofundador da Anthropic.
tu-arp/Liu/mr/am/mvv