A inteligência artificial (IA) tem se desenvolvido rapidamente, sendo integrada em várias áreas, incluindo a saúde. A tecnologia é aplicada em diagnósticos, procedimentos e tratamentos, além de pesquisas com dados médicos. No entanto, o uso de IA na saúde ainda enfrenta desafios éticos e técnicos, sendo insuficiente para substituir a ação humana profissional. Um estudo recente publicado na revista British Medical Journal (BMJ) revelou preocupações sobre a confiabilidade dos chatbots de IA em fornecer informações médicas precisas.
O estudo destacou que o chatbot Bing, alimentado pelo Microsoft Copilot, não é totalmente confiável para pacientes que buscam informações sobre medicamentos. As respostas da IA não correspondiam aos conhecimentos médicos em 24% dos casos e, em 3%, estavam completamente erradas. Além disso, a linguagem utilizada foi considerada complexa, exigindo um nível de leitura elevado.
Como a pesquisa avaliou o Microsoft Copilot?
Pesquisadores da Alemanha e da Bélgica realizaram um estudo para avaliar as respostas do Microsoft Copilot a perguntas sobre medicamentos. Foram testadas 10 perguntas frequentes sobre os 50 medicamentos mais prescritos nos Estados Unidos, gerando 500 respostas diferentes. Os pesquisadores analisaram a legibilidade, integridade e precisão das respostas, aspectos fundamentais para a compreensão dos pacientes e para o tratamento adequado.
Os resultados mostraram que 54% das respostas estavam alinhadas ao consenso científico, enquanto 39% contradiziam o conhecimento médico. Além disso, 42% das respostas poderiam induzir a danos moderados ou leves à saúde, e 22% poderiam resultar em danos graves ou morte. A pesquisa também indicou que a compreensão das informações exigia um nível educacional elevado, segundo a escala Flesch Reading Ease Score.
A IA deve ser descartada da área da saúde?
O estudo com o Copilot levanta preocupações sobre o uso de IA em diagnósticos e auxílio a pacientes. No entanto, o desempenho insatisfatório da ferramenta nesses testes não significa que a tecnologia deva ser eliminada do setor. Chatbots de IA são treinados com grandes bases de dados disponíveis na internet, que podem conter informações falsas ou imprecisas. Portanto, é crucial garantir a ética e a eficácia dessas ferramentas em tratamentos envolvendo seres humanos.
Quais são os potenciais da IA na saúde?
Apesar dos desafios, a IA na saúde mostra-se promissora. Ferramentas que utilizam aprendizado de máquina especializado já apresentam resultados superiores à média de acertos dos médicos em certas áreas, como a detecção de câncer de mama. A IA também desempenha um papel importante na análise de imagens, auxiliando na detecção precoce de doenças e acelerando a interpretação de exames complexos. Além disso, a tecnologia é útil para identificar novos candidatos a medicamentos e processar grandes volumes de dados, oferecendo assistência a profissionais e pesquisadores do setor.
Em suma, enquanto a IA na saúde ainda enfrenta desafios significativos, seu potencial para transformar o setor é inegável. Com o desenvolvimento contínuo e a implementação de medidas de segurança adequadas, a IA pode se tornar uma ferramenta valiosa para melhorar os cuidados de saúde e a pesquisa médica.
