Há alguns anos, dois pesquisadores selecionaram os 50 ingredientes mais utilizados em um livro de cozinha e analisaram quantos deles haviam sido associados a um risco ou benefício em relação ao câncer em diversos estudos publicados em revistas científicas.
A resposta: 40 de 50, uma lista que inclui sal, farinha, salsinha e açúcar. "Tudo que comemos está relacionado com o câncer?", se perguntaram depois, ironicamente, em seu artigo publicado em 2013.
Sua pergunta está relacionada a um problema conhecido, mas persistente no mundo da pesquisa: muitos estudos utilizam amostras que são pequenas demais para alcançar conclusões generalizáveis.
Mas a pressão sobre os pesquisadores, a concorrência entre as revistas e o apetite insaciável dos meios por estudos que anunciem revoluções ou grandes descobertas faz com que estes artigos continuem sendo publicados.
"A maioria dos artigos publicados, inclusive em revistas sérias, é fraca", diz à AFP um dos autores, John Ioannidis, professor de medicina em Stanford, especializado no estudo de estudos.
O pesquisador mostrou em um artigo de 2005 "porque a maioria dos estudos publicados é falsa".
Desde então, diz, só foram feitos alguns progressos.
Algumas revistas exigem que os autores proporcionem seus dados brutos e publiquem previamente seu protocolo. Esta transparência evita que os pesquisadores alterem seus métodos e dados para encontrar um resultado, qualquer que seja. Também permite que outros verifiquem ou "repliquem" o estudo.
Quando voltam a ser feitos, os experimentos raramente levam aos mesmos resultados. Só um terço dos 100 estudos publicados nas três revistas de psicologia mais prestigiosas puderam ser reproduzidos por pesquisadores, em uma análise publicada em 2015.
A medicina, a epidemiologia, os ensaios clínicos de medicamentos e os estudos de nutrição não funcionam muito melhor, insiste Ioannidis, especialmente durante as repetições.
"Nas ciências biomédicas e em outros lugares, os cientistas não se formam o suficiente em estatística e metodologia", acrescenta.
Muitos estudos se concentram em poucos indivíduos, o que faz com que o resultado seja impossível de generalizar a uma população total, já que é pouco provável que os participantes selecionados sejam representativos.
- Café e vinho tinto -
"A dieta alimentar é uma das áreas mais lamentáveis", afirma Ioannidis, e não só pelos conflitos de interesses com a indústria agroalimentar. Os pesquisadores com frequência buscam correlações em enormes bases de dados, sem hipóteses de partida.
Além disso, "medir uma dieta é extremamente difícil", explica. Como quantificar exatamente o que as pessoas comem?
Inclusive quando o método é bom, com um estudo feito de forma aleatória onde os participantes são selecionados ao acaso, a execução às vezes deixa a desejar.
Um famoso estudo de 2013 sobre os benefícios da dieta mediterrânea em relação a doenças cardíacas teve de ser retirado em junho pela prestigiosa revista médica The New England Journal of Medicine, já que os participantes não haviam sido recrutados de forma aleatória; os resultados foram revisados para baixo.
Então, o que escolher na avalanche de estudos publicados todos os dias?
Ioannidis recomenda fazer as seguintes perguntas: É um estudo isolado ou reforça trabalhos existentes? A amostra é pequena ou grande? É um experimento aleatório? Quem o financiou? Os pesquisadores são transparentes?
Estas precauções são fundamentais na medicina, onde os maus estudos contribuem para a adoção de tratamentos que no melhor dos casos são ineficazes e no pior, prejudiciais.
Em seu livro "Ending Medical Reversal", Vinayak Prasad e Adam Cifu citam exemplos terríveis de práticas adotadas sobre a base de estudos que foram invalidados anos mais tarde, como a colocação de stents em uma artéria do cérebro para reduzir o risco de acidente vascular cerebral. Dez anos depois, um estudo rigoroso mostrou que a prática na verdade aumentava o risco de AVC.
A solução requer o ajuste coletivo dos critérios conjuntos para os agentes da pesquisa, não só revistas: universidades, organismos de financiamento públicos, laboratórios. Mas todas estas entidades estão sujeitas à concorrência.
"O sistema não incita as pessoas a irem na direção correta", diz à AFP Ivan Oransky, jornalista cofundador do site Retraction Watch, que cobre as retiradas de artigos científicos. "Queremos desenvolver uma cultura na qual premiemos a transparência".
Os meios têm também sua cota de responsabilidade, pois segundo ele devem explicar melhor a seus leitores as incertezas inerentes à pesquisa científica, e evitar o sensacionalismo.
"O problema é a interminável sucessão de estudos sobre café, chocolate e vinho tinto", se queixa. "Temos que parar".