Alerta dado para quem usa o ChatGPT para aconselhamento médico após novo estudo revelar resultados preocupantes

O hábito de recorrer à inteligência artificial para tirar dúvidas sobre sintomas ou buscar orientações de saúde tornou-se rotina para muitos internautas. No entanto, um novo estudo publicado na revista BMJ Open traz um alerta necessário: confiar cegamente nessas respostas pode ser um risco real.

Pesquisadores colocaram à prova cinco dos chatbots mais utilizados atualmente — Gemini, Meta AI, Grok, DeepSeek e ChatGPT — e os resultados foram, no mínimo, preocupantes. Segundo a equipe de especialistas, cerca de 50% das respostas fornecidas por essas ferramentas apresentaram problemas.

A situação é ainda mais grave ao notar que 20% do conteúdo foi classificado como "altamente problemático". Embora o desempenho geral não tenha variado muito entre as plataformas, o Grok, da empresa de Elon Musk, destacou-se negativamente por apresentar uma frequência de respostas perigosas acima do esperado.

O que mais inquieta os estudiosos é o tom de autoridade das IAs. Elas fornecem diagnósticos com uma confiança absoluta, raramente admitindo a possibilidade de erro. De 250 perguntas testadas, apenas a Meta AI se recusou a responder em dois momentos específicos. Em todos os outros casos, as máquinas ofereceram conselhos, mesmo quando o tema envolvia riscos críticos à saúde.

O desempenho varia conforme o assunto. Enquanto as ferramentas se saíram melhor em temas já consolidados, como vacinação e oncologia, elas falharam drasticamente em áreas como nutrição, desempenho atlético e células-tronco. Nesses casos, o risco de receber uma orientação sem base científica aumenta significativamente.

Além disso, a qualidade das fontes é precária. Com uma pontuação média de completude de apenas 40%, as IAs frequentemente recorrem a "alucinações", criando citações e referências bibliográficas que simplesmente não existem. Nenhuma das ferramentas foi capaz de listar fontes totalmente verídicas.

Para completar o problema, a linguagem utilizada é complexa demais. A maioria das respostas foi classificada como de difícil compreensão, exigindo um nível de vocabulário de estudante universitário avançado. Isso cria uma barreira perigosa: além da informação estar potencialmente errada, o usuário comum tem dificuldade de interpretá-la corretamente.

Os autores do estudo concluem que, no estado atual, essas ferramentas são inadequadas para a prática médica e podem propagar desinformação em massa. O consenso é claro: a tecnologia, por mais avançada que pareça, não substitui o julgamento crítico e a expertise de um profissional de saúde humano. O uso dessas ferramentas sem supervisão ou educação pública adequada pode, na verdade, amplificar erros médicos.