Confiança em conselhos de saúde fornecidos por chatbots de IA é questionada

Usuária de chatbot de saúde relata experiências positivas e negativas com a IA.

Abi, residente em Manchester, tem utilizado o ChatGPT para obter conselhos sobre sua saúde ao longo do último ano. A busca por assistência médica pode ser desafiadora, e a inteligência artificial se apresenta como uma alternativa sempre disponível para responder a dúvidas.

A facilidade de acesso ao chatbot é um dos principais atrativos. Em situações onde é difícil conseguir uma consulta com um clínico geral, a IA se mostra pronta para ajudar. Além disso, o chatbot já demonstrou competência ao ser testado em exames médicos.

No entanto, surgem questionamentos sobre a confiabilidade das respostas fornecidas por ferramentas como ChatGPT, Gemini e Grok. A comparação com buscas tradicionais na internet levanta a dúvida se essas IAs oferecem um suporte mais seguro ou se, como alguns especialistas alertam, podem fornecer informações erradas que colocam a saúde em risco.

A ansiedade de Abi em relação à saúde a levou a buscar suporte mais personalizado através do chatbot, que, segundo ela, oferece orientações mais específicas do que as pesquisas convencionais, que frequentemente direcionam para informações alarmantes.

Ela descreve a interação com a IA como uma forma de resolver problemas de saúde em conjunto, quase como uma conversa com um médico. Contudo, Abi já vivenciou tanto os benefícios quanto os riscos associados ao uso de chatbots para conselhos médicos.

Em uma ocasião, ao suspeitar de uma infecção urinária, o ChatGPT recomendou que ela procurasse um farmacêutico, resultando em uma consulta que culminou na obtenção de uma receita de antibiótico, prática permitida no Reino Unido.

Abi destacou que a assistência do chatbot foi útil, permitindo-lhe evitar a sensação de estar ocupando o tempo do serviço público de saúde britânico, especialmente em momentos em que ela se sentia hesitante em buscar ajuda médica.

No entanto, em um episódio mais grave, após uma queda que causou dor intensa, o ChatGPT sugeriu que ela poderia ter perfurado um órgão e deveria ir ao pronto-socorro imediatamente. Após esperar três horas, Abi percebeu que não era nada sério, levando-a a concluir que a IA havia interpretado mal a situação.

A popularidade dos chatbots na área da saúde está crescendo, mas a extensão do seu uso e a qualidade das informações que fornecem ainda geram preocupação. O diretor médico da Inglaterra alertou que, embora as pessoas estejam recorrendo à IA, as respostas frequentemente não são adequadas e podem ser apresentadas com uma falsa sensação de certeza.

Pesquisadores da Universidade de Oxford estão investigando as capacidades e limitações dos chatbots. Em um estudo, a precisão dos diagnósticos fornecidos pelos chatbots foi impressionante em cenários completos, alcançando 95%. Contudo, a precisão caiu para apenas 35% quando interações humanas foram envolvidas, evidenciando a dificuldade de comunicação e a possibilidade de erros significativos.

Entre os desafios enfrentados pelos chatbots, a forma como os sintomas são descritos pelos usuários pode impactar drasticamente a qualidade das respostas. Um estudo demonstrou que a interpretação errada de sintomas críticos pode levar a orientações inadequadas, como sugerir repouso para condições graves.

As diferenças entre a interação com um chatbot e uma pesquisa tradicional na internet também são notáveis. Enquanto a pesquisa pode direcionar o usuário a fontes confiáveis, a interação com a IA pode criar uma ilusão de personalização que altera a percepção da informação recebida.

Pesquisas adicionais demonstraram que os chatbots podem disseminar desinformação, especialmente quando questionados sobre tópicos complexos como câncer e vacinas. A confiança que os usuários depositam nas respostas dos chatbots pode ser enganosa, pois eles tendem a apresentar informações de maneira assertiva, levando à crença de que são fontes confiáveis.

Embora a OpenAI, desenvolvedora do ChatGPT, reconheça a importância de fornecer respostas seguras e confiáveis, a recomendação é que essas ferramentas sejam utilizadas para informação e educação, não como substitutos para a assistência médica profissional.

Abi continua a usar chatbots, mas enfatiza a importância de analisar as informações com cautela, ressaltando que nem sempre a IA interpreta corretamente as situações. A confiança plena nas respostas da IA não deve ser uma prática comum.