IA na saúde, aliada ou vilã?
Pelo Dr. André Rizzuti
Olá futuros centenários! 💙
Quero conhecer um pouco melhor vocês que leem a nossa newsletter toda semana!
Pra isso, fiz uma pesquisa que leva menos de 3 minutos para ser respondida, me ajuda?
Vamos lá?
Tempo de leitura: ~ 3 minutos e 38 segundos
💡Os especialistas compartilharam essa semana
🛑 Dr. André Rizzuti - Mounjaro para sempre? Quando e como parar o tratamento
📱 Dra. Gabriela Prado - Como o tempo de tela nas redes sociais nos afeta
📏 Dr. Rodrigo Bomeny - Você conhece a Relação Cintura-Altura?
Quer ter acesso ao grupo e à todos esses conteúdos?
IA na saúde, aliada ou vilã?
Pessoal, Renato já trouxe um pouco da visão olhando para o uso da IA na saúde, principalmente por parte dos médicos. Quero trazer hoje sob a ótica do uso por pacientes e aproveitar para citar um estudo atual que saiu com o GPT.
Quando falamos de IA na medicina, temos um universo. O uso no auxílio do reconhecimento de padrões em exames de imagem, processamento e integração de dados, algoritmos de previsão etc. Mas um ponto importante que eu gostaria de trazer para vocês é sobre o alerta do uso da IA pelos pacientes.
As IAs comuns que muitos devem utilizar por aqui (gemini, grok, gpt, claude e outros), vão te dar respostas baseadas na qualidade das suas perguntas. É aqui que mora o primeiro perigo. Quanto mais genérica a pergunta, menos direcionada será a resposta para seu contexto clínico.
Isso pode fazer uma simples pergunta de um exame com uma alteração sutil de uma enzima como a TGP te fazer achar que pode estar com um dano hepático sério. Ou pode fazer você achar que um refluxo esofágico após uma refeição fora da rotina, esteja mimetizando sintomas de um infarto e você associar com um medicamento que esteja tomando, deixando-o mais ansioso e com convicções erradas.
Então basta perguntar com mais detalhes?
Não necessariamente, a maioria das IAs comuns é programada para ser amigável com o usuário e possuir um viés de confirmação. Ou seja, elas tendem a dar respostas que concordam com o que a pergunta possa estar sugerindo de acordo com a forma como é feita (e até as interações anteriores).
Esse estudo com o GPT é interessante, intitulado ”Quantifying the Bias of Large Language Models in Answering Delusional Questions”, ele revela que modelos como o GPT podem não apenas concordar com premissas falsas, mas também amplificar delírios e inventar referências inexistentes.
Segundo o estudo, essas IAs apresentam uma tendência preocupante de confirmar crenças bizarras ou clinicamente infundadas dependendo da forma como o questionamento é estruturado, falhando na neutralidade que se espera de um assistente de saúde.
Além do viés de confirmação, o fenômeno das “alucinações” representa um risco crítico. Algumas IAs são capazes de inventar informações, estatísticas e dados que não tem origem. Eu mesmo ja testei e forcei perguntas que a fizeram me enviar “DOI/registros de estudos” que simplesmente não existem.
Não devo utilizar então?
Não foi o que eu quis trazer como mensagem, mas é importante ter muito cuidado com o grau de confiança que você dá nas informações que obtém e até na forma como a IA te faz achar que está certo.
Tenho atendido cada vez mais pacientes que tem passado por problemas criados por pesquisas enviesadas e convicções erradas com IA.
É importante usar como uma ferramenta para acelerar o aprendizado, mas para autodiagnostico, definitivamente ainda não..
Pode parecer óbvio para muitos, mas não deixem se enganar, o viés de confirmação muitas vezes alimenta linhas que nossa fragilidade do momento impede a ação do filtro próprio. Esse estudo que mencionei mostra um caso de um adulto saudável que começou a ter delírios que era um super-herói da vida real, mostra todas as interações e como tudo evoluiu. Mas de volta aqui ao contexto de saúde.
IA na Centeni
Aqui na Centeni, não usamos IA de forma genérica, com nossos pacientes usamos os protocolos e moldes criados por nós, como forma de triagem e curadoria das diretrizes de cada um dos especialistas.
Usamos a IA com a nossa base e como forma de integrar os dados de saúde e de exames dos nossos pacientes, é um trabalho que envolve tecnologia, que unifica os seus exames, sejam eles de imagem/função e/ou sangue, usam essa base de nossa autoria e nos dão a visão genuinamente integrada da sua saúde.
Entre no grupo
Se você assinou o plano anual e ainda não está no nosso grupo de WhatsApp me manda uma mensagem aqui!
Nos vemos amanhã,
Vida longa! 💯
Sofia
Em busca de futuros centenários
Tenho certeza que assim como você, outras pessoas também vão adorar descobrir como viver além dos 100 anos! 💙
Manda essa news para elas :)