LLMs e Multimodalidade: a nova fronteira da inteligência clínica
Da fluência estatística ao cuidado seguro, auditável e humano-no-loop
Abertura: o assistente que fala bonito
LLMs transformaram a experiência de conversar com máquinas. O problema é que a clínica não premia apenas fluência: ela exige evidência, contexto, incerteza explícita e responsabilidade.
Exemplo aplicado: um chatbot “completa” a história de um paciente e sugere suspender um anticoagulante sem perceber uma prótese valvar mecânica no prontuário.
Sugestão visual: contraste entre “resposta polida” e “risco invisível”: uma fala elegante, mas conectada a sinais de alerta.
Quando uma resposta soa segura, o que nos faz verificar — e o que nos faz baixar a guarda?
O paradoxo: competência aparente, responsabilidade real
Mensagem central: desempenho em benchmark é evidência útil, mas não equivale a segurança operacional.
Estudos como Med-PaLM e avaliações em exames médicos mostram avanços impressionantes. Ainda assim, os próprios trabalhos enfatizam limitações: respostas podem ser incompletas, enviesadas, não verificáveis ou clinicamente arriscadas.
Exemplo aplicado: acertar uma questão de múltipla escolha sobre insuficiência cardíaca é diferente de reconciliar medicamentos, alergias, função renal e preferências do paciente em uma alta hospitalar.
Que tipo de evidência você exigiria antes de permitir que um LLM entrasse no fluxo assistencial?
Referências: Singhal et al. (2023); Kung et al. (2023); Bommasani et al. (2021).
O que é um modelo fundacional?
Eles aprendem representações gerais a partir de grandes volumes de dados e depois são adaptados por instruções, exemplos, ajuste fino, ferramentas externas ou integração ao sistema clínico.
Exemplo aplicado: o mesmo modelo pode resumir uma internação, responder perguntas sobre um protocolo, sugerir códigos ICD-10 e explicar um laudo — mas cada uso exige validação própria.
Sugestão visual: “plataforma” no centro e várias tarefas clínicas orbitando ao redor.
Quais tarefas da sua prática parecem reutilizar o mesmo tipo de raciocínio textual?
Transformers: atenção como leitura contextual
Em vez de tratar palavras como peças fixas, o mecanismo de atenção calcula quais partes do texto importam para interpretar cada ponto. “Alta”, por exemplo, pode significar pressão alta, alta hospitalar ou alta complexidade.
Exemplo aplicado: em “paciente recebeu alta com PA alta”, o modelo precisa separar evento administrativo de achado fisiológico.
Que palavras ambíguas da medicina confundem humanos — e provavelmente confundem modelos?
Referência: Vaswani et al. (2017).
BERT, GPT e a diferença entre compreender e gerar
BERT lê o texto em duas direções e é muito usado para classificação, extração e embeddings. Modelos tipo GPT geram o próximo token sequencialmente, o que favorece diálogo, síntese e produção de texto.
Exemplo aplicado: BERT clínico pode identificar menção a “sepse”; um GPT pode redigir um resumo do caso — e também pode inventar se não estiver ancorado.
Em qual tarefa clínica você preferiria um classificador robusto em vez de um gerador criativo?
Referências: Devlin et al. (2019); Brown et al. (2020).
Pipeline de um LLM clínico: onde o risco entra
Dados de treinamento, instruções, prompt, recuperação de evidências, filtros, interface e revisão humana moldam a saída. Um bom modelo em uma má implementação ainda pode gerar dano.
Em que etapa do pipeline você colocaria a barreira de segurança mais forte?
Tarefa crítica 1: sumarização clínica
Um bom resumo clínico precisa preservar diagnóstico ativo, medicamentos, alergias, exames críticos, pendências, incertezas e plano. O risco está no “resumo bonito” que omite uma informação pequena, mas decisiva.
Exemplo aplicado: em pronto-socorro, um resumo longitudinal pode destacar “transplante renal”, “imunossupressão” e “febre” antes mesmo de o médico ler anos de evolução.
O que jamais poderia ser omitido em um resumo de alta da sua especialidade?
Tarefa crítica 2: codificação clínica
Códigos são usados para faturamento, vigilância, pesquisa, auditoria e gestão. Um LLM pode sugerir códigos, mas o hospital precisa controlar evidência textual, justificativa e revisão.
Exemplo aplicado: “história familiar de diabetes” não deve virar “diabetes do paciente”.
Quais consequências aparecem quando um código errado entra no banco de dados institucional?
Multimodalidade: um paciente não cabe em texto
O prontuário tem narrativa; a radiologia tem imagem; UTI tem séries temporais; laboratório tem medidas; genômica tem sequências. O desafio é alinhar essas linguagens sem perder qualidade, origem e temporalidade.
Exemplo aplicado: uma triagem pode combinar dispneia relatada, saturação do smartwatch, ECG, RX de tórax e histórico de insuficiência cardíaca.
Que modalidade costuma ser decisiva no seu problema clínico — e qual costuma ser ignorada?
Referências: Moor et al. (2023); Rajpurkar et al. (2022).
Exemplo: HARVEST e a ideia de resumo visual
Sistemas de sumarização longitudinal, como a família de ideias associada ao HARVEST, tentam transformar centenas de notas em uma visão navegável: conceitos recorrentes, eventos relevantes, linha do tempo e evidências clicáveis.
Exemplo aplicado: no pronto-socorro, antes de abrir 40 evoluções, o médico vê que “neoplasia”, “trombose”, “apixabana” e “queda” aparecem próximos no histórico.
Que visualização ajudaria mais em um plantão: linha do tempo, mapa de problemas, lista de pendências ou alerta de risco?
Exemplo: chatbot antes da consulta
O uso mais seguro é coletar história, organizar sintomas, solicitar documentos e sinalizar alertas para revisão humana. O uso mais arriscado é dar orientação final sem examinar, sem acesso ao prontuário e sem governança.
Que perguntas um chatbot poderia fazer antes da consulta sem ultrapassar a fronteira clínica?
O inimigo íntimo: alucinação
Na clínica, isso pode aparecer como medicação inventada, dose errada, exame inexistente, data deslocada, diagnóstico assumido, alergia omitida ou recomendação sem base.
Exemplo aplicado: “tomografia sem sangramento” em paciente que nunca fez tomografia durante a internação.
Qual alucinação seria mais difícil de detectar em uma nota clínica real?
Referência: Ji et al. (2023).
RAG: ancorar a resposta em evidência recuperada
Retrieval-Augmented Generation recupera documentos relevantes — protocolos, notas, exames, bulas, diretrizes — e usa esse material como contexto para gerar resposta. Em saúde, a resposta precisa vir com fonte, data e limites.
Exemplo aplicado: ao resumir uma alta, o modelo só pode mencionar medicação se houver prescrição ou evolução recuperada que sustente a afirmação.
Quais fontes seriam confiáveis para um RAG hospitalar — e quais não deveriam entrar?
Referência: Lewis et al. (2020).
Privacidade: o prontuário não é só texto
Privacidade não se resolve apenas removendo nome e CPF. Notas clínicas têm quase-identificadores, eventos raros, datas, locais e combinações que podem reidentificar pessoas.
Exemplo aplicado: “professora de 43 anos, transplante hepático raro, cidade pequena” pode ser identificável mesmo sem nome.
Que dados você nunca enviaria a um serviço externo sem acordo institucional explícito?
Um protocolo mínimo para LLMs clínicos
Mensagem central: antes de perguntar “qual modelo?”, pergunte “qual tarefa, qual risco, qual fonte, qual revisão e qual métrica de segurança?”.
Qual seria o primeiro caso de uso de baixo risco e alto valor para testar na sua instituição?