Evolução e Fundamentos da IA na Saúde
De sistemas especialistas à colaboração humano–máquina
Antes de começar: escolha uma posição
Se um sistema recomenda um tratamento melhor do que a maioria dos especialistas, ele está pronto para atender pacientes?
SIM
O desempenho já justifica o uso.
DEPENDE
Preciso saber como foi avaliado.
NÃO
Desempenho não basta para uso clínico.
Levante a mão, escolha uma posição e guarde seu argumento. Voltaremos a ele no final.
O mapa da nossa conversa
Hoje não vamos decorar uma cronologia. Vamos acompanhar como a IA mudou o modo de representar um problema clínico.
1
Representar
Conhecimento como regras
→
2
Aprender
Padrões a partir de dados
→
3
Decidir
Risco não é conduta
→
4
Integrar
Humano + máquina + contexto
Fio condutor: quando dizemos que “a IA acertou”, o que exatamente ela acertou?
1979: uma provocação incômoda
MYCIN
65%
aceitabilidade
×
Especialistas docentes
42,5–62,5%
aceitabilidade
Em uma avaliação cega, o sistema recomendou antimicrobianos tão bem quanto — ou melhor que — os comparadores humanos.
Mas atenção: eram dez casos de meningite, avaliados fora do cuidado real. Resultado promissor não é sinônimo de efetividade clínica.
O que ainda precisaríamos saber antes de colocar o MYCIN em um plantão?
Então por que a revolução parece tão recente?
Não houve uma descoberta isolada. Quatro forças passaram a operar juntas.
▦
Dados digitais
EHR, imagens, sinais e texto em escala
⚙
Computação
GPUs, nuvem e armazenamento
◎
Arquiteturas
Redes profundas e transformers
⇄
Infraestrutura
Integração e distribuição em massa
Mais dados clínicos significam necessariamente melhor conhecimento clínico?
Uma história feita de ciclos — não de uma linha reta
1956 · Dartmouth
O campo ganha nome e uma ambição.
1970–80 · Sistemas especialistas
Conhecimento vira regra computável.
2010s · Deep learning
Representações passam a ser aprendidas.
2020s · Modelos fundacionais
Uma interface geral para muitas tarefas.
O que essa narrativa tecnológica deixa fora do quadro — pacientes, trabalho, acesso, instituições?
História: Dartmouth AI. Imagem: Tarjomyar, CC BY-SA 4.0.
A primeira grande aposta: transformar expertise em regras
SE a infecção provável é meningite
E o organismo pode ser gram-negativo
E há alergia à penicilina
ENTÃO priorizar terapias compatíveis
COM CERTEZA 0,7
Dados do paciente
→
Regras + inferência
→
Hipótese + justificativa
A força está na explicitação: podemos inspecionar qual regra foi ativada. A fragilidade também: alguém precisa escrever, revisar e manter cada regra.
Uma regra visível é automaticamente compreensível — e útil — para quem toma a decisão?
MYCIN e INTERNIST-1 não queriam fazer a mesma coisa
| MYCIN | INTERNIST-1 | |
|---|---|---|
| Domínio | Infecções graves | Medicina interna |
| Pergunta principal | Qual organismo e qual terapia? | Qual diagnóstico explica os achados? |
| Estratégia | Regras + fatores de certeza | Relações entre achados e doenças |
| Força | Domínio estreito e justificável | Diagnóstico diferencial amplo |
| Limite | Muitas perguntas e manutenção | Representação simplificada da doença |
“Imitar o raciocínio médico” nunca foi uma única tarefa. Escolher o recorte já é uma decisão de projeto.
Para apoio clínico, você prefere um sistema estreito e profundo ou amplo e superficial?
O gargalo: conhecimento não cabe inteiro numa regra
O que conseguimos formalizar
protocolos · limiares · relações conhecidas
~ ~ ~ ~ ~ ~ ~ ~ ~ ~ ~ ~ ~ ~
O contexto que resiste à formalização
exceções · discordância · mudança epidemiológica
fluxo de trabalho · preferências · conhecimento tácito
Uma regra de antibiótico pode continuar logicamente correta e se tornar clinicamente inadequada quando muda o perfil local de resistência.
O que é mais difícil de atualizar: uma regra clínica ou um modelo treinado? Em que condições?
A mudança de paradigma
IA simbólica
Especialista escreve regras
conhecimento → programa
Vantagem: inspeção direta
Risco: exceções e manutenção
Aprendizado de máquina
Dados ajustam parâmetros
exemplos → função preditiva
Vantagem: escala e padrões complexos
Risco: atalhos e opacidade
Numa radiografia, o modelo pode aprender a doença — ou aprender o hospital, o aparelho, a posição do paciente e marcas deixadas no exame.
Aprender dos dados reduz ou apenas desloca a dependência de especialistas?
Deep learning: reconhecer um padrão não é compreender um caso
Pixels
O exame que entra
→
Padrão
O escore que sai
≠
Conduta
O que fazer com a pessoa
Em 2017, um classificador de lesões cutâneas foi comparado com 21 dermatologistas em tarefas binárias específicas. Foi um marco técnico — não uma autorização clínica universal.
Detectar um padrão compatível com pneumonia não decide, sozinho, sobre antibiótico, internação ou investigação alternativa.
O que o modelo pode estar vendo que não tem relação causal com a doença?
Esteva et al., Nature, 2017. Radiografia: U.S. Army, domínio público.
Pausa de dois minutos: encontre o atalho
Um modelo identifica pneumonia com alta acurácia no Hospital A, mas perde desempenho no Hospital B. O que ele pode ter aprendido?
Aparelho
Padrões do equipamento
Fluxo
Quem recebe cada exame
Gravidade
Posição e suporte usados
Instituição
Protocolos e prevalência
Converse com quem está ao lado. Proponham um teste que diferencie “aprendeu pneumonia” de “aprendeu o hospital”.
Modelos fundacionais: uma interface geral, novos modos de falhar
Prontuário
Notas, exames, prescrições
LLM
Prediz a próxima sequência plausível
✓ informação preservada
− informação omitida
! informação inventada
Um resumo de alta pode soar impecável e ainda omitir uma alergia, inventar um resultado ou trocar a ordem temporal dos eventos.
Fluência é uma propriedade da linguagem. Confiabilidade clínica é uma propriedade do sistema em uso.
Qual erro é mais perigoso: o absurdo evidente ou a falsidade discretamente plausível?
Três perguntas que não podemos misturar
AGORA
Diagnóstico
O que explica o quadro?
A dispneia é embolia pulmonar?
DEPOIS
Prognóstico
O que provavelmente acontecerá?
Qual o risco de deterioração em 24 h?
AÇÃO
Decisão
O que devemos fazer?
Devemos anticoagular antes da imagem?
Uma predição informa a decisão; ela não contém, sozinha, benefícios, danos, preferências e alternativas.
Em que ponto valores e preferências entram — e por que não podem ser inferidos apenas do risco?
Informática Cognitiva: a unidade é o conjunto
Humano
contexto · valores
responsabilidade · improvisação
Máquina
memória · consistência
escala · vigilância
Os dois erram — e podem amplificar o erro um do outro. O desenho da interação importa tanto quanto o modelo.
Uma segunda leitura algorítmica deve aparecer antes ou depois da primeira hipótese do médico?
Imagem: Bill Branson/National Cancer Institute, domínio público.
DIKW: a subida não é automática
DADOS
SpO₂ = 89%
INFORMAÇÃO
Há hipoxemia
CONHECIMENTO
Causas e riscos possíveis
SABEDORIA
Ação adequada para esta pessoa
A mesma saturação muda de significado conforme altitude, doença de base, tendência temporal, sintomas e metas terapêuticas.
Quem decide quando informação suficiente se tornou conhecimento acionável?
Do benchmark ao benefício clínico
1 Desempenho interno
Funciona nos dados de desenvolvimento?
2 Validação externa
Funciona em outro lugar e outra população?
3 Avaliação prospectiva
Funciona no fluxo real?
4 Impacto clínico
Melhora decisões e desfechos sem ampliar danos?
5 Monitoramento
Continua funcionando ao longo do tempo?
Um alerta mais sensível pode detectar mais casos e também aumentar fadiga, exames desnecessários e atrasos.
Qual desfecho convenceria você de que o sistema melhorou o cuidado — não apenas a métrica?
Explicar para quê?
Por quê?
Quais evidências sustentam a saída?
Comparado a quê?
Qual alternativa mudou?
Quando falha?
Quais limites e dados ausentes?
Quem responde?
Quem pode contestar e agir?
Uma explicação é útil quando permite verificar, contestar ou calibrar confiança — não quando apenas parece intuitiva.
Você aceitaria menor precisão em troca de uma explicação acionável? Quanto menor?
Caso André: o que sabemos — e o que estamos supondo?
André · falta de ar após voo longo
Dias antes
Sintomas virais
Voo prolongado
Imobilidade
Agora
Dispneia
?
SpO₂, FC, dor, edema, história
A tarefa não é adivinhar o diagnóstico. É tornar visíveis os dados, as lacunas e os pressupostos que cada abordagem usa.
Qual dado ausente mudaria mais sua conduta imediata — e por quê?
Atividade em grupos: duas representações do mesmo caso
GRUPO A · abordagem MYCIN
- Escreva 4–6 regras SE–ENTÃO.
- Atribua incerteza a uma conclusão.
- Mostre como o sistema justificaria a recomendação.
- Identifique uma exceção difícil de codificar.
GRUPO B · abordagem ML
- Defina população, desfecho e horizonte.
- Escolha as variáveis disponíveis antes da decisão.
- Diga onde surgem os rótulos.
- Identifique um paciente que pode ficar invisível.
12 min · construção8 min · crítica cruzada10 min · síntese
Que erro sua representação torna fácil de enxergar — e qual tende a esconder?
Debrief: regras e modelos deslocam o trabalho
Regras tornam visível
premissas · encadeamento · justificativa
Mas escondem
trabalho de manutenção · desacordo · contexto tácito
Modelos tornam visível
padrões · ranking de risco · desempenho agregado
Mas escondem
proveniência · atalhos · casos fora da distribuição
Nenhuma representação é neutra. Cada uma ilumina parte do problema e deixa outra parte na sombra.
Qual abordagem tornou mais explícita a responsabilidade pela decisão final?
Cinco ideias para levar
1 A IA em saúde tem história longa e descontínua.
2 Regras e modelos deslocam — não eliminam — o trabalho humano.
3 Diagnóstico, prognóstico e decisão são problemas diferentes.
4 Desempenho técnico não garante benefício clínico.
5 A unidade real de avaliação é sociotécnica.
A IA funciona para quem, em qual tarefa, com quais dados, em qual fluxo e sob qual governança?
Volte à sua resposta inicial
Se um sistema recomenda um tratamento melhor do que a maioria dos especialistas, ele está pronto para atender pacientes?
O que você manteria da sua resposta inicial?
O que você reformularia depois desta aula?
Qual evidência pediria antes de implantar o sistema?
Escreva uma frase. Depois, compartilhe com alguém que escolheu uma posição diferente no início.
Próximo encontro: o dado clínico não é matéria-prima neutra
EHR
decisões e registros
DICOM
imagens e protocolos
Sinais
tempo e artefatos
Texto
linguagem e contexto
Ausência de exame pode significar baixo risco, falta de acesso, decisão clínica, falha operacional — ou dado armazenado em outro sistema.
Em seu contexto, qual ausência de dado corre maior risco de ser confundida com ausência de doença?
Referências e créditos
Referências essenciais
- McCarthy, J. et al. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence (1955). História institucional.
- Yu, V. L. et al. Antimicrobial Selection by a Computer. JAMA 242, 1279–1282 (1979). DOI.
- Esteva, A. et al. Dermatologist-level classification of skin cancer with deep neural networks. Nature 542, 115–118 (2017). DOI.
- World Health Organization. Ethics and governance of artificial intelligence for health (2021). WHO.
Figuras
linha-do-tempo-ia.jpg— Tarjomyar, Wikimedia Commons, CC BY-SA 4.0.radiografia-torax.jpg— U.S. Army, Wikimedia Commons, domínio público.radiologistas.jpg— Bill Branson/NCI, Wikimedia Commons, domínio público.prontuario-eletronico.jpg— Wikimedia Commons, software GPL/licença de atribuição.
Encontro 1 · Evolução e fundamentos da IA na saúde