Imagine um sistema de Inteligência Artificial que tenha acertado suas últimas 20 recomendações. Na vigésima primeira, ele apresenta uma sugestão aparentemente coerente, em segundos, acompanhada de uma justificativa convincente.

Quanto tempo você levaria para questioná-la?

Agora imagine que ela esteja errada.

À medida que hospitais, clínicas e profissionais incorporam Inteligência Artificial às rotinas clínicas e administrativas, o problema deixa progressivamente de ser apenas tecnológico. Surge uma questão comportamental muito mais complexa: como continuar exercendo julgamento quando a máquina começa a acertar com frequência suficiente para que verificar pareça desnecessário?

A pergunta não deveria ser simplesmente se profissionais devem confiar na IA.

A pergunta mais importante é: quando, quanto e por que confiar?

É aí que entra um conceito que tende a ganhar importância na gestão da saúde: confiança calibrada.

Confiar mais não significa utilizar melhor

Confiança calibrada significa, de forma simples, fazer com que o nível de confiança depositado em um sistema acompanhe sua confiabilidade real naquela tarefa e naquele contexto.

Parece óbvio. Na prática, não é.

Quando uma tecnologia funciona repetidamente, criamos uma expectativa de continuidade. A verificação que inicialmente parecia indispensável pode começar a parecer redundante. O profissional deixa de comparar determinadas informações, dedica menos atenção às inconsistências ou aceita a recomendação como ponto de partida cada vez mais dominante.

Esse fenômeno está relacionado ao chamado viés de automação — automation bias —, no qual usuários podem atribuir peso excessivo à recomendação de sistemas automatizados, reduzindo a busca e a verificação independente de informações.

A Organização Mundial da Saúde (OMS) chamou atenção especificamente para esse risco nas aplicações de IA generativa em saúde: sistemas podem favorecer automation bias, fazendo com que erros sejam ignorados ou decisões difíceis sejam delegadas inadequadamente à tecnologia.

Mas existe também o problema contrário.

Um profissional pode desconfiar sistematicamente de uma tecnologia que, naquela função específica, apresenta desempenho útil. Nesse caso, temos desperdício de capacidade tecnológica, duplicação de trabalho e resistência à adoção.

Por isso, nem confiança elevada nem desconfiança elevada são objetivos adequados.

O objetivo é correspondência entre confiança, desempenho, contexto e risco.

Uma IA correta pode ajudar muito. Uma IA errada também pode influenciar muito

Um estudo publicado em 2026 no International Journal of Medical Informatics ajuda a visualizar o problema.
Os pesquisadores analisaram 223 médicos e profissionais de enfermagem, que produziram 1.338 decisões em uma tarefa diagnóstica simulada com recomendações de IA. Quando a recomendação da IA estava correta, a probabilidade de uma decisão correta aumentou fortemente. Quando a recomendação estava errada, o efeito se invertia e a acurácia diminuía.

Esse resultado é particularmente importante porque mostra que não basta perguntar:

“A IA melhora a decisão?”

É necessário acrescentar:

“O que acontece com a decisão humana quando a IA erra?”

Essa segunda pergunta é fundamental para gestores.

Um sistema com excelente desempenho médio continuará produzindo situações nas quais sua recomendação não é adequada. A segurança da organização dependerá, portanto, não apenas da qualidade do algoritmo, mas também da capacidade humana de detectar as exceções.

É justamente aí que a confiança excessiva pode se tornar invisível.

Quando a tecnologia erra frequentemente, desconfiar é fácil.

O teste real começa quando ela acerta quase sempre.

Explicar a resposta também não resolve tudo

Existe uma suposição intuitivamente atraente: se a IA explicar por que chegou a determinada recomendação, o profissional poderá confiar melhor nela.

A evidência disponível recomenda mais cautela.

Uma revisão sistemática publicada em 2024 analisou estudos sobre Inteligência Artificial explicável e confiança de profissionais de saúde. Entre os dez estudos incluídos, cinco encontraram aumento de confiança com explicações, três não observaram efeito significativo e dois mostraram que explicações poderiam aumentar ou reduzir confiança dependendo de sua qualidade e coerência. Os próprios autores destacam que aumentar confiança não é necessariamente desejável quando a recomendação da IA pode estar errada.

Em outras palavras:

explicabilidade não deve ser confundida com confiabilidade.

Uma explicação pode ajudar um profissional a compreender uma recomendação. Isso não significa que transforme uma recomendação errada em correta.

Há aqui uma lição importante para gestores de saúde: interfaces mais convincentes, textos mais claros e justificativas mais sofisticadas podem alterar a percepção de confiança do usuário. Portanto, a experiência de uso também faz parte da arquitetura da decisão.

O maior risco pode surgir depois que a tecnologia funciona bem

Há um paradoxo importante.

Quanto mais vezes uma ferramenta demonstra utilidade, maior pode se tornar a tentação de economizar o esforço de verificá-la.

A literatura sobre sistemas de apoio à decisão já investiga esse problema há anos. Revisões sobre automation bias mostram que sistemas de suporte podem melhorar desempenho, mas também introduzir novos tipos de erro quando seus usuários passam a depender excessivamente das recomendações. Fatores como carga de trabalho, complexidade, pressão temporal, confiança e dificuldade de verificar a recomendação influenciam esse fenômeno.

Na saúde, isso merece atenção adicional porque muitas decisões ocorrem justamente em ambientes caracterizados por:

• pressão temporal;
• múltiplas fontes de informação;
• interrupções;
• elevada responsabilidade;
• tarefas simultâneas;
• incerteza;
• consequências potencialmente relevantes.

É exatamente nessas condições que simplesmente acrescentar uma recomendação de IA ao processo não garante uma decisão superior.

Uma tecnologia pode melhorar a informação disponível sem necessariamente melhorar a decisão final.
Entre a resposta da máquina e a consequência existe um profissional interpretando, aceitando, rejeitando, contextualizando ou modificando aquela recomendação.

Esse espaço entre output e decisão talvez seja um dos territórios mais importantes para a governança de IA na saúde.

O que gestores podem começar a testar

A resposta não é criar uma cultura de suspeita contra IA. Tampouco exigir que profissionais revisem mecanicamente cada saída do sistema com a mesma intensidade.

Uma abordagem mais madura é desenvolver arquiteturas de verificação proporcionais ao risco.

Quatro práticas podem ser testadas inicialmente em treinamento, simulação e desenho de processos:

1. Treinar discordância, não apenas operação

Capacitação em IA não deveria medir somente se o profissional consegue utilizar a ferramenta. Deve avaliar também se consegue reconhecer situações em que a recomendação merece ser questionada.

Uma simulação útil pode misturar deliberadamente recomendações corretas e incorretas e observar quando os profissionais detectam inconsistências.

2. Separar confiança percebida de desempenho observado

Perguntar “Você confia nessa IA?” produz informação limitada.

Mais útil é comparar confiança com evidências concretas de desempenho:

• em quais tarefas funciona melhor?
• onde apresenta maior incerteza?
• em quais populações foi validada?
• quais tipos de erro produz?
• em quais situações exige maior supervisão?

A confiança deixa de ser uma opinião genérica e passa a ser dependente da tarefa.

3. Registrar discordâncias

Quando profissionais discordam da IA, a organização ganha uma informação extremamente valiosa.
Em vez de enxergar a discordância simplesmente como erro humano ou falha de adesão, gestores podem investigar:

• quem estava correto;
• quais informações sustentaram a discordância;
• se existem padrões recorrentes;
• onde o modelo ou processo precisa ser revisto.

A discordância torna-se fonte de aprendizagem organizacional.

4. Definir onde a verificação precisa ser maior

Nem toda decisão exige o mesmo nível de supervisão.

Quanto maiores as consequências potenciais de uma decisão, maior tende a ser a necessidade de clareza sobre:

• quem decide;
• quem verifica;
• quando escalar;
• quais informações precisam ser consultadas;
• como documentar divergências.

Isso transforma “human-in-the-loop” de slogan em desenho real de governança.

Os dados sugerem que o problema é mais complexo do que parece

Um pequeno estudo quase experimental publicado em 2024 oferece uma advertência importante contra soluções simples.

Pesquisadores avaliaram uma intervenção destinada a melhorar a calibração de confiança de médicos utilizando suporte diagnóstico por IA. A amostra foi pequena — apenas 20 médicos — e a intervenção não produziu diferença estatisticamente significativa na acurácia diagnóstica entre os grupos. Entretanto, melhor acurácia na própria calibração de confiança esteve associada a maior acurácia diagnóstica dentro da análise realizada. Os autores deixam claro que se trata de um estudo formativo e que os resultados precisam ser testados em amostras maiores.
Esse resultado é valioso justamente porque impede uma conclusão simplista.

Calibrar confiança não é ensinar uma regra. É desenvolver uma competência.

A OMS também enfatiza que sistemas de IA em saúde precisam preservar autonomia humana, responsabilidade e mecanismos adequados de governança e supervisão.

O desafio, portanto, não é colocar um humano simbolicamente no final do processo.

É garantir que esse humano ainda tenha condições de exercer julgamento.

Quando confiar se torna uma competência profissional

Durante muito tempo, competência esteve associada à capacidade de conhecer respostas.

A IA altera parcialmente essa equação.

Quando respostas passam a ser produzidas em segundos, aumenta o valor de outras capacidades: formular boas perguntas, reconhecer contexto, avaliar evidências, identificar inconsistências e saber quando uma resposta plausível não merece confiança.

Isso vale para médicos. Vale também para gestores, CIOs, lideranças clínicas e profissionais responsáveis pela implantação dessas tecnologias.

Talvez uma das métricas mais importantes de maturidade em IA não seja simplesmente quantos profissionais utilizam determinado sistema.

Pode ser algo mais difícil de medir:

quantos sabem quando não devem segui-lo.

A próxima etapa da Inteligência Artificial na saúde não dependerá apenas de sistemas mais precisos. Dependerá de organizações capazes de desenvolver relações mais inteligentes entre pessoas e sistemas.

Não precisamos de profissionais que confiem mais na IA.

Precisamos de profissionais capazes de confiar melhor.

E talvez a pergunta que gestores devam começar a fazer às suas equipes não seja “vocês confiam nesta tecnologia?”, mas:

“O que faria vocês discordarem dela?”

A qualidade dessa resposta pode revelar muito sobre a verdadeira maturidade da organização para trabalhar com Inteligência Artificial.

Remember: “Only knowledge sets us free.”

See you soon.

---

*Alexandre Rodrigues é Professor e consultor nos campos das Neurociências e Inteligência Artificial aplicada aos negócios.