Por algum tempo, a inteligência artificial foi tratada sobretudo como uma ferramenta para responder perguntas, organizar informações e sugerir caminhos. Ainda há desafios importantes nessa etapa, mas o debate precisa avançar. A nova fronteira é a IA que age: sistemas capazes de acionar fluxos, organizar agendas, priorizar contatos, acompanhar pendências e conectar pessoas aos serviços de que precisam.

Na saúde, essa mudança é particularmente relevante. O sistema convive com profissionais sobrecarregados, dados espalhados por diferentes plataformas e jornadas que ainda dependem de planilhas, telefone e inúmeras tentativas de contato. A IA pode reduzir parte dessa fricção, mas quando deixa de apenas responder e passa a executar, a discussão deixa de ser só tecnológica e passa, também, para o patamar da governança.

Não se trata de burocratizar a inovação. E sim de reconhecer que toda tecnologia que interfere na jornada de uma pessoa precisa ter uma responsabilidade proporcional ao seu impacto. Agentes de IA já podem agendar consultas, confirmar presença ou orientar o próximo passo administrativo e isso, certamente, amplia a capacidade das equipes. Ao assumir tarefas repetitivas, a tecnologia devolve tempo para que enfermeiros, médicos e demais profissionais concentrem-se no que exige escuta, julgamento clínico e vínculo humano. Esse é o uso mais promissor da inteligência artificial: não substituir o cuidado, mas criar mais condições para que ele aconteça.

O risco começa quando a eficiência vira um fim em si mesma. Uma automação mal desenhada pode tratar pessoas como uma base homogênea, disparar mensagens fora de contexto ou reproduzir falhas já existentes nos processos. Em saúde, isso não é apenas uma experiência ruim. Pode gerar ansiedade, reduzir confiança e afastar alguém de uma jornada que deveria acolhê-lo. Por isso, a primeira pergunta não deveria ser “o que a IA é capaz de fazer?”, mas “o que ela deve fazer?” – e essa diferença muda todo o desenho da solução.

É uma ferramenta que auxilia o humano, não o contrário

O primeiro passo é definir finalidade e escopo. Cada agente ou automação precisa ter uma função clara: apoiar uma comunicação, organizar uma etapa administrativa, identificar uma pendência ou encaminhar uma demanda. Não se deve confundir capacidade técnica com autorização para agir.

Na saúde, essa fronteira é ainda mais relevante em decisões clínicas. A IA pode organizar informações, apoiar fluxos e facilitar o acesso. Mas decisões que envolvem avaliação clínica, conduta terapêutica ou análise individual devem permanecer sob responsabilidade de profissionais habilitados. A tecnologia deve apoiar o trabalho assistencial, e não substituir o julgamento humano.

O segundo ponto é o uso responsável dos dados. Dados de saúde não são apenas insumos para melhorar indicadores operacionais. Eles carregam a história de uma pessoa, suas vulnerabilidades e suas necessidades. Princípios como finalidade, necessidade, segurança e controle de acesso não podem ser tratados como exigências paralelas à inovação. São condições para que ela seja legítima.

Também é indispensável garantir rastreabilidade. A organização deve conseguir entender como uma jornada aconteceu: quais dados foram considerados, que ação foi executada, em que momento, por qual regra e com qual resultado. Essa visibilidade permite corrigir falhas, lidar com exceções e aprimorar continuamente os fluxos.

A supervisão humana, por sua vez, não pode ser apenas um plano de contingência para quando a tecnologia falha. Ela precisa estar prevista desde o início: quais situações exigem encaminhamento? Quem responde por exceções? Como os critérios de atuação são revisados? De que forma a experiência do paciente é monitorada?

A governança também exige métricas adequadas. Mensagens enviadas e tarefas automatizadas podem indicar eficiência, mas não medem cuidado. As perguntas mais importantes são outras: a pessoa conseguiu acessar o serviço? Recebeu orientação no momento certo? Teve continuidade em sua jornada? A equipe ganhou disponibilidade para atuar onde sua presença faz mais diferença?

A adoção de IA em processo de saúde, assim, não é uma pauta exclusiva de tecnologia. Ela envolve lideranças clínicas, operacionais, jurídicas, de segurança, finanças e governança. Seu retorno não pode se limitar à redução de custos. Está também na construção de uma operação mais previsível, transparente e capaz de cuidar melhor.

A saúde não precisa escolher entre inovação e responsabilidade. À medida que a IA ganha capacidade de agir, a governança deixa de ser um freio para a transformação. Ela se torna o que permite que essa transformação seja confiável o bastante para fazer parte do cuidado.

*Victor Marcondes é cofundador, CFO e DPO da Nilo.