A dúvida mais habitual quando falamos de inteligência artificial na saúde é se é segura.
É uma pergunta imprescindível. Mas não suficiente.
Uma IA pode utilizar modelos avançados, cumprir requisitos técnicos e ter certificações. E, ainda assim, gerar mais trabalho do que elimina: obrigando o profissional a rever mais, gerando alertas irrelevantes ou não sabendo quando parar.
Porque, num hospital, não basta que uma ferramenta responda corretamente.
Tem de saber que informação utilizar, o que pode fazer, quando deve parar, quando tem de intervir uma pessoa e como reconstruir depois o que aconteceu.
A confiança não se instala, concebe-se.
Em cada dado que se consulta, em cada tarefa que se automatiza, em cada alerta que se gera e em cada momento em que uma pessoa deve manter o controlo.
É com esta ideia que começa M de Medicina Real, uma série da Omniloy sobre o que acontece quando a IA sai da demonstração e começa a trabalhar dentro de um hospital.
Porque uma IA pode ser muito boa a gerar uma resposta e, ainda assim, não se enquadrar no local onde vai ser utilizada.
Antes de a implementar, há cinco perguntas a que convém responder.
01 O que sabe a IA quando começa a trabalhar? Uma resposta rápida serve de pouco se não tiver em conta o que é relevante sobre o doente, o momento clínico e o fluxo do hospital.
Não se trata apenas de resumir um processo clínico ou responder a uma pergunta. Trata-se de saber que informação é relevante para essa consulta, esse profissional e esse momento.
Antecedentes, consultas anteriores, tratamentos, exames recentes, especialidade, motivo da consulta ou contexto operacional podem mudar completamente o significado de um mesmo pedido.
Se a IA não compreender o contexto, pode gerar mais trabalho: obriga a rever novamente o que deveria ter ajudado a organizar.
02 Pode agir ou apenas recomendar? Reagendar uma consulta, estruturar uma nota ou assinalar um alerta não são o mesmo tipo de tarefa.
Há procedimentos que podem ser automatizados com regras claras. Outros exigem que a IA prepare informação ou sugira um passo seguinte. E há decisões que devem continuar nas mãos do profissional.
A questão não é quanto uma IA pode automatizar, mas o que deveria automatizar e em que condições.
Definir bem essa fronteira costuma ser mais importante do que procurar a automatização total.
03 Quando tem de intervir uma pessoa? A automatização funciona melhor quando sabe quando parar e quem avisar.
Não se trata de fazer com que cada caso acabe numa fila de revisão. Isso apenas transferiria o trabalho de um sítio para outro.
O objetivo é que o sistema identifique as situações que pode resolver de forma autónoma e as que precisam de critério clínico, contexto adicional ou de uma resposta fora do protocolo.
Num acompanhamento assistencial, por exemplo, uma resposta pode ser completamente normal, exigir uma nova interação ou precisar de revisão por parte da equipa.
O fluxo deve ser capaz de distinguir essas situações.
04 O que acontece quando algo não bate certo? Uma IA útil não precisa de inventar uma saída para cada situação.
Num hospital haverá sempre exceções: dados incompletos, pedidos ambíguos, respostas que não se enquadram num protocolo ou situações que exigem encaminhamento.
A pergunta não é se o sistema consegue responder a tudo. É se sabe reconhecer quando não deve continuar sozinho.
05 É possível rever o que aconteceu? Se ninguém consegue perceber o que se passou, também não consegue corrigi-lo nem melhorá-lo.
Quando uma IA participa num processo assistencial ou operacional, a equipa precisa de poder rever que informação utilizou, que ação realizou, que regra se aplicou e o que aconteceu depois.
Não se trata de transformar cada interação em burocracia. Trata-se de manter rastreabilidade suficiente para aprender, corrigir erros e melhorar os processos. Especialmente quando esses processos afetam doentes e profissionais.
Estas cinco perguntas não substituem a regulamentação, a validação clínica nem a avaliação técnica.
Servem para responder a outra pergunta igualmente importante:
O que acontece quando esta IA começa realmente a trabalhar dentro do hospital?
Porque é aí que se decide se uma ferramenta acrescenta valor ou se apenas acrescenta uma nova camada de complexidade.
Nas próximas edições de M de Medicina Real iremos aprofundar estas decisões através de situações concretas de consulta, receção e acompanhamento assistencial.
Todas as quartas-feiras, uma nova reflexão sobre inteligência artificial a partir do lugar onde realmente importa: o trabalho diário de profissionais e doentes.
Quer ver como respondemos a estas cinco perguntas ao implementar os nossos agentes num hospital? Fale com a nossa equipa.