Ninguém tinha a intenção de criar um problema de governança. Simplesmente aconteceu porque não havia nenhum processo para impedi-lo.
As organizações de saúde estão adotando a IA mais rapidamente do que aprendendo a gerenciá-la. De acordo com a Menlo Ventures, a porcentagem de organizações de saúde que implementaram ferramentas de IA específicas para o setor aumentou sete vezes somente no ano passado.
Os fornecedores de IA inundaram o mercado e os programas piloto se multiplicaram. Equipes clínicas e administrativas estão implementando ferramentas de IA para resolver problemas, muitas vezes sem que ninguém monitore o que está sendo implantado, onde ou por quê.
Isso é um problema de governança e, na área da saúde, é mais sério do que na maioria dos setores. Quando não gerenciada, a IA pode afetar dados de pacientes, fluxos de trabalho clínicos e a conformidade regulatória simultaneamente. Uma única ferramenta sem governança pode comprometer todos os três antes que alguém consiga identificar o problema.
O que me preocupa é que essa é uma das deficiências mais recorrentes que observo em organizações do setor de saúde. Algumas organizações incorporaram a governança em seus novos sistemas desde o início e estão crescendo sem grandes incidentes.
Outros não fizeram isso, e a conta está chegando.
Quando ninguém está controlando, tudo é uma surpresa.
O custo de ignorar a avaliação de risco.
Passos práticos para qualquer organização
A janela de oportunidade para acertar está se fechando.
