Personne n'a cherché à créer un problème de gouvernance. C'est arrivé simplement parce qu'il n'y avait aucun processus pour l'empêcher.
Les organismes de santé adoptent l'IA plus rapidement qu'ils n'apprennent à la gérer. Selon Menlo Ventures, la part des organismes de santé mettant en œuvre des outils d'IA spécifiques à leur domaine a été multipliée par sept rien que l'année dernière.
Les fournisseurs d'IA ont inondé le marché et les programmes pilotes se sont multipliés. Les équipes cliniques et administratives déploient des outils d'IA pour résoudre des problèmes, souvent sans que personne ne contrôle ce qui est déployé, où ni pourquoi.
Il s'agit d'un problème de gouvernance, et dans le secteur de la santé, il est plus grave que dans la plupart des autres secteurs. Sans contrôle, l'IA peut impacter simultanément les données des patients, les flux de travail cliniques et la conformité réglementaire. Un seul outil non encadré peut compromettre ces trois aspects avant même que quiconque ne détecte le problème.
Ce qui m'inquiète, c'est que ce problème est l'une des lacunes les plus récurrentes que je constate dans les organisations du secteur de la santé. Quelques organisations ont intégré la gouvernance à leurs nouveaux systèmes dès le départ et se développent sans incident majeur.
D'autres ne l'ont pas fait, et la facture arrive bientôt.
Quand personne ne surveille, tout est une surprise
Le coût de l'omission de l'évaluation des risques
Étapes pratiques pour toute organisation
La fenêtre d'opportunité pour réussir se rétrécit.
