Ninguén se propuxo construír un problema de gobernanza. Simplemente ocorreu porque non había ningún proceso para evitalo.
As organizacións sanitarias están a adoptar a IA máis rápido do que aprenden a xestionala. Segundo Menlo Ventures, a porcentaxe de organizacións sanitarias que implementan ferramentas de IA específicas para cada dominio multiplicouse por sete só o ano pasado.
Os provedores de IA inundaron o mercado e os programas piloto multiplicáronse. Os equipos clínicos e administrativos están a desenvolver ferramentas de IA para resolver problemas, a miúdo sen que ninguén faga un seguimento do que se desprega, onde ou por que.
Iso é un problema de gobernanza e, na asistencia sanitaria, é máis grave que na maioría dos sectores. Cando non se xestiona, a IA pode afectar simultaneamente aos datos dos pacientes, aos fluxos de traballo clínicos e á situación regulamentaria. Unha única ferramenta non gobernada pode comprometer os tres antes de que ninguén poida identificar un problema.
O que me preocupa é que esta é unha das deficiencias máis consistentes que vexo nas organizacións do sector sanitario. Algunhas organizacións integraron a gobernanza nos seus novos sistemas desde o principio e están a escalar sen incidentes importantes.
Outros non o fixeron, e a factura está a piques de vencer.
Cando ninguén fai o seguimento, todo é unha sorpresa
