Nadie se propuso crear un problema de gobernanza. Simplemente sucedió porque no existía ningún proceso para evitarlo.
Las organizaciones sanitarias están adoptando la IA más rápido de lo que aprenden a gestionarla. Según Menlo Ventures, el porcentaje de organizaciones sanitarias que implementan herramientas de IA específicas para su sector se multiplicó por siete tan solo el año pasado.
Los proveedores de IA han inundado el mercado y los programas piloto se han multiplicado. Los equipos clínicos y administrativos están implementando herramientas de IA para resolver problemas, a menudo sin que nadie haga un seguimiento de qué se está implementando, dónde ni por qué.
Se trata de un problema de gobernanza, y en el sector sanitario, es más grave que en la mayoría de los sectores. Sin una gestión adecuada, la IA puede afectar simultáneamente a los datos de los pacientes, los flujos de trabajo clínicos y el cumplimiento normativo. Una sola herramienta sin control puede comprometer los tres antes de que nadie pueda detectar el problema.
Lo que me preocupa es que esta es una de las deficiencias más recurrentes que observo en las organizaciones del sector salud. Algunas organizaciones han integrado la gobernanza en sus nuevos sistemas desde el principio y están creciendo sin incidentes importantes.
Otros no lo han hecho, y la factura está por llegar.
Cuando nadie lleva la cuenta, todo es una sorpresa.
El coste de omitir la evaluación de riesgos
Pasos prácticos para cualquier organización
El margen de tiempo para acertar se está reduciendo.
