Niemand had de intentie om een bestuursprobleem te creëren. Het is gewoon gebeurd omdat er geen proces was om het te voorkomen.
Zorgorganisaties implementeren AI sneller dan ze leren hoe ze ermee moeten omgaan. Volgens Menlo Ventures is het percentage zorgorganisaties dat domeinspecifieke AI-tools gebruikt, vorig jaar alleen al verzevenvoudigd.
AI-leveranciers hebben de markt overspoeld en het aantal pilotprogramma's is enorm toegenomen. Klinische en administratieve teams zetten AI-tools in om problemen op te lossen, vaak zonder dat iemand bijhoudt wat er wordt ingezet, waar en waarom.
Dat is een governanceprobleem, en in de gezondheidszorg is het ernstiger dan in de meeste andere sectoren. Zonder goed beheer kan AI tegelijkertijd patiëntgegevens, klinische werkprocessen en de naleving van regelgeving beïnvloeden. Eén enkel, niet-beheerd instrument kan alle drie in gevaar brengen voordat iemand een probleem kan signaleren.
Wat mij zorgen baart, is dat dit een van de meest voorkomende tekortkomingen is die ik zie bij organisaties in de gezondheidszorg. Een paar organisaties hebben vanaf het begin governance in hun nieuwe systemen ingebouwd en schalen zonder grote problemen op.
Anderen hebben dat niet gedaan, en nu moeten ze de rekening betalen.
Als niemand de boel in de gaten houdt, is alles een verrassing.
De kosten van het overslaan van een risicobeoordeling
