Ingen satte seg fore å bygge et styringsproblem. Det skjedde bare fordi det ikke fantes noen prosess for å forhindre det.
Helseorganisasjoner tar i bruk AI raskere enn de lærer å håndtere den. Ifølge Menlo Ventures syvdoblet andelen helseorganisasjoner som implementerer domenespesifikke AI-verktøy seg bare i fjor.
AI-leverandører har oversvømmet markedet, og pilotprogrammene har blitt mangedoblet. Kliniske og administrative team utvikler AI-verktøy for å løse problemer, ofte uten at noen sporer hva som blir distribuert, hvor eller hvorfor.
Det er et styringsproblem, og innen helsevesenet er det mer alvorlig enn i de fleste sektorer. Når AI ikke håndteres, kan den påvirke pasientdata, kliniske arbeidsflyter og regulatorisk status samtidig. Et enkelt, ustyrt verktøy kan kompromittere alle tre før noen kan identifisere et problem.
Det som bekymrer meg er at dette er en av de mest gjennomgående manglene jeg ser på tvers av organisasjoner i helsesektoren. Noen få organisasjoner har integrert styring i sine nye systemer fra starten av og skalerer uten større hendelser.
Andre har ikke gjort det, og regningen forfaller snart.
Når ingen holder oversikt, blir alt en overraskelse
