Nekonzistentní terminologie umělé inteligence napříč zdravotnickými organizacemi vytváří měřitelná rizika v oblasti zadávání veřejných zakázek, smluv s dodavateli a dohledu nad bezpečností pacientů.
Aby se tato mezera překlenula, Koordinační rada sektoru zdravotnictví Pracovní skupina pro kybernetickou bezpečnost (CWG) (HSCC) dnes zveřejnila svůj glosář pojmů z oblasti umělé inteligence v oblasti kybernetické bezpečnosti. CWG také zveřejnila „Průvodce riziky a transparentností dodavatelského řetězce v oblasti umělé inteligence třetích stran ve zdravotnictví„Tento 109stránkový zdroj se zabývá riziky kybernetické bezpečnosti v dodavatelských řetězcích řízených umělou inteligencí.“
Slovník obsahuje definice vhodné pro správu a řízení, které mohou s jistotou používat klinické, provozní, compliance a technické zúčastněné strany. Greg Garcia, výkonný ředitel pracovní skupiny HSCC CWG, poznamenal, že tento zdroj uspokojuje kritickou potřebu. Ve zdravotnictví chyběl společný, sektorově specifický jazyk pro umělou inteligenci. Jakožto živý dokument bude glosář sloužit jako terminologický základ pro všechny pokyny pracovní skupiny HSCC pro umělou inteligenci.
Průvodce, vycházející ze zavedených rámců, jako je rámec pro řízení rizik v oblasti umělé inteligence (NIST AI RMF) a společný rámec pro kybernetickou bezpečnost v odvětví zdravotnictví (HICP) HSCC-HHS, přizpůsobuje osvědčené postupy tak, aby odrážely realitu dodavatelských řetězců ve zdravotnictví řízených umělou inteligencí – včetně sledování datové linie, auditovatelnosti modelů, závislostí na integrovaných třetích stranách a monitorování po nasazení. Nastiňuje kritické kontrolní oblasti, jako jsou certifikace zabezpečení dodavatelů, prahové hodnoty vysvětlitelnosti modelů a požadavky na bezpečnost klinických a provozních systémů s umělou inteligencí. Průvodce umožňuje organizacím definovat očekávání odpovědnosti a prosazovat výkonnostní standardy v celém jejich rozšířeném ekosystému umělé inteligence.
Klíčové je, že Průvodce se zabývá rostoucími mezerami v procesech objevování a zveřejňování informací, které ztěžují řízení rizik v dodavatelském řetězci umělé inteligence. Mnoho zdravotnických organizací (HCO) pracuje s neúplnými nebo zastaralými inventáři dodavatelů, zatímco kybernetická rizika specifická pro umělou inteligenci – jako je zneužití syntetických dat, únik školicích dat a adversární inference – dodavatelé nehlásí. Aby se tomu zabránilo, Průvodce podporuje proaktivní due diligence, dynamické profilování rizik a transparentnost smluv. Vybavuje manažery rizik, týmy pro dodržování předpisů a pracovníky zadávacího řízení škálovatelnými nástroji k odhalení skrytých závislostí, identifikaci kaskádových bodů selhání a sladění dodavatelů a produktů umělé inteligence třetích stran s kritickými cíli v oblasti bezpečnosti, soukromí a odolnosti.
Přečtěte si více a získejte přístup k glosáři a průvodci umělou inteligencí v HealthSystemCIO. Zjistit více
