Nekonzistentná terminológia umelej inteligencie v zdravotníckych organizáciách vytvára merateľné riziko v oblasti obstarávania, zmlúv s dodávateľmi a dohľadu nad bezpečnosťou pacientov.
Aby sa táto medzera preklenula, Koordinačná rada pre sektor zdravotníctva Pracovná skupina pre kybernetickú bezpečnosť (CWG) (HSCC) dnes zverejnila svoj glosár kybernetických pojmov s umelou inteligenciou. CWG tiež vydala „Sprievodca rizikami a transparentnosťou dodávateľského reťazca v oblasti umelej inteligencie tretích strán v zdravotníctve„Tento 109-stranový zdroj sa zaoberá rizikami kybernetickej bezpečnosti v dodávateľských reťazcoch riadených umelou inteligenciou.“
Glosár stanovuje definície prispôsobené riadeniu, ktoré môžu s istotou používať klinické, prevádzkové, dodržiavacie a technické zainteresované strany. Greg Garcia, výkonný riaditeľ pracovnej skupiny HSCC CWG, poznamenal, že tento zdroj napĺňa kritickú potrebu. V zdravotníctve chýbal spoločný, sektorovo špecifický jazyk pre umelú inteligenciu. Ako živý dokument bude glosár slúžiť ako terminologický základ pre všetky usmerňovacie materiály pracovnej skupiny HSCC pre umelú inteligenciu.
Vychádzajúc zo zavedených rámcov, ako je rámec riadenia rizík v oblasti umelej inteligencie NIST (NIST AI RMF) a spoločné postupy kybernetickej bezpečnosti v zdravotníctve (HICP) HSCC-HHS, táto príručka prispôsobuje osvedčené postupy tak, aby odrážali realitu dodávateľských reťazcov v zdravotníctve riadených umelou inteligenciou – vrátane sledovania pôvodu údajov, auditovateľnosti modelu, závislostí od vložených tretích strán a monitorovania po nasadení. Načrtáva kritické oblasti kontroly, ako sú atestácie bezpečnosti dodávateľov, prahové hodnoty vysvetliteľnosti modelu a požiadavky na bezpečnosť klinických a prevádzkových systémov s umelou inteligenciou. Príručka umožňuje organizáciám definovať očakávania zodpovednosti a presadzovať výkonnostné štandardy v celom ich rozšírenom ekosystéme umelej inteligencie.
Kľúčové je, že Sprievodca sa zaoberá rastúcimi nedostatkami v procesoch zisťovania a zverejňovania informácií, ktoré sťažujú riadenie rizík v dodávateľskom reťazci umelej inteligencie. Mnohé organizácie zdravotníckeho sektora (HCO) pracujú s neúplnými alebo zastaranými zoznamami dodávateľov, zatiaľ čo kybernetické riziká špecifické pre umelú inteligenciu – ako je zneužívanie syntetických údajov, únik údajov o školeniach a adverzárna inferencia – zostávajú dodávateľmi nenahlásené. Aby sa tomu zabránilo, Sprievodca podporuje proaktívnu due diligence, dynamické profilovanie rizík a zmluvnú transparentnosť. Vybavuje manažérov rizík, tímy pre dodržiavanie predpisov a úradníkov pre obstarávanie škálovateľnými nástrojmi na odhaľovanie skrytých závislostí, identifikáciu kaskádových bodov zlyhania a zosúladenie dodávateľov a produktov umelej inteligencie tretích strán s cieľmi v oblasti bezpečnosti, súkromia a odolnosti, ktoré sú kritické pre misiu.
Prečítajte si viac a získajte prístup k glosáru a sprievodcovi umelou inteligenciou v HealthSystemCIO. Dozvedieť sa viac
