Nedosljedna terminologija umjetne inteligencije u zdravstvenim organizacijama stvara mjerljiv rizik u nabavi, ugovorima s dobavljačima i nadzoru sigurnosti pacijenata.
Kako bi se zatvorila ta praznina, Koordinacijsko vijeće sektora zdravstva (HSCC) Radna skupina za kibernetičku sigurnost (CWG) danas je objavila svoj AI Cyber Glosar. CWG je također objavio „Vodič za transparentnost lanca opskrbe i rizika za umjetnu inteligenciju trećih strana u zdravstvenoj industriji„Izvor od 109 stranica bavi se rizicima kibernetičke sigurnosti u lancima opskrbe vođenim umjetnom inteligencijom.“
Glosar utvrđuje definicije spremne za upravljanje koje klinički, operativni, usklađeni i tehnički dionici mogu s povjerenjem primjenjivati. Greg Garcia, izvršni direktor Radne skupine za umjetnu inteligenciju HSCC-a, napomenuo je da resurs ispunjava kritičnu potrebu. Zdravstvu je nedostajao zajednički, sektorski specifičan jezik za umjetnu inteligenciju. Kao živi dokument, glosar će poslužiti kao terminološka osnova za sve smjernice Radne skupine za umjetnu inteligenciju HSCC-a.
Oslanjajući se na utvrđene okvire kao što su NIST-ov Okvir za upravljanje rizicima umjetne inteligencije (NIST AI RMF) i zajedničke HSCC-HHS prakse kibernetičke sigurnosti u zdravstvenoj industriji (HICP), Vodič prilagođava najbolje prakse kako bi odražavao stvarnost lanaca opskrbe u zdravstvu vođenih umjetnom inteligencijom - uključujući praćenje loze podataka, mogućnost revizije modela, ugrađene ovisnosti trećih strana i praćenje nakon implementacije. Navodi kritična područja kontrole kao što su ovjere sigurnosti dobavljača, pragovi objašnjivosti modela i zahtjevi za sigurnost od kvarova za kliničke i operativne sustave omogućene umjetnom inteligencijom. Vodič omogućuje organizacijama da definiraju očekivanja odgovornosti i usmjere standarde performansi u svom proširenom ekosustavu umjetne inteligencije.
Ključno je da se Vodič bavi rastućim prazninama u procesima otkrivanja i objavljivanja koji otežavaju upravljanje rizikom u lancu opskrbe umjetnom inteligencijom. Mnoge zdravstvene organizacije posluju s nepotpunim ili zastarjelim popisima dobavljača, dok dobavljači ne prijavljuju kibernetičke rizike specifične za umjetnu inteligenciju - poput zlouporabe sintetičkih podataka, curenja podataka o obuci i kontradiktornog zaključivanja. Kako bi se to suprotstavilo, Vodič potiče proaktivnu dubinsku analizu, dinamičko profiliranje rizika i ugovornu transparentnost. Oprema upravitelje rizika, timove za usklađenost i službenike za nabavu skalabilnim alatima za otkrivanje skrivenih ovisnosti, identificiranje kaskadnih točaka kvara i usklađivanje dobavljača i proizvoda umjetne inteligencije trećih strana s kritičnim ciljevima sigurnosti, privatnosti i otpornosti.
Pročitajte više i pristupite glosaru i vodiču za umjetnu inteligenciju u HealthSystemCIO. Saznajte više
