Nedosledna terminologija umetne inteligence v zdravstvenih organizacijah ustvarja merljivo tveganje pri javnih naročilih, pogodbah z dobavitelji in nadzoru varnosti pacientov.
Da bi zapolnili to vrzel, Koordinacijski svet zdravstvenega sektorja Delovna skupina za kibernetsko varnost (CWG) (HSCC) je danes objavila svoj slovarček kibernetske umetne inteligence. CWG je izdala tudi »Vodnik za preglednost tveganj in dobavne verige tretjih oseb v zdravstveni industriji, povezanih z umetno inteligenco„109-stranski vir obravnava tveganja kibernetske varnosti v dobavnih verigah, ki jih poganja umetna inteligenca.“
Glosar vsebuje definicije, primerne za upravljanje, ki jih lahko klinični, operativni, skladnostni in tehnični deležniki uporabljajo z zaupanjem. Greg Garcia, izvršni direktor delovne skupine HSCC CWG, je poudaril, da vir zadovoljuje kritično potrebo. Zdravstvu je primanjkovalo skupnega, sektorsko specifičnega jezika za umetno inteligenco. Kot živ dokument bo glosar služil kot terminološka osnova za vsa navodila delovne skupine HSCC za umetno inteligenco.
Vodnik, ki črpa iz uveljavljenih okvirov, kot sta okvir NIST za upravljanje tveganj na področju umetne inteligence (NIST AI RMF) in skupni dokument HSCC-HHS o praksah kibernetske varnosti v zdravstveni industriji (HICP), prilagaja najboljše prakse, da odražajo realnost dobavnih verig, ki jih poganja umetna inteligenca, v zdravstvu – vključno s sledenjem podatkovnim linijam, preglednostjo modelov, vgrajenimi odvisnostmi od tretjih oseb in spremljanjem po uvedbi. Opisuje kritična kontrolna področja, kot so potrdila o varnosti prodajalcev, pragovi pojasnjenosti modelov in zahteve za varnost pred izpadom za klinične in operativne sisteme, ki jih podpira umetna inteligenca. Vodnik organizacijam omogoča, da opredelijo pričakovanja glede odgovornosti in uveljavijo standarde delovanja v svojem razširjenem ekosistemu umetne inteligence.
Ključno je, da Vodnik obravnava vse večje vrzeli v postopkih odkrivanja in razkrivanja, zaradi katerih je obvladovanje tveganj v dobavni verigi umetne inteligence tako težko. Številne zdravstvene organizacije delujejo z nepopolnimi ali zastarelimi zalogami dobaviteljev, medtem ko dobavitelji ne poročajo o tveganjih kibernetske varnosti, specifičnih za umetno inteligenco – kot so zloraba sintetičnih podatkov, uhajanje podatkov o usposabljanju in kontradiktorno sklepanje. Da bi to preprečili, Vodnik spodbuja proaktivno skrbnost, dinamično profiliranje tveganj in pogodbeno transparentnost. Vodje upravljanja tveganj, ekipe za skladnost in nabavne uradnike opremlja s prilagodljivimi orodji za odkrivanje skritih odvisnosti, prepoznavanje kaskadnih točk napak ter uskladitev zunanjih dobaviteljev in izdelkov umetne inteligence s cilji na področju varnosti, zasebnosti in odpornosti, ki so ključnega pomena za poslovanje.
Preberite več in dostopajte do glosarja in vodnika za umetno inteligenco v HealthSystemCIO. Več
