Preskoči na glavno vsebino

Politike in zaščitni ukrepi za varno uporabo umetne inteligence

Premisleki za vzpostavitev okvira za upravljanje in zaščitne ukrepe umetne inteligence

V letu 2025 in v začetku leta 2026 se je ekipa strokovnjakov za varnost, osredotočenih na umetno inteligenco, v delovni skupini za umetno inteligenco Health-ISAC združila, da bi ustvarila belo knjigo s smernicami za razvoj okvirov upravljanja umetne inteligence. Nastala bela knjiga ponuja vzorčno politiko sprejemljive uporabe umetne inteligence in podrobna navodila za obvladovanje tveganj, povezanih z umetno inteligenco. Določa jasne definicije odgovorne uporabe generativne umetne inteligence in LLM, prepoveduje izpostavljenost zaščitenih zdravstvenih podatkov, osebnih podatkov in zaupnih podatkov javnim orodjem ter zahteva avtorizacijo, nadzor in človeški pregled rezultatov umetne inteligence v kliničnem, kadrovskem, pravnem in finančnem kontekstu.

Nekatere značilnosti dokumenta vključujejo:

  • Formalna struktura upravljanja umetne inteligence. V dokumentu je predstavljen konkreten model odbora za upravljanje umetne inteligence z medfunkcijsko zastopanostjo (pravni odbor, zasebnost, varnost, tehnologija, podatkovna znanost, poslovanje, etika), ki poroča višjemu vodstvu ali upravnemu odboru. Opredeljuje odgovornosti, ponuja primere meritev in poudarja, da je upravljanje nujno, ne pa neobvezno.
  • Okvir upravljanja umetne inteligence, ki temelji na stebrih. Dokument opisuje okvir sedmih stebrov: zakonodaja/predpisi/politika, zasebnost in etika umetne inteligence, upravljanje primerov uporabe, upravljanje življenjskega cikla modela, sklepanje pogodb in vključevanje tretjih oseb, odzivanje na incidente in obvladovanje kršitev umetne inteligence ter usposabljanje in izobraževanje o umetni inteligenci. Vsak steber ima specifične cilje in lastnike.
  • Praktični načrt za izvedbo. Načrt izvedbe razdeli delo na štiri faze: začetek (odbor, načela, popis), ocena tveganja in vpliva (ocene učinka na varstvo podatkov, pregledi pristranskosti, varnostni pregledi), uvedba ogrodja (politike, registracija primerov uporabe, nadzor življenjskega cikla) ​​ter spremljanje in pregled (redni pregledi, prekvalifikacije, revizije).
  • Podrobna, ponovno uporabna politika sprejemljive uporabe umetne inteligence. Dokument vključuje celoten vzorec pravilnika z namenom in obsegom, vodilnimi načeli, preglednostjo in etiko, odgovornostjo in nadzorom, zasebnostjo in varnostjo podatkov, zaupnostjo, sprejemljivo in prepovedano uporabo, izvrševanjem in definicijami ter tabelo »dovoljenih in nedovoljenih« za javna orodja umetne inteligence.
  • Osem kategorij tveganja umetne inteligence je razporejenih v specifične zaščitne ukrepe. Sistematično zajema zasebnost in varnost podatkov, tveganje dobavne verige in tretjih oseb, tveganje modela in izhoda, pristranskost in pravičnost, regulativne predpise in skladnost, varnostne ranljivosti, tveganje upravljanja in nadzora ter senčno umetno inteligenco, in vsako od njih povezuje s konkretnimi zaščitnimi ukrepi, kot so minimizacija podatkov, SBOM-i, skrbni pregled prodajalcev, rdeče timsko delo, pogodbeni nadzor in odkrivanje senčne umetne inteligence.

 

Avtorji: Cohen, Luda (AbbVie); Mourad, Carole (Bio Bridge Global); Naik, Shrikanth (Abbott); Streelman, Jeff (SpendMend)

Sodelavci vsebine: Murphy, Bill (LeanTaaS), Gosnell, Joe (Zdravstveni center Tucson)

TLP:BELA To poročilo je dovoljeno deliti brez omejitev.

 

Kaj napad Stryker razkriva o varnosti medicinskih pripomočkov
HSCC predstavlja vodnik za tveganja in preglednost dobavne verige tretjih oseb, ki uporabljajo umetno inteligenco