Ystyriaethau ar gyfer creu fframwaith llywodraethu a diogelu AL
Drwy gydol 2025 a dechrau 2026, daeth tîm o weithwyr proffesiynol diogelwch sy'n canolbwyntio ar AI yn y Grŵp Gwaith Deallusrwydd Artiffisial Health-ISAC ynghyd i greu papur gwyn sy'n cynnig canllawiau ar ddatblygu fframweithiau llywodraethu AI. Mae'r papur gwyn sy'n deillio o hyn yn cyflenwi Polisi Defnydd Derbyniol AI enghreifftiol a chanllawiau manwl ar reoli risgiau AI. Mae'n gosod diffiniadau clir o ddefnydd cyfrifol o AI a LLMs cynhyrchiol, gan wahardd dod i gysylltiad â PHI, PII, a data cyfrinachol i offer cyhoeddus, a gofyn am awdurdodiad, goruchwyliaeth, ac adolygiad dynol o allbynnau AI mewn cyd-destunau clinigol, AD, cyfreithiol, ac ariannol.
Mae rhai nodweddion y ddogfen yn cynnwys:
- Strwythur llywodraethu AI ffurfiol. Mae'r papur yn nodi model Pwyllgor Llywodraethu AI concrit gyda chynrychiolaeth draws-swyddogaethol (cyfreithiol, preifatrwydd, diogelwch, technoleg, gwyddor data, busnes, moeseg) sy'n adrodd i uwch arweinyddiaeth neu'r Bwrdd. Mae'n diffinio cyfrifoldebau, yn enghreifftiau o fetrigau, ac yn pwysleisio bod llywodraethu yn hanfodol, nid yn ddewisol.
- Fframwaith Llywodraethu AI sy'n seiliedig ar golofnau. Mae'r ddogfen yn disgrifio fframwaith saith colofn: deddfwriaeth/rheoleiddio/polisi, preifatrwydd a moeseg AI, llywodraethu achosion defnydd, llywodraethu cylch bywyd model, contractio a chynefino trydydd parti, ymateb i ddigwyddiadau AI a rheoli toriadau, a hyfforddiant ac addysg AI. Mae gan bob colofn amcanion a pherchnogion penodol.
- Cynllun ymarferol ar gyfer gweithredu. Mae map ffordd gweithredu yn rhannu'r gwaith yn bedwar cam: Cychwyn (pwyllgor, egwyddorion, rhestr eiddo), Asesiad Risg ac Effaith (DPIAau, archwiliadau rhagfarn, adolygiadau diogelwch), Defnyddio Fframwaith (polisïau, cofrestru achosion defnydd, rheolaethau cylch bywyd), a Monitro ac Adolygu (adolygiadau cyfnodol, ailhyfforddi, archwiliadau).
- Polisi Defnydd Derbyniol AI manwl, y gellir ei ailddefnyddio. Mae'r papur yn cynnwys polisi sampl llawn gyda phwrpas a chwmpas, egwyddorion arweiniol, tryloywder a moeseg, atebolrwydd a goruchwyliaeth, preifatrwydd a diogelwch data, cyfrinachedd, defnyddiau derbyniol a gwaharddedig, gorfodi, a diffiniadau, ynghyd â thabl o "ganiateir vs nas caniateir" ar gyfer offer AI cyhoeddus.
- Mae wyth categori risg AI wedi'u mapio i fesurau diogelwch penodol. Mae'n ymdrin yn systematig â phreifatrwydd a diogelwch data, risg y gadwyn gyflenwi a thrydydd parti, risg model ac allbwn, rhagfarn a thegwch, rheoleiddio a chydymffurfiaeth, gwendidau diogelwch, risg llywodraethu a goruchwylio, a deallusrwydd artiffisial cysgodol, ac yn paru pob un â mesurau diogelwch pendant fel lleihau data, SBOMs, diwydrwydd dyladwy gwerthwyr, tîmu coch, rheolaethau cytundebol, a chanfod deallusrwydd artiffisial cysgodol.
Awduron: Cohen, Luda (AbbVie); Mourad, Carole (Bio Bridge Global); Naik, Shrikanth (Abbott); Streelman, Jeff (SpendMend)
Cyfranwyr Cynnwys: Murphy, Bill (LeanTaaS), Gosnell, Joe (Canolfan Feddygol Tucson)
TLP:GWYN Gellir rhannu'r adroddiad hwn heb gyfyngiad.
