Overvejelser ved oprettelse af en AI-styrings- og sikkerhedsramme
I løbet af 2025 og begyndelsen af 2026 gik et team af AI-fokuserede sikkerhedseksperter i Health-ISAC Artificial Intelligence Working Group sammen om at udarbejde en hvidbog, der tilbyder vejledning i udvikling af AI-styringsrammer. Den resulterende hvidbog indeholder en prøve på en politik for acceptabel brug af AI og detaljeret vejledning i håndtering af AI-risici. Den fastsætter klare definitioner af ansvarlig brug af generativ AI og LLM'er, forbyder eksponering af PHI, PII og fortrolige data til offentlige værktøjer og kræver godkendelse, tilsyn og menneskelig gennemgang af AI-output i kliniske, HR-, juridiske og finansielle sammenhænge.
Nogle af dokumentets funktioner omfatter:
Formel AI-styringsstruktur. Dokumentet beskriver en konkret model for et AI-styringsudvalg med tværfaglig repræsentation (jura, privatliv, sikkerhed, teknologi, datavidenskab, forretning, etik), der rapporterer til den øverste ledelse eller bestyrelsen. Det definerer ansvarsområder, eksempler på metrikker og understreger, at styring er et must, ikke valgfrit.
En søjlebaseret AI-styringsramme. Dokumentet beskriver en ramme med syv søjler: lovgivning/regulering/politik, AI-privatliv og -etik, styring af use cases, styring af modellivscyklus, kontraktindgåelse og onboarding af tredjeparter, AI-hændelseshåndtering og håndtering af brud samt AI-træning og -uddannelse. Hver søjle har specifikke mål og ejere.
Praktisk køreplan for implementering. En implementeringsplan opdeler arbejdet i fire faser: Initiering (komité, principper, opgørelse), risiko- og konsekvensanalyse (DPIA'er, bias-revisioner, sikkerhedsgennemgange), implementering af rammeværk (politikker, registrering af use cases, livscykluskontroller) og overvågning og gennemgang (periodiske gennemgange, genoptræning, revisioner).
Detaljeret, genanvendelig politik for acceptabel brug af AI. Dokumentet indeholder en komplet eksempelpolitik med formål og omfang, vejledende principper, gennemsigtighed og etik, ansvarlighed og tilsyn, databeskyttelse og -sikkerhed, fortrolighed, acceptabel og forbudt anvendelse, håndhævelse og definitioner, plus en tabel over "tilladt vs. ikke tilladt" for offentlige AI-værktøjer.
Otte AI-risikokategorier er knyttet til specifikke sikkerhedsforanstaltninger. Den dækker systematisk databeskyttelse og -sikkerhed, risiko i forsyningskæden og tredjeparter, model- og outputrisiko, bias og fairness, regulatorisk og compliance, sikkerhedssårbarheder, governance- og tilsynsrisiko samt skygge-AI, og kombinerer hver enkelt med konkrete sikkerhedsforanstaltninger såsom dataminimering, SBOM'er, due diligence for leverandørbrug, red teaming, kontraktlige kontroller og detektion af skygge-AI.
