Överväganden för att skapa ett ramverk för styrning och skyddsåtgärder inom AI
Under 2025 och början av 2026 samlades ett team av AI-fokuserade säkerhetsexperter i Health-ISAC:s arbetsgrupp för artificiell intelligens för att skapa en vitbok med vägledning om utveckling av ramverk för AI-styrning. Den resulterande vitboken innehåller ett exempel på en policy för acceptabel användning av AI och detaljerad vägledning om hantering av AI-risker. Den anger tydliga definitioner av ansvarsfull användning av generativ AI och LLM:er, förbjuder exponering av PHI, PII och konfidentiella data för offentliga verktyg, och kräver auktorisering, tillsyn och mänsklig granskning av AI-resultat i kliniska, HR-, juridiska och finansiella sammanhang.
Några funktioner i dokumentet inkluderar:
Formell AI-styrningsstruktur. Dokumentet beskriver en konkret modell för AI-styrningskommittén med tvärfunktionell representation (juridik, integritet, säkerhet, teknik, datavetenskap, affärsverksamhet, etik) som rapporterar till den högsta ledningen eller styrelsen. Den definierar ansvarsområden, exempel på mätvärden och betonar att styrning är ett måste, inte valfritt.
Ett pelarbaserat ramverk för AI-styrning. Dokumentet beskriver ett ramverk med sju pelare: lagstiftning/reglering/policy, AI-integritet och etik, styrning av användningsfall, styrning av modellers livscykel, kontraktering och onboarding av tredjeparter, AI-incidenthantering och intrångshantering samt AI-utbildning och utbildning. Varje pelare har specifika mål och ägare.
Praktisk färdplan för implementering. En implementeringsplan delar upp arbetet i fyra faser: Initiering (kommitté, principer, inventering), risk- och konsekvensbedömning (DPIA:er, partiska revisioner, säkerhetsgranskningar), implementering av ramverk (policyer, registrering av användningsfall, livscykelkontroller) samt övervakning och granskning (regelbundna granskningar, omskolning, revisioner).
Detaljerad, återanvändbar policy för acceptabel användning av AI. Dokumentet innehåller ett fullständigt exempel på en policy med syfte och omfattning, vägledande principer, transparens och etik, ansvarsskyldighet och tillsyn, dataskydd och -säkerhet, sekretess, acceptabla och förbjudna användningar, verkställighet och definitioner, plus en tabell över "tillåtet kontra otillåtet" för offentliga AI-verktyg.
Åtta AI-riskkategorier är mappade till specifika skyddsåtgärder. Den täcker systematiskt datasekretess och säkerhet, risker i leveranskedjan och tredje part, modell- och outputrisker, partiskhet och rättvisa, regelverk och efterlevnad, säkerhetssårbarheter, styrnings- och tillsynsrisker samt skugg-AI, och kombinerar vart och ett med konkreta skyddsåtgärder som dataminimering, SBOM, leverantörsdure diligence, red teaming, avtalskontroller och detektering av skugg-AI.
