Ugrás a tartalomra

A mesterséges intelligencia biztonságos használatára vonatkozó irányelvek és biztosítékok

Megfontolások az ál-aktivitási irányítási és védelmi keretrendszer létrehozására

2025 folyamán és 2026 elején a Health-ISAC Mesterséges Intelligencia Munkacsoport mesterséges intelligenciára szakosodott biztonsági szakembereiből álló csapat összefogott, hogy elkészítsenek egy tanulmányt, amely útmutatást nyújt a mesterséges intelligencia irányítási keretrendszereinek kidolgozásához. Az így létrejött tanulmány egy minta MI elfogadható felhasználási szabályzatot és részletes útmutatást tartalmaz a mesterséges intelligencia kockázatainak kezelésére. Világosan meghatározza a generatív MI és a jogi menedzsment eszközök felelős használatának definícióit, tiltja a védett egészségügyi információk, a személyes adatok és a bizalmas adatok nyilvános eszközöknek való kitettségét, valamint előírja a MI-kimenetek engedélyezését, felügyeletét és emberi felülvizsgálatát klinikai, HR, jogi és pénzügyi környezetben.

A dokumentum néhány jellemzője a következő:

  • Formális MI irányítási struktúra. A tanulmány egy konkrét MI Irányító Bizottsági modellt vázol fel, amely több funkcionális területet (jogi, adatvédelmi, biztonsági, technológiai, adattudományi, üzleti, etikai) képvisel, és a felső vezetésnek vagy az igazgatótanácsnak tartozik beszámolási kötelezettséggel. Meghatározza a felelősségi köröket, példamutató mutatókat mutat be, és hangsúlyozza, hogy az irányítás elengedhetetlen, nem pedig opcionális.
  • Egy pilléren alapuló mesterséges intelligencia irányítási keretrendszer. A dokumentum egy hét pilléren nyugvó keretrendszert ír le: jogszabályok/rendelkezések/politikák, MI-adatvédelem és etika, használati esetek irányítása, modelléletciklus-irányítás, szerződéskötés és harmadik fél bevonása, MI-incidensekre adott válasz és incidenskezelés, valamint MI-képzés és -oktatás. Minden pillérnek megvannak a saját célkitűzései és felelősei.
  • Gyakorlati ütemterv a megvalósításhoz. Egy megvalósítási ütemterv négy fázisra bontja a munkát: Kezdeményezés (bizottság, alapelvek, leltár), Kockázat- és hatásértékelés (DPIA-k, elfogultsági auditok, biztonsági felülvizsgálatok), Keretrendszer telepítése (szabályzatok, használati esetek regisztrációja, életciklus-ellenőrzések), valamint Monitoring és felülvizsgálat (időszakos felülvizsgálatok, átképzés, auditok).
  • Részletes, újrafelhasználható mesterséges intelligencia elfogadható felhasználási szabályzata. A dokumentum tartalmaz egy teljes minta szabályzatot, amely tartalmazza a célt és a hatókört, az irányelveket, az átláthatóságot és az etikát, az elszámoltathatóságot és a felügyeletet, az adatvédelmet és -biztonságot, a titoktartást, az elfogadható és tiltott felhasználási módokat, a végrehajtást és a definíciókat, valamint egy táblázatot a nyilvános MI-eszközök „engedélyezett és tiltott” felhasználási módjairól.
  • Nyolc mesterséges intelligencia kockázati kategóriát rendeltek hozzá konkrét biztosítékokhoz. Szisztematikusan lefedi az adatvédelmet és -biztonságot, az ellátási lánccal és a harmadik felekkel kapcsolatos kockázatokat, a modell- és kimeneti kockázatot, az elfogultságot és a méltányosságot, a szabályozási és megfelelési szempontokat, a biztonsági réseket, az irányítási és felügyeleti kockázatot, valamint az árnyék-AI-t, és mindegyiket konkrét biztosítékokkal párosítja, mint például az adatminimalizálás, az SBOM-ok, a szállítói átvilágítás, a vörös csapatmunka, a szerződéses ellenőrzések és az árnyék-AI felderítése.

 

Szerzők: Cohen, Luda (AbbVie); Mourad, Carole (Bio Bridge Global); Naik, Shrikanth (Abbott); Streelman, Jeff (SpendMend)

Tartalom közreműködők: Murphy, Bill (LeanTaaS), Gosnell, Joe (Tucson Medical Center)

TLP:FEHÉR Ez a jelentés korlátozás nélkül megosztható.

 

Mit tár fel a Stryker támadás az orvostechnikai eszközök biztonságáról?
A HSCC bemutatta a harmadik féltől származó mesterséges intelligencia kockázatkezelési és ellátási lánc átláthatósági útmutatóját