Terminologia inconsistentă a inteligenței artificiale în cadrul organizațiilor din domeniul sănătății creează riscuri măsurabile în achiziții, contracte cu furnizorii și supravegherea siguranței pacienților.
Pentru a închide acest decalaj, Consiliul Coordonator al Sectorului Sănătăţii Grupul de lucru pentru securitate cibernetică (HSCC) (CWG) a publicat astăzi glosarul său de inteligență artificială cibernetică. CWG a publicat, de asemenea, „Ghid de transparență a lanțului de aprovizionare și riscul IA al terților din industria sănătății„Resursa de 109 pagini abordează riscurile de securitate cibernetică din lanțurile de aprovizionare bazate pe inteligență artificială.”
Glosarul stabilește definiții pregătite pentru guvernanță, pe care părțile interesate din domeniul clinic, operațional, al conformității și din domeniul tehnic le pot aplica cu încredere. Greg Garcia, director executiv al HSCC CWG, a menționat că resursa satisface o nevoie critică. Sectorul medical a dus la o lipsă de limbaj comun, specific sectorului, pentru IA. Fiind un document dinamic, glosarul va servi drept bază terminologică pentru toate materialele de îndrumare ale Grupului de lucru HSCC AI.
Bazându-se pe cadre consacrate, cum ar fi Cadrul de gestionare a riscului de inteligență artificială NIST (NIST AI RMF) și practicile comune de securitate cibernetică în industria medicală HSCC-HHS (HICP), Ghidul adaptează cele mai bune practici pentru a reflecta realitățile lanțurilor de aprovizionare bazate pe inteligență artificială în domeniul sănătății - inclusiv urmărirea liniei de date, auditabilitatea modelelor, dependențele încorporate de terți și monitorizarea post-implementare. Acesta prezintă domenii critice de control, cum ar fi atestările de securitate ale furnizorilor, pragurile de explicabilitate a modelelor și cerințele de siguranță pentru sistemele clinice și operaționale bazate pe inteligență artificială. Ghidul permite organizațiilor să definească așteptările de responsabilitate și să stabilească standarde de performanță în întregul ecosistem extins de inteligență artificială.
Un aspect crucial este faptul că Ghidul abordează lacunele tot mai mari din procesele de descoperire și dezvăluire a informațiilor, care fac ca riscul lanțului de aprovizionare cu inteligență artificială să fie atât de dificil de gestionat. Multe organizații de sănătate publică operează cu inventare incomplete sau învechite ale furnizorilor, în timp ce riscurile de securitate cibernetică specifice inteligenței artificiale - cum ar fi utilizarea abuzivă a datelor sintetice, scurgerea datelor de instruire și inferențele contradictorii - nu sunt raportate de către furnizori. Pentru a contracara acest lucru, Ghidul promovează diligența necesară proactivă, profilarea dinamică a riscurilor și transparența contractuală. Acesta dotează managerii de risc, echipele de conformitate și ofițerii de achiziții cu instrumente scalabile pentru a scoate la iveală dependențele ascunse, a identifica punctele de defecțiune în cascadă și a alinia furnizorii și produsele de inteligență artificială terță parte cu obiectivele critice de siguranță, confidențialitate și reziliență.
Citește mai multe și accesează glosarul și ghidul despre inteligența artificială în HealthSystemCIO. Află mai multe
