Pregledom korištenja alata generativne umjetne inteligencije (GenAI) od strane osoblja Ministarstva za pitanja veterana (VA) utvrđeni su potencijalni sigurnosni rizici za pacijente zbog nedostatka zaštitnih mjera i nadzora.
Health-ISAC spomen:
Kako se upotreba GenAI alata u zdravstvu ubrzava, raste zabrinutost da bi se osjetljivi podaci o pacijentima mogli dijeliti s javno dostupnim chatbotovima te da bi AI alati mogli generirati rezultate koji pacijente dovode u opasnost od ozljeda ili čak smrti. Ranije ove godine, Health-ISAC i Radna skupina za kibernetičku sigurnost Koordinacijskog vijeća zdravstvenog sektora izdali su smjernice o razvoju učinkovitih okvira za upravljanje umjetnom inteligencijom – Bijela knjiga Health-ISAC-a: Politike i zaštitne mjere za sigurnu upotrebu umjetne inteligencije i Vodič za implementaciju okvira za kibernetičko upravljanje umjetnom inteligencijom u zdravstvenoj industriji HSCC- a kako bi pomogli zdravstvenim organizacijama da stvore učinkovit okvir za upravljanje i zaštitne mjere umjetne inteligencije te odgovorno koriste GenAI i LLM-ove uz minimiziranje rizika.
