Иди на главни садржај

Политике и мере заштите за безбедно коришћење вештачке интелигенције

Разматрања за креирање оквира за управљање и заштитне мере у вези са вештачком интелигенцијом

Током 2025. и почетком 2026. године, тим стручњака за безбедност фокусираних на вештачку интелигенцију у оквиру Радне групе за вештачку интелигенцију Health-ISAC окупио се како би креирао белу књигу која нуди смернице о развоју оквира за управљање вештачком интелигенцијом. Резултујућа бела књига пружа пример Политике прихватљиве употребе вештачке интелигенције и детаљне смернице о управљању ризицима вештачке интелигенције. Она поставља јасне дефиниције одговорне употребе генеративне вештачке интелигенције и мастер модела управљања (LLM), забрањујући излагање заштићених здравствених информација (PHI), личних информација (PII) и поверљивих података јавним алатима и захтевајући овлашћење, надзор и људски преглед резултата вештачке интелигенције у клиничком, људском, правном и финансијском контексту.

Неке карактеристике документа укључују:

  • Формална структура управљања вештачком интелигенцијом. У раду је представљен конкретан модел Одбора за управљање вештачком интелигенцијом са међуфункционалном заступљеношћу (правни, приватност, безбедност, технологија, наука о подацима, пословање, етика) који извештава вишем руководству или Управном одбору. Дефинише одговорности, даје примере метрике и наглашава да је управљање неопходно, а не опционо.
  • Оквир управљања вештачком интелигенцијом заснован на стубовима. Документ описује оквир од седам стубова: законодавство/регулатива/политика, приватност и етика вештачке интелигенције, управљање случајевима употребе, управљање животним циклусом модела, уговарање и укључивање трећих страна, реаговање на инциденте и кршење безбедности вештачке интелигенције, као и обука и образовање о вештачкој интелигенцији. Сваки стуб има специфичне циљеве и носиоце.
  • Практични план за имплементацију. План имплементације дели рад на четири фазе: Покретање (одбор, принципи, инвентар), Процена ризика и утицаја (DPIA, ревизије пристрасности, безбедносни прегледи), Примена оквира (политике, регистрација случајева употребе, контроле животног циклуса) и Праћење и преглед (периодични прегледи, преобука, ревизије).
  • Детаљна, вишекратно употребљива политика прихватљиве употребе вештачке интелигенције. Рад садржи комплетан пример политике са сврхом и обимом, водећим принципима, транспарентношћу и етиком, одговорношћу и надзором, приватношћу и безбедношћу података, поверљивошћу, прихватљивим и забрањеним употребама, спровођењем и дефиницијама, плус табелу „дозвољених наспрам недозвољених“ за јавне алате вештачке интелигенције.
  • Осам категорија ризика вештачке интелигенције мапирано је на специфичне мере заштите. Систематски покрива приватност и безбедност података, ризик ланца снабдевања и трећих страна, ризик модела и резултата, пристрасност и правичност, регулаторне прописе и усклађеност, безбедносне рањивости, ризик управљања и надзора, и вештачку интелигенцију у сенци, и сваку од њих упарује са конкретним заштитним мерама као што су минимизирање података, SBOM-ови, дужна пажња добављача, „црвени тимови“, уговорне контроле и откривање вештачке интелигенције у сенци.

 

Аутори: Коен, Луда (AbbVie); Мурад, Керол (Bio Bridge Global); Наик, Шрикант (Abbott); Стрилман, Џеф (SpendMend)

Сарадници на садржају: Мерфи, Бил (LeanTaaS), Госнел, Џо (Медицински центар Тусон)

TLP:WHITE Овај извештај се може делити без ограничења.

 

Шта Страјкеров напад открива о безбедности медицинских уређаја
HSCC открива Водич за ризике и транспарентност ланца снабдевања у вези са вештачком интелигенцијом треће стране