Оди до главна содржина

Политики и заштитни мерки за безбедна употреба на вештачка интелигенција

Размислувања за создавање рамка за управување и заштита на вештачката интелигенција

Во текот на 2025 година и почетокот на 2026 година, тим од професионалци за безбедност фокусирани на вештачка интелигенција во Работната група за вештачка интелигенција Health-ISAC се собра за да создаде бела книга што нуди насоки за развој на рамки за управување со вештачката интелигенција. Резултирачката бела книга дава примерок од Политиката за прифатлива употреба на вештачката интелигенција и детални насоки за управување со ризиците од вештачката интелигенција. Во неа се поставуваат јасни дефиниции за одговорно користење на генеративна вештачка интелигенција и LLM, забранувајќи изложување на PHI, PII и доверливи податоци на јавни алатки и барајќи овластување, надзор и човечка проверка на резултатите од вештачката интелигенција во клинички, човечки ресурси, правни и финансиски контексти.

Некои од карактеристиките на документот вклучуваат:

  • Формална структура за управување со вештачката интелигенција. Во трудот е претставен конкретен модел на Комитет за управување со вештачка интелигенција со меѓуфункционална застапеност (правни, приватност, безбедност, технологија, наука за податоци, бизнис, етика) кој поднесува извештаи до вишото раководство или до Одборот. Ги дефинира одговорностите, примерните метрики и нагласува дека управувањето е задолжително, а не опционално.
  • Рамка за управување со вештачката интелигенција базирана на столбови. Документот опишува рамка од седум столба: законодавство/регулатива/политика, приватност и етика на вештачката интелигенција, управување со случаи на употреба, управување со животниот циклус на моделот, склучување договори и вклучување од трети страни, одговор на инциденти со вештачка интелигенција и управување со прекршувања, како и обука и едукација за вештачка интелигенција. Секој столб има специфични цели и носители.
  • Практичен план за имплементација. Планот за имплементација ја дели работата во четири фази: Иницирање (комисија, принципи, инвентар), Проценка на ризикот и влијанието (DPIA, ревизии на пристрасност, безбедносни прегледи), Распоредување на рамката (политики, регистрација на случаи на употреба, контроли на животниот циклус) и Мониторинг и преглед (периодични прегледи, преквалификација, ревизии).
  • Детална политика за прифатлива употреба на вештачка интелигенција за повеќекратна употреба. Трудот вклучува целосен примерок на политика со цел и опсег, водечки принципи, транспарентност и етика, отчетност и надзор, приватност и безбедност на податоците, доверливост, прифатливи и забранети употреби, спроведување и дефиниции, плус табела на „дозволени наспроти недозволени“ за јавни алатки за вештачка интелигенција.
  • Осум категории на ризик од вештачка интелигенција се мапирани според специфични заштитни мерки. Систематски ги опфаќа приватноста и безбедноста на податоците, ризикот од синџирот на снабдување и ризикот од трети страни, ризикот од моделот и излезот, пристрасноста и праведноста, регулативата и усогласеноста, безбедносните ранливости, ризикот од управување и надзор и „сенка вештачка интелигенција“, и ги поврзува секое со конкретни заштитни мерки како што се минимизирање на податоци, SBOM-ови, длабинска анализа на добавувачи, црвено здружување, договорни контроли и откривање на „сенка вештачка интелигенција“.

 

Автори: Коен, Луда (АбВи); Мурад, Керол (Био Бриџ Глобал); Наик, Шрикант (Абот); Стрилман, Џеф (СпендМенд)

Соработници на содржината: Марфи, Бил (LeanTaaS), Госнел, Џо (Медицински центар Тусон)

TLP:WHITE Овој извештај може да се споделува без ограничување.

 

Што открива нападот на Страјкер за безбедноста на медицинските помагала
HSCC го претставува Водичот за транспарентност на синџирот на снабдување и ризик од вештачка интелигенција од трети страни