Skip to main content

Mga Patakaran at Pananggalang para sa Ligtas na Paggamit ng AI

Mga konsiderasyon para sa paglikha ng balangkas ng pamamahala at mga pananggalang sa Al

Sa buong taong 2025 at unang bahagi ng 2026, isang pangkat ng mga propesyonal sa seguridad na nakatuon sa AI sa Health-ISAC Artificial Intelligence Working Group ang nagsama-sama upang lumikha ng isang white paper na nag-aalok ng gabay sa pagbuo ng mga balangkas ng pamamahala ng AI. Ang nagresultang white paper ay nagbibigay ng isang halimbawang Patakaran sa Katanggap-tanggap na Paggamit ng AI at detalyadong gabay sa pamamahala ng mga panganib ng AI. Nagtatakda ito ng malinaw na mga kahulugan ng responsableng paggamit ng generative AI at mga LLM, na nagbabawal sa pagkakalantad ng PHI, PII, at kumpidensyal na data sa mga pampublikong tool, at nangangailangan ng awtorisasyon, pangangasiwa, at pagsusuri ng tao sa mga output ng AI sa mga klinikal, HR, legal, at pinansyal na konteksto.

Ang ilan sa mga tampok ng dokumento ay kinabibilangan ng:

  • Pormal na istruktura ng pamamahala ng AI. Inilalatag ng papel ang isang konkretong modelo ng AI Governance Committee na may cross-functional representation (legal, privacy, seguridad, teknolohiya, data science, negosyo, etika) na nag-uulat sa senior leadership o sa Board. Tinutukoy nito ang mga responsibilidad, mga halimbawang sukatan, at binibigyang-diin na ang pamamahala ay isang bagay na dapat taglayin, hindi opsyonal.
  • Isang Balangkas ng Pamamahala ng AI na nakabatay sa haligi. Inilalarawan ng dokumento ang balangkas ng pitong haligi: batas/regulasyon/patakaran, privacy at etika ng AI, pamamahala sa paggamit ng kaso, pamamahala sa lifecycle ng modelo, pagkontrata at onboarding ng ikatlong partido, pagtugon sa insidente at pamamahala ng paglabag sa AI, at pagsasanay at edukasyon ng AI. Ang bawat haligi ay may mga partikular na layunin at may-ari.
  • Praktikal na roadmap para sa pagpapatupad. Hinahati ng isang roadmap ng implementasyon ang gawain sa apat na yugto: Pagsisimula (komite, mga prinsipyo, imbentaryo), Pagtatasa ng Panganib at Epekto (mga DPIA, bias audit, mga pagsusuri sa seguridad), Pag-deploy ng Framework (mga patakaran, pagpaparehistro ng use case, mga kontrol sa lifecycle), at Pagsubaybay at Pagsusuri (mga pana-panahong pagsusuri, muling pagsasanay, mga audit).
  • Detalyado at magagamit muli na Patakaran sa Katanggap-tanggap na Paggamit ng AI. Kasama sa papel ang isang kumpletong halimbawang patakaran na may layunin at saklaw, mga gabay na prinsipyo, transparency at etika, pananagutan at pangangasiwa, privacy at seguridad ng datos, pagiging kumpidensyal, mga katanggap-tanggap at ipinagbabawal na paggamit, pagpapatupad, at mga kahulugan, kasama ang isang talahanayan ng "pinapayagan vs hindi pinapayagan" para sa mga pampublikong tool ng AI.
  • Walong kategorya ng panganib ng AI ang nakaugnay sa mga partikular na pananggalang. Sistematikong sinasaklaw nito ang privacy at seguridad ng data, supply chain at third party risk, model at output risk, bias at fairness, regulatory at compliance, security vulnerabilities, governance at oversight risk, at shadow AI, at ipinapares ang bawat isa sa mga konkretong pananggalang tulad ng data minimization, SBOMs, vendor due diligence, red teaming, contractual controls, at shadow AI detection.

 

Mga May-akda: Cohen, Luda (AbbVie); Mourad, Carole (Bio Bridge Global); Naik, Shrikanth (Abbott); Streelman, Jeff (SpendMend)

Mga Kontribyutor ng Nilalaman: Murphy, Bill (LeanTaaS), Gosnell, Joe (Tucson Medical Center)

TLP:WHITE Maaaring ibahagi ang ulat na ito nang walang paghihigpit.

 

Ang Isiniwalat ng Stryker Attack Tungkol sa Seguridad ng Medical Device
Inilabas ng HSCC ang Gabay sa Transparency ng Panganib at Supply Chain ng 3rd-Party AI