Ana içeriğe atla

Yapay Zekanın Güvenli Kullanımına İlişkin Politikalar ve Güvenlik Önlemleri

Yapay zekâ yönetişimi ve güvenlik çerçevesi oluşturmaya yönelik hususlar

2025 yılı boyunca ve 2026 yılının başlarında, Sağlık-ISAC Yapay Zeka Çalışma Grubu'ndaki yapay zeka odaklı güvenlik uzmanlarından oluşan bir ekip, yapay zeka yönetişim çerçevelerinin geliştirilmesine ilişkin rehberlik sunan bir teknik inceleme belgesi oluşturmak üzere bir araya geldi. Ortaya çıkan teknik inceleme belgesi, örnek bir Yapay Zeka Kabul Edilebilir Kullanım Politikası ve yapay zeka risklerinin yönetimine ilişkin ayrıntılı rehberlik sağlamaktadır. Üretken yapay zeka ve LLM'lerin sorumlu kullanımına ilişkin net tanımlar ortaya koymakta, PHI, PII ve gizli verilerin kamuya açık araçlara ifşa edilmesini yasaklamakta ve klinik, insan kaynakları, yasal ve finansal bağlamlarda yapay zeka çıktılarının yetkilendirilmesini, denetlenmesini ve insan incelemesini gerektirmektedir.

Belgenin bazı özellikleri şunlardır:

  • Resmi yapay zeka yönetişim yapısı. Bu makale, üst düzey yöneticilere veya Yönetim Kuruluna rapor veren, çeşitli fonksiyonel alanlardan (hukuk, gizlilik, güvenlik, teknoloji, veri bilimi, işletme, etik) temsilcilerin yer aldığı somut bir Yapay Zeka Yönetişim Komitesi modeli ortaya koymaktadır. Sorumlulukları, örnek ölçütleri tanımlamakta ve yönetişimin isteğe bağlı değil, olmazsa olmaz bir unsur olduğunu vurgulamaktadır.
  • Temel unsurlara dayalı bir Yapay Zeka Yönetişim Çerçevesi. Bu belge, yedi temel unsurdan oluşan bir çerçeve tanımlamaktadır: mevzuat/düzenleme/politika, yapay zeka gizliliği ve etiği, kullanım senaryosu yönetimi, model yaşam döngüsü yönetimi, sözleşme ve üçüncü taraf entegrasyonu, yapay zeka olay müdahalesi ve ihlal yönetimi ile yapay zeka eğitimi ve öğretimi. Her bir unsurun belirli hedefleri ve sorumluları vardır.
  • Uygulamaya yönelik pratik yol haritası. Bir uygulama yol haritası, çalışmayı dört aşamaya ayırır: Başlatma (komite, ilkeler, envanter), Risk ve Etki Değerlendirmesi (Veri Gizliliği Etki Değerlendirmeleri, önyargı denetimleri, güvenlik incelemeleri), Çerçeve Dağıtımı (politikalar, kullanım senaryosu kaydı, yaşam döngüsü kontrolleri) ve İzleme ve Gözden Geçirme (periyodik incelemeler, yeniden eğitim, denetimler).
  • Ayrıntılı, yeniden kullanılabilir Yapay Zeka Kabul Edilebilir Kullanım Politikası. Bu belge, amaç ve kapsam, yol gösterici ilkeler, şeffaflık ve etik, hesap verebilirlik ve denetim, veri gizliliği ve güvenliği, gizlilik, kabul edilebilir ve yasaklanmış kullanımlar, uygulama ve tanımlar içeren eksiksiz bir örnek politika ile kamuya açık yapay zeka araçları için "izin verilenler ve izin verilmeyenler" tablosunu içermektedir.
  • Sekiz yapay zeka risk kategorisi, belirli güvenlik önlemleriyle eşleştirilmiştir. Veri gizliliği ve güvenliği, tedarik zinciri ve üçüncü taraf riskleri, model ve çıktı riskleri, önyargı ve adalet, düzenleme ve uyumluluk, güvenlik açıkları, yönetişim ve gözetim riskleri ve gölge yapay zeka konularını sistematik olarak ele alıyor ve her birini veri minimizasyonu, SBOM'lar, tedarikçi durum tespiti, kırmızı ekip çalışmaları, sözleşmesel kontroller ve gölge yapay zeka tespiti gibi somut önlemlerle eşleştiriyor.

 

Yazarlar: Cohen, Luda (AbbVie); Mourad, Carole (Bio Bridge Global); Naik, Shrikanth (Abbott); Streelman, Jeff (SpendMend)

İçerik Katkıda Bulunanlar: Murphy, Bill (LeanTaaS), Gosnell, Joe (Tucson Tıp Merkezi)

TLP:WHITE Bu rapor herhangi bir kısıtlama olmaksızın paylaşılabilir.

 

Stryker Saldırısı Tıbbi Cihaz Güvenliği Hakkında Neler Ortaya Koyuyor?
HSCC, Üçüncü Taraf Yapay Zeka Riski ve Tedarik Zinciri Şeffaflığı Rehberini Tanıttı