اعتبارات إنشاء إطار حوكمة وضمانات الذكاء الاصطناعي
خلال عام 2025 وبداية عام 2026، اجتمع فريق من خبراء أمن الذكاء الاصطناعي في مجموعة عمل الذكاء الاصطناعي التابعة لمركز تبادل المعلومات والتحليلات الصحية (Health-ISAC) لإعداد ورقة بحثية تقدم إرشادات حول تطوير أطر حوكمة الذكاء الاصطناعي. وتقدم هذه الورقة نموذجًا لسياسة الاستخدام المقبول للذكاء الاصطناعي، بالإضافة إلى إرشادات تفصيلية حول إدارة مخاطره. كما تحدد تعريفات واضحة للاستخدام المسؤول للذكاء الاصطناعي التوليدي ونماذج التعلم الآلي، وتحظر الكشف عن المعلومات الصحية الشخصية، والمعلومات الشخصية الحساسة، والبيانات السرية للأدوات العامة، وتشترط الحصول على ترخيص، وإشراف، ومراجعة بشرية لمخرجات الذكاء الاصطناعي في السياقات السريرية، والموارد البشرية، والقانونية، والمالية.
تتضمن بعض ميزات الوثيقة ما يلي:
هيكل حوكمة الذكاء الاصطناعي الرسمي. تُقدّم هذه الورقة نموذجًا عمليًا للجنة حوكمة الذكاء الاصطناعي، يضمّ تمثيلًا متعدد التخصصات (الشؤون القانونية، والخصوصية، والأمن، والتكنولوجيا، وعلوم البيانات، والأعمال، والأخلاقيات)، ويرفع تقاريره إلى الإدارة العليا أو مجلس الإدارة. كما تُحدّد المسؤوليات، وتُقدّم أمثلة على مؤشرات الأداء، وتؤكد على أن الحوكمة ضرورة لا غنى عنها، وليست خيارًا.
إطار حوكمة الذكاء الاصطناعي القائم على الركائز. تصف الوثيقة إطار عملٍ يتألف من سبعة محاور رئيسية: التشريعات/اللوائح/السياسات، وخصوصية الذكاء الاصطناعي وأخلاقياته، وإدارة حالات الاستخدام، وإدارة دورة حياة النموذج، والتعاقد وإشراك الأطراف الثالثة، والاستجابة لحوادث الذكاء الاصطناعي وإدارة الاختراقات، والتدريب والتثقيف في مجال الذكاء الاصطناعي. ولكل محور أهدافٌ محددة ومسؤولون عنه.
خارطة طريق عملية للتنفيذ. تقسم خارطة طريق التنفيذ العمل إلى أربع مراحل: البدء (اللجنة، المبادئ، الجرد)، تقييم المخاطر والتأثير (تقييمات حماية البيانات، عمليات تدقيق التحيز، مراجعات الأمان)، نشر الإطار (السياسات، تسجيل حالات الاستخدام، ضوابط دورة الحياة)، والمراقبة والمراجعة (المراجعات الدورية، إعادة التدريب، عمليات التدقيق).
سياسة استخدام الذكاء الاصطناعي المقبولة المفصلة والقابلة لإعادة الاستخدام. تتضمن الورقة نموذجًا كاملاً للسياسة مع الغرض والنطاق والمبادئ التوجيهية والشفافية والأخلاقيات والمساءلة والإشراف وخصوصية البيانات وأمنها وسريتها والاستخدامات المقبولة والمحظورة والإنفاذ والتعريفات، بالإضافة إلى جدول "المسموح به مقابل غير المسموح به" لأدوات الذكاء الاصطناعي العامة.
تم ربط ثماني فئات من مخاطر الذكاء الاصطناعي بضمانات محددة. يغطي هذا المنهج بشكل منهجي خصوصية البيانات وأمنها، ومخاطر سلسلة التوريد والأطراف الثالثة، ومخاطر النماذج والمخرجات، والتحيز والإنصاف، والتنظيم والامتثال، ونقاط الضعف الأمنية، ومخاطر الحوكمة والإشراف، والذكاء الاصطناعي الخفي، ويربط كل منها بضمانات ملموسة مثل تقليل البيانات، وقوائم مكونات البرمجيات، والتحقق من البائعين، واختبارات الفريق الأحمر، والضوابط التعاقدية، والكشف عن الذكاء الاصطناعي الخفي.
