एआई शासन और सुरक्षा ढांचा बनाने के लिए विचारणीय बिंदु
2025 और 2026 की शुरुआत में, हेल्थ-आईएसएसी आर्टिफिशियल इंटेलिजेंस वर्किंग ग्रुप में एआई-केंद्रित सुरक्षा पेशेवरों की एक टीम ने एआई गवर्नेंस फ्रेमवर्क विकसित करने के लिए मार्गदर्शन प्रदान करने वाला एक श्वेत पत्र तैयार किया। इस श्वेत पत्र में एआई स्वीकार्य उपयोग नीति का एक नमूना और एआई जोखिमों के प्रबंधन पर विस्तृत मार्गदर्शन दिया गया है। यह जनरेटिव एआई और एलएलएम के जिम्मेदार उपयोग की स्पष्ट परिभाषाएँ निर्धारित करता है, सार्वजनिक उपकरणों पर व्यक्तिगत स्वास्थ्य जानकारी (पीएचआई), व्यक्तिगत पहचान योग्य जानकारी (पीआईआई) और गोपनीय डेटा के प्रकटीकरण को प्रतिबंधित करता है, और नैदानिक, मानव संसाधन, कानूनी और वित्तीय संदर्भों में एआई आउटपुट के प्राधिकरण, निरीक्षण और मानवीय समीक्षा को अनिवार्य बनाता है।
इस दस्तावेज़ की कुछ विशेषताएं इस प्रकार हैं:
औपचारिक एआई शासन संरचना। इस शोधपत्र में विभिन्न विभागों (कानूनी, गोपनीयता, सुरक्षा, प्रौद्योगिकी, डेटा विज्ञान, व्यवसाय, नैतिकता) के प्रतिनिधित्व वाली एक ठोस एआई गवर्नेंस कमेटी का मॉडल प्रस्तुत किया गया है, जो वरिष्ठ नेतृत्व या बोर्ड को रिपोर्ट करती है। इसमें जिम्मेदारियों, उदाहरण मापदंडों को परिभाषित किया गया है और इस बात पर जोर दिया गया है कि गवर्नेंस अनिवार्य है, वैकल्पिक नहीं।
स्तंभ आधारित एआई शासन ढांचा। इस दस्तावेज़ में सात स्तंभों वाले ढांचे का वर्णन किया गया है: कानून/नियमन/नीति, एआई की गोपनीयता और नैतिकता, उपयोग मामलों का प्रबंधन, मॉडल जीवनचक्र का प्रबंधन, अनुबंध और तृतीय पक्ष को शामिल करना, एआई घटना प्रतिक्रिया और उल्लंघन प्रबंधन, और एआई प्रशिक्षण और शिक्षा। प्रत्येक स्तंभ के विशिष्ट उद्देश्य और ज़िम्मेदारियाँ हैं।
कार्यान्वयन के लिए व्यावहारिक रोडमैप। एक कार्यान्वयन रोडमैप कार्य को चार चरणों में विभाजित करता है: आरंभ (समिति, सिद्धांत, सूची), जोखिम और प्रभाव मूल्यांकन (डीपीआईए, पूर्वाग्रह ऑडिट, सुरक्षा समीक्षा), फ्रेमवर्क परिनियोजन (नीतियां, उपयोग केस पंजीकरण, जीवनचक्र नियंत्रण), और निगरानी और समीक्षा (आवधिक समीक्षा, पुनः प्रशिक्षण, ऑडिट)।
विस्तृत, पुन: प्रयोज्य एआई स्वीकार्य उपयोग नीति। इस शोधपत्र में उद्देश्य और कार्यक्षेत्र, मार्गदर्शक सिद्धांत, पारदर्शिता और नैतिकता, जवाबदेही और निगरानी, डेटा गोपनीयता और सुरक्षा, गोपनीयता, स्वीकार्य और निषिद्ध उपयोग, प्रवर्तन और परिभाषाओं सहित एक पूर्ण नमूना नीति शामिल है, साथ ही सार्वजनिक एआई उपकरणों के लिए "अनुमत बनाम गैर-अनुमत" की एक तालिका भी दी गई है।
एआई से जुड़े आठ जोखिम श्रेणियों को विशिष्ट सुरक्षा उपायों से जोड़ा गया है। यह डेटा गोपनीयता और सुरक्षा, आपूर्ति श्रृंखला और तृतीय पक्ष जोखिम, मॉडल और आउटपुट जोखिम, पूर्वाग्रह और निष्पक्षता, विनियामक और अनुपालन, सुरक्षा कमजोरियों, शासन और निरीक्षण जोखिम, और शैडो एआई को व्यवस्थित रूप से कवर करता है, और प्रत्येक को डेटा न्यूनीकरण, एसबीओएम, विक्रेता उचित परिश्रम, रेड टीमिंग, संविदात्मक नियंत्रण और शैडो एआई पहचान जैसे ठोस सुरक्षा उपायों के साथ जोड़ता है।
