في مجال الرعاية الصحية، بات الذكاء الاصطناعي جزءًا لا يتجزأ من كل شيء، بدءًا من القرارات السريرية وصولًا إلى الموارد البشرية والمالية. ومع ذلك، لا تزال العديد من المؤسسات تفتقر إلى تفويض إدارة المخاطر اللازم لضمان عدم تسبب أدوات الذكاء الاصطناعي في أضرار. ويؤدي غياب الرقابة المنظمة إلى اتخاذ القرارات المتعلقة بالذكاء الاصطناعي دون مساءلة واضحة، مما يعرض المؤسسات لخطر انتهاكات أخلاقية وقانونية.
عندما لا يكون هناك من يتحمل مسؤولية القرارات والإجراءات التي تتخذها أنظمة الذكاء الاصطناعي، تتسع ثغراتها بسرعة. إن عواقب اتخاذ نظام الذكاء الاصطناعي قرارات مصيرية دون رقابة عديدة وواسعة النطاق، لا سيما عندما تكون حياة الناس على المحك.
