در حوزه مراقبتهای بهداشتی، هوش مصنوعی اکنون در همه چیز، از تصمیمات بالینی گرفته تا منابع انسانی و مالی، گنجانده شده است. با این حال، بسیاری از سازمانها هنوز فاقد تفویض اختیار مدیریت ریسک لازم برای اطمینان از اینکه ابزارهای هوش مصنوعی در نهایت باعث آسیب نمیشوند، هستند. فقدان نظارت ساختاریافته به این معنی است که تصمیمات مرتبط با هوش مصنوعی بدون پاسخگویی روشن گرفته میشوند و سازمانها را در معرض خطر نقض اخلاقی و نظارتی قرار میدهند.
وقتی هیچکس مسئول تصمیمات و اقدامات هوش مصنوعی نباشد، نقاط کور به سرعت گسترش مییابند. عواقب تصمیمگیریهای پرخطر یک سیستم هوش مصنوعی بدون نظارت، متعدد و گسترده است، بهخصوص زمانی که جان افراد در خطر باشد.
