Í heilbrigðisþjónustu er gervigreind nú hluti af öllu, allt frá klínískum ákvörðunum til mannauðs og fjármála. Samt sem áður skortir margar stofnanir enn þá áhættustýringu sem þarf til að tryggja að gervigreindartól valdi ekki skaða. Skortur á skipulagðu eftirliti þýðir að ákvarðanir sem tengjast gervigreind eru teknar án skýrrar ábyrgðar, sem setur stofnanir í hættu á brotum á siðferðilegum reglum og reglugerðum.
Þegar enginn ber ábyrgð á ákvörðunum og aðgerðum gervigreindar munu blindu blettirnir stækka hratt. Afleiðingar þess að gervigreindarkerfi taki mikilvægar ákvarðanir án eftirlits eru fjölmargar og langtímaáhrifaríkar, sérstaklega þegar líf fólks er í húfi.
