누구도 거버넌스 문제를 의도적으로 만들려고 한 것은 아닙니다. 단지 이를 예방할 절차가 없었기 때문에 발생한 것입니다.
의료기관들이 AI를 도입하는 속도는 AI 관리 방법을 배우는 속도보다 훨씬 빠릅니다. 멘로 벤처스에 따르면, 특정 분야에 특화된 AI 도구를 도입한 의료기관의 비율은 작년 한 해 동안에만 7배나 증가했습니다.
AI 공급업체들이 시장에 쏟아져 나왔고, 시범 프로그램도 급증했습니다. 임상 및 행정 팀은 문제를 해결하기 위해 AI 도구를 도입하고 있지만, 어떤 도구가 어디에 왜 배포되는지 추적하는 사람이 없는 경우가 많습니다.
이는 거버넌스 문제이며, 특히 의료 분야에서는 다른 분야보다 훨씬 심각합니다. 제대로 관리되지 않은 AI는 환자 데이터, 임상 워크플로, 규제 준수 여부에 동시에 영향을 미칠 수 있습니다. 관리되지 않은 단 하나의 도구만으로도 문제가 발견되기 전에 이 세 가지 모두가 손상될 수 있습니다.
제가 우려하는 점은 이것이 의료 분야 여러 조직에서 공통적으로 나타나는 가장 중요한 문제점 중 하나라는 것입니다. 일부 조직은 처음부터 새로운 시스템에 거버넌스를 통합하여 큰 문제 없이 규모를 확장하고 있습니다.
