Eine Überprüfung des Einsatzes von Werkzeugen der generativen künstlichen Intelligenz (GenAI) durch Mitarbeiter des US-Veteranenministeriums (VA) hat potenzielle Risiken für die Patientensicherheit aufgrund mangelnder Schutzmaßnahmen und Aufsicht aufgezeigt.
Health-ISAC-Erwähnung:
Mit dem zunehmenden Einsatz von GenAI-Tools im Gesundheitswesen wächst die Sorge, dass sensible Patientendaten an öffentlich zugängliche Chatbots weitergegeben werden könnten und dass KI-Tools Ergebnisse generieren könnten, die Patienten gefährden oder gar zum Tod führen. Anfang des Jahres veröffentlichten Health-ISAC und die Arbeitsgruppe Cybersicherheit des Health Sector Coordinating Council (HSCC) Leitlinien zur Entwicklung effektiver KI-Governance-Rahmenwerke: das Health-ISAC-Whitepaper „ Policies and Safeguards for a Safe Use of AI“ und den HSCC-Implementierungsleitfaden für das KI-Cyber-Governance-Rahmenwerk im Gesundheitswesen. Diese sollen Gesundheitsorganisationen dabei unterstützen, ein effektives KI-Governance- und Schutzsystem zu schaffen und GenAI sowie LLMs verantwortungsvoll und risikominimierend einzusetzen.
Lesen Sie den Artikel im HIPAA Journal. Mehr erfahren
