Un examen de l'utilisation des outils d'intelligence artificielle générative (GenAI) par le personnel du Département des affaires des anciens combattants (VA) a identifié des risques potentiels pour la sécurité des patients en raison d'un manque de garanties et de surveillance.
Santé-Mention ISAC :
Avec l'accélération de l'utilisation des outils d'IA générale dans le secteur de la santé, l'inquiétude grandit quant au partage potentiel de données sensibles de patients avec des chatbots accessibles au public et au risque que ces outils produisent des résultats exposant les patients à des risques, voire à la mort. Plus tôt cette année, Health-ISAC et le groupe de travail sur la cybersécurité du Conseil de coordination du secteur de la santé (HSCC) ont publié des recommandations pour l'élaboration de cadres de gouvernance efficaces en matière d'IA : le livre blanc de Health-ISAC intitulé « Politiques et garanties pour une utilisation sûre de l'IA » et le guide de mise en œuvre du cadre de gouvernance de la cybersécurité de l'IA dans le secteur de la santé du HSCC. Ces documents visent à aider les établissements de santé à créer un cadre de gouvernance et de protection efficace en matière d'IA et à utiliser de manière responsable l'IA générale et les robots de modélisation linguistique (RML) tout en minimisant les risques.
