メインコンテンツへスキップ

AIの安全な利用に関する方針と安全対策

AIガバナンスおよびセーフガードフレームワークの構築に関する検討事項

2025年から2026年初頭にかけて、Health-ISAC人工知能ワーキンググループに所属するAI専門のセキュリティ専門家チームが集結し、AIガバナンスフレームワークの開発に関するガイダンスを提供するホワイトペーパーを作成しました。このホワイトペーパーでは、AIの許容使用ポリシーのサンプルと、AIリスク管理に関する詳細なガイダンスを提供しています。また、生成型AIとLLMの責任ある使用に関する明確な定義を定め、PHI、PII、機密データを公開ツールに公開することを禁止し、臨床、人事、法務、財務の各分野におけるAI出力の承認、監視、および人的レビューを義務付けています。

この文書の特徴としては、以下のようなものがあります。

  • 正式なAIガバナンス構造。 本稿では、経営幹部または取締役会に報告を行う、複数の部門（法務、プライバシー、セキュリティ、技術、データサイエンス、ビジネス、倫理）から構成される具体的なAIガバナンス委員会のモデルを提示する。委員会の責任範囲、評価指標の例を定義し、ガバナンスは必須であり、選択肢ではないことを強調する。
  • 柱に基づいたAIガバナンスフレームワーク。 この文書では、7つの柱からなるフレームワークについて説明しています。具体的には、法令・規制・政策、AIのプライバシーと倫理、ユースケースガバナンス、モデルライフサイクルガバナンス、契約と第三者のオンボーディング、AIインシデント対応と侵害管理、そしてAIのトレーニングと教育です。各柱には、それぞれ具体的な目標と担当者が定められています。
  • 実施に向けた実践的なロードマップ。 実装ロードマップでは、作業を4つのフェーズに分けています。開始（委員会、原則、インベントリ）、リスクと影響の評価（DPIA、バイアス監査、セキュリティレビュー）、フレームワークの展開（ポリシー、ユースケース登録、ライフサイクルコントロール）、監視とレビュー（定期レビュー、再トレーニング、監査）。
  • 詳細かつ再利用可能なAI利用規約。 本論文には、目的と範囲、基本原則、透明性と倫理、説明責任と監督、データプライバシーとセキュリティ、機密性、許容される使用と禁止される使用、執行、定義を含む完全なサンプルポリシーに加え、公開AIツールに関する「許可されているものと許可されていないもの」の表が含まれています。
  • AIのリスクは8つのカテゴリーに分類され、それぞれに具体的な安全対策が割り当てられています。 本書は、データプライバシーとセキュリティ、サプライチェーンと第三者リスク、モデルと出力リスク、バイアスと公平性、規制とコンプライアンス、セキュリティ脆弱性、ガバナンスと監督リスク、シャドウAIを体系的に網羅し、それぞれにデータ最小化、SBOM（ソフトウェア部品表）、ベンダーのデューデリジェンス、レッドチーム演習、契約上の管理、シャドウAIの検出といった具体的な安全対策を組み合わせます。

 

著者：ルーダ・コーエン（アッヴィ）、キャロル・ムラド（バイオブリッジ・グローバル）、シュリカンス・ナイク（アボット）、ジェフ・ストリーマン（スペンドメンド）

コンテンツ提供者：ビル・マーフィー（LeanTaaS）、ジョー・ゴスネル（ツーソン医療センター）

TLP:WHITE このレポートは制限なく共有できます。

 

ストライカー社の攻撃が明らかにした医療機器セキュリティについて
HSCCが第三者機関によるAIリスクとサプライチェーンの透明性に関するガイドを発表