米国200病院の合意による医療AIガバナンス、中国病院への示唆

世界初の体系的医療AIガバナンスの登場

米国の医療AIの分野で、待望の「ルールブック」がついに届いた。メイヨークリニック、クリーブランドクリニック、マサチューセッツ総合病院（Mass General Brigham）、MDアンダーソンがんセンター、スタンフォード医療、UCLA Healthといった名門医療機関が主導するCHAI（Coalition for Health AI）連合が、約200の医療機関およびテクノロジー企業と連携し、「医療AIガバナンスフレームワーク（AI Governance Playbooks）」を発表した。 これは、医療分野におけるAI導入の在り方を体系的に定義した、現時点で世界初かつ最もを含む的な操作マニュアルと位置づけられている。全228ページに及ぶこの報告書は、政府や単一の業界団体が一方的に定めたものではなく、臨床現場を担う多様なステークホルダーの合意に基づいて策定された点に、その重みがある。急速に普及する医療AIに対し、「正しいAIの迅速な導入」と「誤ったAIの早期停止」を両立させるための実践的な羅針盤となることを目指している。

フレームワークの4つの柱と5つのサブドメイン

CHAIフレームワークの土台は、人工知能管理システムの国際標準であるISO/IEC 42001に基づいている。この汎用的な国際基準を、医療という特殊なシナリオにおける具体的で実行可能なアクションに落とし込んだ点が、本フレームワークの第一の特徴である。 ガバナンスの全体像は、4つの主要なドメイン（領域）に整理されている。 * AIポリシー（政策）：「責任を持ってAIを使用する」といった抽象的な理念に留まらない。生成AI（GenAI）や電子カルテ（EHR）内蔵のAI機能をガバナンスの範囲に含めるか、承認プロセスは何か、ポリシーの更新を誰が監督するかといった、運用の骨格を明確に定義することを要求している。

• 組織構造：AIガバナンス委員会（AIGC）の設立が必須とされる。独立した委員会でも、既存のデータガバナンス委員会の傘下でも構わないが、「存在しないこと」だけは許されない。さらに、この委員会は「名ばかり」であってはならず、誰が責任を持ち（Responsible）、誰が承認し（Accountable）、誰が助言を提供し（Consulted）、誰に通知するか（Informed）を定めたRACIマトリックスを明確に持つ必要がある。これは、AIガバナンスが本質的には技術の問題ではなく、組織の問題であるという認識の表れだ。
• 組織リソース：ガバナンス活動を支える人的・技術的・財政的リソースの確保を定義する。
• 組織プロセス：最も実践的な領域で、さらに5つのサブドメインに分解される。 1. AIライフサイクル管理 2. リスクと影響評価 3. 責任あるデータ管理 4. 第三者（ベンダー）管理 5. 教育とトレーニング この構造により、病院は自院のAI導入状況をどこに位置づけるべきか、どの部分が不足しているかを客観的に把握できるようになる。

「管理が多いほど良い」わけではない──リスクベースの論理

本報告書の中でも特に注目すべきは、すべてのAIソリューションを一律に扱わず、リスクに応じてガバナンスの強度を変える「リスクベースアプローチ（Risk-based Approach）」の論理だ。これは、限られた経営資源を最も重要な課題に集中させるための、極めて現実的なアプローチである。 具体的には、導入を検討するすべてのAIソリューションが、3つのリスク関門をを通じてする必要がある。 * 第一関門：リスク分類（Risk Categorization） すべてのAIソリューションがまず、「低」「中」「高」の3段階に分類される。この分類自体が最初の意思決定の場となる。

• 第二関門：リスク評価（Risk Assessment） 「高」リスクに分類されたソリューションのみがこの関門をを通じてする。被害が発生する確率と、その影響の度合いを詳細に評価する。
• 第三関門：AIシステム影響評価（AI System Impact Assessment） 技術的なリスクだけでなく、臨床ワークフロー、患者体験、公平性、財務インセンティブ、さらには組織文化に与える影響まで、システムレベルで評価する。AIが単なるツールではなく、組織の一部として統合されることへの配慮が求められている。 この段階的なプロセスは、低リスクのAIには簡素化された導入経路を用意し、ガバナンスの貴重なリソースを高リスクソリューションの監督と評価に集中させるための方策だ。また、報告書は医療現場で顕在化しつつある「シャドウAI（Shadow AI）」の問題にも切り込んでいる。これは、従業員が正式な承認プロセスを経ずに、個人の判断でChatGPTのようなAIツール業務に利用する現象を指す。CHAIの提唱は実用的だ。禁止令で締め付けるのではなく、迅速で低リスクの承認経路を公式に設けることで、コンプライアンスを遵守した使用が、こっそりとルールを破る行為よりも遥かに効率的で安全になるように仕向けるべきだとしている。

中国病院が直面する3つの課題と参考価値

この米国発のフレームワークは、急速にAI導入を進める中国の病院に対し、鏡のような役割を果たす可能性がある。特に、以下の3つの側面での参考価値は大きい。

AI導入の「量」ではなく「ガバナンスの質」が問われる

多くの中国の病院は、複数のAIシステムを導入している。しかし、そのAI群が自院の患者集団で実際にどのように機能しているか、定期的に評価する仕組みは極めて希薄だ。CHAIフレームワークは、AIライフサイクル管理（サブドメイン4.1）を専門に定義し、その各段階に「意思決定関門」を設けている。意図した使用の定義、導入前のテスト、パイロット検証、継続的なモニタリング、そして退役処置に至るまで、一連のプロセスは「やるかどうか」の問題ではなく、「いつ始めるか」の問題として差し迫っている。

第三者AIベンダーとの契約における具体的な指針

医療AIの多くは、外部のテクノロジー企業から提供される。そのため、ベンダー管理は医療機関の監視における焦点となりつつある。CHAIはサブドメイン4.4で、第三者AIベンダーに対して詳細な要件を提示している。モデルの既知の制限事項やリスクを開示する義務、契約におけるデータ使用権とモデルの訓練制限の明確化、監査権やデータ返還条項の導入などが挙げられる。これらの項目リストは、中国の病院がAIベンダーと協力契約を締結する際、どの条項を加えるべきかについて、実質的な法的助言を提供するものだ。

患者の知る権利と透明性という倫理の空白

最も重要かつ、中国において最も空白が目立つ領域が、AIの透明性と患者の知る権利に関する部分だ。CHAIはサブドメイン4.5で要求している。臨床的な意思決定にAIを使用するすべての病院は、患者が初めて受診する際に、その健康データがAIシステムによって使用される可能性のある方法を告知し、適切な状況下では退出するオプションを提供する必要があるという。これは、米国の基準が「進みすぎている」のではなく、患者中心の医療における基本的な倫理基準そのものだ。中国の規制当局も、患者の権利保護の観点から、遅かれ早かれ同様の要件を打ち出す可能性は高い。

ガバナンスはAIを遅くするためではなく、正しく進めるため

CHAIが発表したこの228ページのフレームワークは、単なる理論的な文書ではない。各統制項目には実施ガイダンス（Implementation Guidance）が付随しており、段階的なタスク、ツールテンプレート、そして異なる規模の機関向けの差別化された実施パスが含まれている。小さな地域病院とメイヨークリニックのような大規模医療センターが同じフレームワークを使用できるが、導入の深さや適用範囲は異なる、という柔軟性が設計されている。 また、レポートはAIの医療シナリオにおける失敗事例や、間一髪で重大な問題に至らなかった「ニアミス」の教訓を多く引用している。これは、ガバナンスを「お飾り」や「コストセンター」としてではなく、組織にとっての「リスクの最低基準」として位置づけるための論証でもある。 AIガバナンスとは、イノベーションの足かせではない。それは、正しいAIをより速く導入し、間違ったAIをより早く停止させるための仕組みだ。米国200の医療機関が合意したこの「ルールブック」は、世界中の医療機関に対し、AIという強力な道具を責任を持って使いこなすための普遍的な問いを投げかけている。