脳腫瘍AI、高精度でも安全性に盲点

英リーズ大学とデジタルサージェリー社の研究チームは、脳腫瘍の磁気共鳴画像（MRI）解析AIにおいて、広く使われる不確実性評価手法「MCドロップアウト」が臨床上最も重要な病変部位で機能不全に陥る事例を報告した。論文はarXivに公開された。

研究では、国際的なベンチマーク「BraTS21」の126症例を用い、高性能事前学習モデル「SegResNet」と独自訓練モデル「UNet-Res」を比較評価した。MCドロップアウトはセグメンテーション精度をほぼ維持しつつ（Dice変化量0.01未満）、誤検出ボクセルの識別においてAUROC約0.97という高い性能を示した。高不確実性グループでは腫瘍全体のDice中央値が0.835と低不確実性グループの0.925を大きく下回り、不確実性がトリアージ指標として機能することも確認された。

しかし問題はその先にある。UNet-Resは全体的なAUROCでは優秀な数値を示したにもかかわらず、治療計画上最も重視される「造影腫瘍領域」に限定するとエントロピー値がほぼゼロ（0.054）となり、期待較正誤差（ECE）は0.915に達した。この領域のDiceは0.714にとどまり、モデルが誤りを犯しているにもかかわらず高い確信度を示す「沈黙の失敗」が生じていた。標準的なDiceスコアやAUROCだけでは、この異常は検出できない。

この知見が直接影響するのは、医療機器メーカーおよび病院情報システム（HIS）ベンダーの製品開発・承認部門である。放射線科向けのAI診断支援ツールを開発する企業は、規制当局への承認申請資料において、全体精度だけでなく病変サブリージョン別の較正評価を義務付けられる可能性が高まった。特に欧州のMDR（医療機器規則）や日本の薬機法に基づくAI医療機器審査では、安全性の立証要件が厳格化する流れにあり、本研究はその論拠を強化するものとなる。

医療機関の医療情報部門や放射線科にとっては、既存AIツールの再評価コストが経営上の課題となりうる。導入済みシステムのベンダーに対してサブリージョン別較正レポートを要求する調達基準の改定が急務となる。KPIとして従来重視されてきた「Diceスコア」や「モデル全体のAUROC」に加え、「造影腫瘍領域ECE」などの部位別較正指標を追加することが、リスク管理の観点から推奨される。

保険・再保険業界にとっても無視できない含意がある。医療AIの誤診に起因する損害賠償リスクを引き受ける際、承認取得済みモデルであっても部位別精度検証が不十分であれば免責条項の設定や保険料率の見直しが必要になる場面が生じうる。

AIシステム開発側への示唆も明確である。MCドロップアウトは計算コストが低く実装容易な不確実性推定手法として広く採用されているが、本研究は「強い不確実性・誤差整合は必要条件であっても十分条件ではない」と結論づける。臨床展開に向けたモデル選定では、サブリージョン単位の較正評価を標準工程に組み込む体制整備が不可欠となる。

研究チームは今後、較正失敗モードを事前に検出するための指標体系の構築と、複数施設データを用いた外部検証の実施を課題として挙げている。医療AIの安全管理基準が国際的に整備される中、今回の知見は評価フレームワークの再設計を促す重要な一石となりそうだ。