バイアスの検出方法

はじめに — 「全体の精度95%」が隠していたもの

ある放射線科AIが、胸部X線画像からの肺疾患検出で全体精度95%を達成しました。しかし、研究者がデータを性別・人種別に分解して分析したところ、黒人男性のサブグループでは精度が**82%**に低下していることが判明。

全体の平均は問題なく見えても、特定のグループに深刻な不利益が隠れている — バイアス検出が必要な理由はここにあります。

データの監査 — 最初の防衛線

学習データの構成分析

バイアス検出の第一歩は、学習データの構成を分析することです。

• 人口統計学的バランス: 人種、性別、年齢層の分布は母集団を反映しているか
• 疾患の分布: 疾患の種類や重症度は偏っていないか
• データ収集の方法: 特定の施設・地域に偏っていないか
• 欠損データのパターン: 特定のグループでデータの欠損が多くないか

サブグループ分析 — バイアスを見つける核心手法

AIの性能を、属性ごとのサブグループに分けて評価します。

公平性指標 — 「何をもって公平とするか」

人口統計学的パリティ（Demographic Parity）

すべてのグループで陽性と判定される割合が等しいこと。

医療での問題点: 疾患の有病率がグループ間で異なる場合、同じ陽性率を目指すことは臨床的に不適切。

等化オッズ（Equalized Odds）

すべてのグループで真陽性率（感度）と偽陽性率が等しいこと。

医療での利点: 診断の「見逃し」と「誤報」の両方がグループ間で均等になり、臨床的に最も意味のある指標。

予測値パリティ（Predictive Parity）

すべてのグループで**陽性的中率（PPV）**が等しいこと。AIが「要精査」と判定した患者のうち、実際に疾患がある割合がどのグループでも同じ。

個別公平性（Individual Fairness）

類似した個人に対して類似した予測を行うこと。検査結果がほぼ同じ2人の患者に対して、人種が異なるだけで大きく異なるリスクスコアを付けない。

公平性の不可能定理

バイアス検出のツールキット

まとめ

バイアス検出は「全体の精度」だけでなく、サブグループ別の性能分析と公平性指標の計算を組み合わせて行います。公平性の不可能定理が示すように、すべての指標を同時に満たすことは不可能な場合があるため、「何をもって公平とするか」を意識的に定義し、透明に説明することが重要です。

次のレッスンでは、検出されたバイアスをどのように軽減するかを学びます。