バイアスと公平性

はじめに — 同じ病気なのに、肌の色で結果が変わる

2019年、Science誌に衝撃的な論文が掲載されました。米国の医療システムで数百万人の患者に適用されていたリスク予測アルゴリズムが、同じ健康状態の黒人患者を白人患者よりも系統的に「低リスク」と判定していたのです。

原因は意外にシンプルでした。アルゴリズムが「医療費」を健康状態の代理指標として使用していたのです。しかし、歴史的に医療アクセスが制限されてきた黒人患者は、同じ病気でも医療費が低い傾向がありました。結果として、同じリスクスコアの黒人患者は白人患者より平均26%多くの慢性疾患を抱えていました。

AIは人間の偏見を学習し、増幅します。そしてそれは、患者の生死に関わる判断に影響を及ぼします。

AIにおけるバイアスの種類

データバイアス

学習データが現実世界の多様性を正確に反映していない場合に生じます。

• サンプリングバイアス: 学習データが特定の人口集団に偏る
• ラベリングバイアス: データにラベルを付ける人間の偏見が反映される
• 歴史的バイアス: 過去の不公平な医療実践がデータに残る

アルゴリズムバイアス

AIモデルの設計・最適化過程で生じます。

• 特徴選択バイアス: 人種や性別など倫理的に問題のある特徴を過度に重視
• 最適化バイアス: 多数派の精度を最大化する結果、少数派の精度が犠牲になる

相互作用バイアス

AIと人間の相互作用の中で生じます。

• 確証バイアス: AIの推奨を過度に信頼し、反する証拠を無視する
• 自動化バイアス: AIの判断を批判的に評価せず受け入れてしまう

実際に起きたこと — ケーススタディ

ケース1: 皮膚科AIの人種バイアス

ケース2: パルスオキシメーターの人種バイアス

バイアスの検出と測定

データの監査

学習データの構成を分析し、偏りがないか確認します:

• 人口統計学的バランス（人種、性別、年齢層の分布）
• 疾患の種類や重症度の分布
• データ収集の方法と時期

サブグループ分析

AIの性能を異なるサブグループごとに評価します。全体の精度が95%でも、特定のグループで85%に低下していれば、バイアスの存在が疑われます。

公平性指標

公平性を確保するための戦略

データレベルの対策

• 多様なデータの収集: すべての人口集団を適切に代表するデータを収集
• データ拡張: 少数派のデータを人工的に増やす技術
• リサンプリング: 多数派を減らすか、少数派を増やしてバランスを取る

アルゴリズムレベルの対策

• 公平性制約の導入: 学習時に公平性指標を制約条件として組み込む
• 敵対的デバイアシング: 保護属性（人種、性別等）を予測できないようにする技術
• サブグループ別モデル: 異なる集団に対してそれぞれ最適化されたモデルを使用

ポストプロセッシング

• 閾値の調整: グループごとに判定の閾値を調整
• キャリブレーション: モデルの出力確率を実際の確率に合わせる

人間の監督

• 多様なチームの編成: 異なる背景を持つメンバーをAI開発チームに含める
• 継続的な監視: 運用開始後も定期的にサブグループ別性能を監視
• フィードバック収集: ユーザーや患者からのフィードバックを継続的に収集

まとめ

AIは人間の偏見を反映し、増幅します。Obermeyerらの研究は、一見「客観的」に見えるアルゴリズムが、歴史的な社会構造の不公平を再生産しうることを示しました。皮膚科AIやパルスオキシメーターの事例は、バイアスがデータ・機器・社会構造の複合的な問題であることを明らかにしています。

完璧な公平性は数学的に不可能な場合もありますが、だからこそ「何を公平と定義するか」を意識的に選び、継続的にモニタリングし、透明に報告することが求められます。

次のレッスンでは、AIの説明可能性と透明性について学びます。