AIのバイアスとは何か

はじめに：「客観的」なアルゴリズムが生んだ差別

2019年、Science誌に掲載された1本の論文が医療AI業界に激震を走らせました。米国の医療システムで数百万人の患者に適用されていたリスク予測アルゴリズム（Optum社製）が、同じ健康状態の黒人患者を白人患者よりも系統的に「低リスク」と判定していたのです。

原因は意外にシンプルでした。アルゴリズムが「医療費」を健康状態の代理指標として使用していたこと。歴史的に医療アクセスが制限されてきた黒人患者は、同じ病気でも医療費が低い傾向にありました。その結果、同じリスクスコアの黒人患者は白人患者より平均26%多くの慢性疾患を抱えていました。

AIは「数字に基づいて客観的に判断する」と思われがちです。しかし、その数字自体に社会の不公平が刻み込まれている場合、AIは偏見を学習し、増幅します。

バイアスの3つの層

データバイアス：偏ったデータからは偏った判断しか生まれない

サンプリングバイアス: 学習データが特定の人口集団に偏る。大学病院のデータだけで学習すると、地域クリニックの患者では性能が低下しうる。

ラベリングバイアス: ラベル付けをする人間の偏見が反映される。ある人種の患者の痛みを過小評価する傾向が、そのままラベルに残る。

歴史的バイアス: 過去の不公平な医療実践がデータに残る。Optumアルゴリズムの「医療費＝健康状態」という前提は、この典型例。

アルゴリズムバイアス：設計の選択が偏りを生む

• 特徴選択バイアス: 人種や性別と相関する代理変数を間接的に重視する
• 最適化バイアス: 多数派の精度を最大化する結果、少数派の精度が犠牲になる

評価バイアス：「全体の精度95%」の罠

全体の精度が95%であっても、特定のサブグループで85%に低下していれば、そのグループの患者は不利益を被ります。

医療AIで実際に起きた事例

バイアスがもたらす影響

まとめ

AIは「客観的」ではありません。Optumアルゴリズムの事例は、一見合理的に見える設計上の選択（医療費を代理指標として使用）が、社会構造の不公平を再生産しうることを示しました。バイアスはデータ・アルゴリズム・評価の各層に存在し、それらが複合的に作用します。

次のレッスンでは、こうしたバイアスをどのように検出するかを学びます。