はじめに：Da Vinci手術ロボットが問いかけた責任問題
2013年までに、手術支援ロボット「Da Vinci」に関連して、米国FDAのMAUDEデータベースには少なくとも85件の死亡と245件の負傷が報告されました。2014年、開発元のIntuitive Surgical社は約3,000件の訴訟に直面し、6,700万ドル（約100億円）の和解金を積み立てました。
訴訟の多くは、(1) ロボットの機械的欠陥（電気火傷、器具の破損）、(2) 医師の訓練不足（習熟に750件以上の手術が必要との推計）、(3) 企業のリスク開示不足を主張していました。
この事例は、医療AIの法的責任を考える上で重要な問いを投げかけます: AIが誤った判断をした場合、責任は医師にあるのか、開発者にあるのか、医療機関にあるのか？
医師の責任：注意義務とAI
医療水準と注意義務
医師の過失は、「医療水準」に照らして判断されます。最高裁判例（最判平成7年6月9日）は、「診療当時の臨床医学の実践における医療水準」を基準とすることを示しました。
問い
考えてみよう
AI診断支援が普及した場合、AIを使わずに診断を誤った医師は過失を問われるでしょうか？
→ 現時点では、AI診断支援の使用は義務ではなく推奨です。しかし、将来的にAI診断支援が「医療水準」として確立された場合、「使用可能なAIを使わなかった」ことが注意義務違反と判断される可能性があります。
逆に、AIの判断を盲目的に信頼し、自らの臨床判断を放棄した場合も注意義務違反となりえます。医師には、AIの出力を批判的に評価する義務があります。
自動化バイアス（Automation Bias）の法的リスク
視点
自動化バイアス：AIを信頼しすぎるリスク
自動化バイアスとは、人間がコンピュータやAIの判断を過度に信頼し、自らの判断力を十分に発揮しない傾向のことです。
医療での問題: AIが「異常なし」と判定した場合に、医師が画像を十分に確認せずに見逃しが発生するケース。
法的な意味: 自動化バイアスによる見逃しは、「AIの判定結果を確認する義務を怠った」として、医師の注意義務違反（過失）と判断される可能性が高い。AIは医師の責任を軽減するツールではなく、追加的な情報源にすぎない。
開発者の責任：製造物責任法（PL法）
日本のPL法とAIソフトウェア
製造物責任法（PL法）は、「製造物」の欠陥により生命・身体・財産に損害が生じた場合、製造業者が無過失責任（過失の有無にかかわらず責任を負う）を負うことを定めています。
| 論点 | 現行法の解釈 | 課題 |
|---|---|---|
| ソフトウェアは「製造物」か？ | PL法の「製造物」は「製造又は加工された動産」。ソフトウェア単体は動産に該当しない可能性 | AI診断支援プログラムがPL法の対象かが不明確 |
| ハードウェアに組み込まれた場合 | ハードウェア（医療機器）の一部として「製造物」に該当 | Da Vinciのようなロボットは対象 |
| 「欠陥」の定義 | AIの誤判定は「欠陥」に該当するか？学習データのバイアスは「設計上の欠陥」か？ | AIの非決定論的な挙動をどう評価するか |
EU改正PL指令：ソフトウェアを「製造物」に含める歴史的転換
背景: 従来のEU PL指令（1985年）は「製造物」を有体物に限定していた。AI技術の進展に伴い、ソフトウェアによる損害への責任が法的空白に。
改正内容（2024年12月発効）:
- ソフトウェアを「製造物」に明確に含める。AIアルゴリズムも対象に
- 被害者の立証責任を緩和: 裁判所が欠陥または因果関係を推定可能に
- AIのアップデート後に生じた欠陥も対象
- 各国は2026年12月までに国内法化の義務
日本への影響: 日本でもデジタル庁主導で「製造物責任法のAI対応」が検討課題に上がっているが、具体的なロードマップはまだない。EU改正は日本の法改正の方向性を示す先行事例。
医療機関の責任
使用者責任と管理責任
医療機関は以下の場面で責任を問われます:
| 責任の種類 | 根拠 | 医療機関が問われる場面 |
|---|---|---|
| 使用者責任 | 民法第715条 | 被用者（医師）の過失による損害 |
| 工作物責任 | 民法第717条 | 施設・設備の欠陥による損害 |
| 債務不履行責任 | 民法第415条 | 診療契約上の義務違反 |
AI導入時の管理責任
医療機関には、AI診断支援システムの適切な管理に関する責任があります:
- システムの選定: 薬機法に基づく承認・認証を受けたシステムを選定
- スタッフの教育: AIの能力と限界を理解した上での使用を徹底
- 運用ルールの策定: どのような場面でAIを使用するか、AIの判定と異なる場合の対応手順を文書化
- インシデント報告: AIに関連する有害事象の報告体制を整備
責任分配の全体像
比較
AI診断エラー時の責任分配マトリクス
シナリオ1: AIが見逃し、医師も見逃した場合 → 医師の注意義務違反（過失）。AIの使用により注意義務が免除されるわけではない。開発者に欠陥があればPL法の適用も検討。
シナリオ2: AIが誤判定し、医師がAIに従った場合 → 医師がAIの判定を批判的に検証する義務を怠ったか否かが争点。AIの欠陥が明らかなら開発者のPL法責任も。
シナリオ3: AIが正しく判定したが、医師がAIの判定を無視した場合 → 医師の臨床判断が医療水準に照らして合理的であれば過失なし。不合理な無視であれば注意義務違反。
シナリオ4: AIのバグ・学習データのバイアスによる系統的エラー → 開発者のPL法責任（製品の欠陥）。医療機関はシステム選定・監視の管理責任。
損害賠償と保険
医療訴訟における損害賠償
AI関連の医療訴訟では、従来の医療訴訟と同様に以下が問われます:
- 過失: 注意義務違反があったか
- 損害: 患者に損害が発生したか
- 因果関係: 過失と損害の間に因果関係があるか
AI医療機器賠償保険
AI医療機器の普及に伴い、従来の医療賠償保険に加えて、AI特有のリスクをカバーする保険商品の整備が進められています。医療機関・開発者の双方が適切な保険に加入することが、リスク管理の基盤です。
まとめ
AI診断の法的責任は、医師（注意義務）・開発者（製造物責任）・医療機関（管理責任）の三者に分配されます。Da Vinciロボット訴訟は、医療テクノロジーの責任問題が現実の法的紛争になることを示しました。EU改正PL指令はソフトウェアを「製造物」に含める歴史的転換を行い、日本の法制度にも影響を与える可能性があります。自動化バイアスへの警戒と、AIの出力を批判的に評価する姿勢が、法的リスク管理の核心です。
次のレッスンでは、最新の法改正と国際的な規制動向を学びます。
明日のアクション
自施設のAI診断支援システムに関する責任分担を整理しましょう。「医師の責任範囲（注意義務）」「医療機関の管理責任（システム選定・教育・運用ルール）」「開発企業の製品責任（契約条件）」の3つの観点で現在の運用を確認し、責任の空白地帯がないかチェックしてください。