2. 「使う」と「委ねる」の境界線設計
「AIを使う」と「AIに委ねる」は違う。
使うとは、AIの出力を自分が独立に検証できる状態で活用することだ。委ねるとは、AIの出力を検証する手段を持たないままそのまま採用することだ。
エリック・トポル（Scripps Research、心臓専門医）は2019年の著書 Deep Medicine で、こう論じた。AIが管理業務と反復タスクを担当することで、医師は患者との対話に集中できる、と。Topol 2019 の核心は「AIによる医師の代替」ではなく「AIによる医師の解放」という設計思想だ。
この設計が成立する条件がある。「AIが管理業務を肩代わりする場面では検証コストが低い」という前提だ。しかし稀少疾患の診断支援や高齢者の多剤処方管理のように、検証コストが高い場面では、委ねる側の設計リスクが急激に上がる。
小児科の外来では、この問いがより切実になる。体重・月齢・発達段階によって、同じ疾患でも対応が異なる。「このAIは小児で検証されたか」という問いを持たずに使えば、使うつもりが委ねていることになる。
| 層 | 枠組み | このレッスンで扱う要点 |
|---|---|---|
| EU | EU AI Act（Regulation (EU) 2024/1689） | 医療AIの多くが高リスクに分類され、人間による監視が要件。移行期間は2027年8月まで |
| 日本 | AI事業者ガイドライン2024（総務省・経済産業省） | 開発者・提供者・利用者の3層責務を規定。法的拘束力はない |
| 日本 | PMDA プログラム医療機器（SaMD）審査方針 | AI/MLを組み込んだ医療機器は薬機法の規制対象となりうる |
この3つは重なって作用する。以下で順に見ていく。
3. 法的・制度的枠組みの確認
「倫理的に使う」と「法的に問題がない」は別の問いだ。2026年時点で医療AIに関係する3つの枠組みを整理しておく。
EU AI Act（Regulation (EU) 2024/1689）
2024年8月1日に発効した世界初の包括的AI規制法だ。移行期間は2027年8月までで、高リスクAIへの適用が完了する。
医療AIの多くは「高リスクAI」に分類される。高リスク要件の核心は「人間による監視（human oversight）」の確保だ。技術文書の整備、ロギング、精度・堅牢性の基準、透明性の確保が求められる。
EU AI Act：医療AIへの高リスク要件
EU AI Act · 規制 · 高リスクAI · 人間による監視
対象は、Annex IIIの第5項に列挙された医療機器として機能するAIシステムだ。診断支援、治療推奨、患者トリアージへの適用が含まれる。
主な要件は以下の通り。
- リスク管理システムの構築（Article 9）
- データガバナンスの確保（Article 10）
- 技術文書の整備（Article 11）
- 透明性と情報提供（Article 13）
- 人間による監視（human oversight）の確保（Article 14）
- 精度・堅牢性・サイバーセキュリティ（Article 15）
人間による監視は、AIの出力を人間が理解・確認・無効化できる仕組みを設計段階で組み込むことを求める。「最終判断は医師が行う」という慣行をシステム設計レベルで担保する要件だ。
日本の医療機関への影響として、日本国内で使用するシステムでも、EU市場向けに設計・製造・提供されるものはEU AI Actの適用を受ける可能性がある。特に欧州本社を持つ医療機器メーカーの製品は要注意だ。
日本AI事業者ガイドライン2024（総務省・経済産業省）
2024年4月に総務省・経済産業省が策定し、2025年3月に第1.1版、2026年3月に第1.2版へ改訂した。法的拘束力はないが、行政指導の基準として機能しうる。
AI事業者（開発者・提供者・利用者）の3層に対して異なる責務を規定している。医療従事者は「AI利用者」として位置づけられ、適切な利用・検証・情報提供の義務が示されている。
PMDA SaMD（プログラム医療機器）審査方針
PMDAは「プログラム医療機器」（SaMD: Software as a Medical Device）の審査方針を策定している。AI/MLを組み込んだ医療機器は薬機法上の規制対象となりうる。
2022年に承認されたnodoca（アイリス社、承認番号30400BZX00101000）のように、AIを核とする診断支援機器が保険収載されるケースが出ている。一方で、「汎用AI（ChatGPTなど）」は医療機器に該当しないとの見解が基本線だが、特定の医療判断のために利用する場合は境界線が曖昧になりうる。
問い
考えてみよう：自施設で使っているAIは「医療機器」か
生成AIに診療録ドラフトを書かせる場合、薬機法上の医療機器に該当するか。答えは「基本的には該当しない」が、使い方によって境界が変わる。
確認すべき問い:
- そのAIシステムは特定の疾患の診断・治療・予防を目的として設計されているか
- 製品パンフレットや使用説明書に「診断支援」「医師の判断支援」の文言があるか
- PMDA未審査の海外製AIを「診断支援」として使用していないか
これらに「はい」が1つでもあれば、法的リスクを施設の医事・法務部門に確認することを推奨する。
4. 継続学習リソース
「コースが終わったら学習が終わる」という設計ではない。この分野は2023〜2025年だけで複数の重要なレビュー論文が出ている。
注目すべきジャーナル3誌は Lancet Digital Health、JAMA、Nature Medicine だ。医療AIの臨床応用・評価・倫理を扱った査読論文が集まる。
特に推奨するレビュー論文を1本挙げる。
Clusmann et al. 2023 が有用な理由は、LLMの「できること」だけでなく「できないこと」と「規制との整合性」を同時に扱っているためだ。GPT-4やMed-PaLM 2の性能評価（L07）に続いて読むと、ベンチマーク成績と臨床実装のギャップが見えてくる。
加えて、Topol E.J. (2019) Deep Medicine は技術書ではなく、医師としてのAI受容を問う問題提起書として今も有効だ。「人間的な医療をAIが取り戻す」という逆説的な命題は、読む時期によって解釈が変わる。
5. チームへの広げ方：施設でのAI活用ルール検討チェックリスト
自分一人が理解しても、チームや施設の文化が変わらなければ影響は限られる。以下は、施設レベルでAI活用ルールを検討する際の出発点となるチェックリストだ。
視点
施設AI活用ルール検討チェックリスト（法的・倫理的観点）
- 法的確認
- 使用予定のAIシステムはSaMDとしてPMDA審査が必要か確認した
- 患者データをAIに入力する場合、個人情報保護法・3省2ガイドラインへの適合を確認した
- EU製・米国製AIを使う場合、EU AI Act・FDA規制との関係を確認した
- 倫理的確認
- 患者はAI使用について説明を受け、拒否の選択肢を持っているか
- AIの訓練データに自施設の患者集団が代表されているか
- AIが「異常なし」と判定した場合でも医師が確認するフローがあるか
- 品質管理
- AIの性能を自施設のデータでモニタリングする仕組みがあるか
- AIエラー（ハルシネーション・誤判定）の報告フローが整備されているか
- AIの出力に利用者の名前と「AI支援」の記載をするルールがあるか
- チーム教育
- 自動化バイアスのリスクをチーム全員が認識しているか
- 「AIを使う」と「AIに委ねる」の違いをチームで共有しているか
このチェックリストは「全てにチェックが入ってから使い始める」ためのものではない。現状でどの項目が未整備かを可視化するためのものだ。「未整備の項目がある」という事実を認識することが、施設レベルの議論の起点になる。
6. 問いを持ち続けること
このコースの終わりは「AIを知った」ことではない。
9つのレッスンを通じて見えてきたのは、AIに関する問いの多くがまだ答えの途中にあるということだ。「理解しているか」はわからない。「AGIはいつ実現するか」もわからない。「医師の仕事がどう変わるか」も確定していない。
わかっていることとわかっていないことを区別する習慣が、このコースで培いたかった視点だ。
医師として問いを持ち続けることには、もう1つの意味がある。AIシステムの設計者・規制当局・保険者が「正解を持っている」かのように振る舞うとき、臨床の現場からの問い返しが最も鋭い批判になりうる。「このAIは小児で検証されたか」「このベンチマークはどの患者集団で計測されたか」「誰の利益のために設計されているか」を問える立場にいるのは、患者を直接みている医師だけだ。
「どこで疑い、どこで信頼し、どこで判断するか」を自分の言葉で語れること。それがこのコースの出発点だった。
セルフチェック
1. 「AIの出力を独立に検証できるかどうか」を基準に安全性を判断するとき、「診療録のドラフト生成」と「稀少疾患の診断提案」はどちらがより安全か。最も適切な説明はどれか。
2. EU AI Actが定める医療AIへの「人間による監視（human oversight）」要件と、日本の医師法第17条の「医師の裁量」はどのような関係にあるか。
3. このコース全体を通じて最も更新された自分の認識を1文で書く（自由記述、グレーゾーン設問）。最も誠実な答えはどれか。
明日のアクション
3ヶ月後の振り返り予定を入れる。このコースを修了した日に、次のことをやっておく。
今日（Step 1）：「私がAIを使う場面」と「私がAIを使わない場面」を各3つ書く。それぞれに理由を1文で添える。
例として、
- 使う：「英語論文の要約（原著で検証できるから）」
- 使わない：「希少疾患の鑑別診断（自分の知識で検証できないケースがあるから）」
今日（Step 2）：具体的な日付をカレンダーに入れる。今日から90日後（2026年7月29日前後）に「AI活用振り返り」の予定を30分ブロックする。
3ヶ月後（Step 3）：Step 1で書いたリストを見直す。問いは3つだ。
- 「使う」と「使わない」の境界線は変わったか
- 変わったとすれば、何がきっかけで変わったか
- 変わらなかったとすれば、その理由は「経験で確信が深まった」からか「単に習慣が変わっていない」からか
このリストを3ヶ月後に見直すことが、コースで学んだ問い方を現場に定着させる最も具体的な方法だ。
参考文献
- Clusmann, J., Kolbinger, F.R., Muti, H.S., et al. (2023). The future landscape of large language models in medicine. Nature Medicine, 29, 2616–2626. DOI: 10.1038/s41591-023-02615-5
- Topol, E.J. (2019). Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again. Basic Books.
- European Parliament and Council. (2024). Regulation (EU) 2024/1689 on Artificial Intelligence. Official Journal of the European Union. https://artificialintelligenceact.eu/
- 総務省・経済産業省. (2026). AI事業者ガイドライン（第1.2版）. https://www.soumu.go.jp/main_content/001064279.pdf
- PMDA. プログラム医療機器（SaMD）関連情報. https://www.pmda.go.jp/review-services/drug-reviews/about-reviews/devices/0028.html
- アイリス株式会社. nodoca 承認番号 30400BZX00101000. （2022年4月26日承認）
- WHO. (2021). Ethics and governance of artificial intelligence for health. https://www.who.int/publications/i/item/9789240029200