メインコンテンツへスキップ
AMPL
レッスン 10 / 10|33分で読めます

次のステップ：学びを現場に持ち込む

9レッスンを振り返り、「使う」と「委ねる」の境界線設計、法的・制度的枠組み、継続学習リソース、チームへの広げ方を統合する最終章

次のステップ：学びを現場に持ち込む

10レッスンの登山道を山頂から振り返る視点のヘッダー画像。手前に立つ医療職のシルエット、足元から麓へと続く道に10つのマーカー。中央に見出し『学びを現場へ』、下部に『9レッスンの全体像』のキャプション
10レッスンを終えた今、学びを現場に持ち込む段階へ。地図を持ったまま、自分の診療室に降りていく

L09でAI論争の6人の立場を整理したとき、気づいたことがある。

誰もが「AIについて語っている」ように見えて、それぞれが全く違う問いに答えていた。「AGIが実現するか」「雇用が消えるか」「規制が先か普及が先か」。前提を揃えなければ議論は噛み合わない。

このコースでも同じことが起きていたかもしれない。最終章は「コースのまとめ」ではなく、「自分の言葉で問いを立て直す場所」として設計した。

9レッスンの全体像を一望する地図。左から右へ10段の旗マーカーが連なる登山道。各マーカーにレッスンタイトル: L01定義/L02歴史/L03分類/L04機械学習/L05能力と限界/L06小児/L07現在地/L08社会的影響/L09論争/L10次のステップ
ここまで歩いた道のり。それぞれが独立しているようで、全てが『AIをどう判断するか』という1つの問いに収束する

1. 9レッスンで何を学んだか

9つのレッスンを通じて、1つのキーメッセージを引き出してきた。

L#タイトルキーメッセージ
01AIの定義と知能の本質「理解しているか」より「どんな条件で失敗するか」を問う
02AIの歴史：繰り返す夢と挫折「今回は本物か」を問う前に「どのタスクで本物か」を問う
03AIの分類：シンボルかパターンか識別/生成/エージェントの3軸、基盤モデルが二分法を崩す
04機械学習の仕組み自施設の患者集団とAIの訓練集団が違えば公表性能は適用できない
05AIの能力と限界エラーパターンの非対称性が相互補完設計の根拠
06小児科AIという視点公開データセットで小児は1%未満、FDA小児適用17%
07医療AIの現在地PMDA承認4製品、GPT-4とMed-PaLM 2は別研究、DeepSeek R1の多極化
08AIの社会的影響と倫理Hinton予言の検証、データ労働者問題、誰が排除されているか
092026年AI論争：6人の視点「誰が何の立場から何を言っているか」を問う

共通する構造がある。「AはBである」という断言ではなく、「どの条件で、誰のデータで、誰の利益のために」という問いの立て方だ。この問い方そのものが、コース全体を貫く姿勢だった。

『使う』と『委ねる』の境界線図。横軸『AI関与度』の左から右へグラデーション。左端『参考にする』(医師主導)、中央『協働』、右端『AI主導』(自動化)。中央付近に縦のレッドライン『境界線』、左側を『使う』、右側を『委ねる』とラベル
同じ『AI使用』でも、参考にするか・委ねるかで責任構造が変わる。境界線を意識して使う

2. 「使う」と「委ねる」の境界線設計

「AIを使う」と「AIに委ねる」は違う。

使うとは、AIの出力を自分が独立に検証できる状態で活用することだ。委ねるとは、AIの出力を検証する手段を持たないままそのまま採用することだ。

「使う」と「委ねる」の境界線

使う（活用）の例：

  • 診療録のドラフト生成を確認してから記載する
  • 論文の要約を原著と照らし合わせて使う
  • 鑑別疾患の列挙を自分の臨床経験でフィルタリングする
  • 英語文書の翻訳を専門知識で検証する

委ねる（委任）の例：

  • AIが「異常なし」と判定したまま、画像を確認しない
  • AIの診断提案を根拠も確認せず患者に伝える
  • 希少疾患の鑑別をAIの出力だけで完結させる
  • 出力を生成した訓練データ・患者集団を問わない

境界線の問いは1つだ。「この出力を、自分は独立に検証できるか」。

エリック・トポル（Scripps Research、心臓専門医）は2019年の著書 Deep Medicine で、こう論じた。AIが管理業務と反復タスクを担当することで、医師は患者との対話に集中できる、と。Topol 2019 の核心は「AIによる医師の代替」ではなく「AIによる医師の解放」という設計思想だ。

この設計が成立する条件がある。「AIが管理業務を肩代わりする場面では検証コストが低い」という前提だ。しかし稀少疾患の診断支援や高齢者の多剤処方管理のように、検証コストが高い場面では、委ねる側の設計リスクが急激に上がる。

小児科の外来では、この問いがより切実になる。体重・月齢・発達段階によって、同じ疾患でも対応が異なる。「このAIは小児で検証されたか」という問いを持たずに使えば、使うつもりが委ねていることになる。

医療AI関連の法的・制度的枠組み一覧。3カラム。Column 1『国際』にWHO 6原則、UNESCO倫理基準。Column 2『日本』にPMDA医療機器承認、厚労省AIガイドライン、医師法21条。Column 3『EU』にEU AI Act 高リスク区分、GDPR. 各項目に小さなアイコン
AIを使うときに知っておくべき法的・制度的枠組み。3層構造で重なって作用する

3. 法的・制度的枠組みの確認

「倫理的に使う」と「法的に問題がない」は別の問いだ。2026年時点で医療AIに関係する3つの枠組みを整理しておく。

EU AI Act（Regulation (EU) 2024/1689）

2024年8月1日に発効した世界初の包括的AI規制法だ。移行期間は2027年8月までで、高リスクAIへの適用が完了する。

医療AIの多くは「高リスクAI」に分類される。高リスク要件の核心は「人間による監視（human oversight）」の確保だ。技術文書の整備、ロギング、精度・堅牢性の基準、透明性の確保が求められる。

Case Study/ EU

EU AI Act：医療AIへの高リスク要件

対象は、Annex IIIの第5項に列挙された医療機器として機能するAIシステムだ。診断支援、治療推奨、患者トリアージへの適用が含まれる。

主な要件は以下の通り。

  • リスク管理システムの構築（Article 9）
  • データガバナンスの確保（Article 10）
  • 技術文書の整備（Article 11）
  • 透明性と情報提供（Article 13）
  • 人間による監視（human oversight）の確保（Article 14）
  • 精度・堅牢性・サイバーセキュリティ（Article 15）

人間による監視は、AIの出力を人間が理解・確認・無効化できる仕組みを設計段階で組み込むことを求める。「最終判断は医師が行う」という慣行をシステム設計レベルで担保する要件だ。

日本の医療機関への影響として、日本国内で使用するシステムでも、EU市場向けに設計・製造・提供されるものはEU AI Actの適用を受ける可能性がある。特に欧州本社を持つ医療機器メーカーの製品は要注意だ。

EU AI Act：Regulation (EU) 2024/1689

世界初の包括的AI規制法。2024年8月発効、2027年8月に高リスクAI要件完全移行。医療AIはAnnex III第5項で高リスク分類

ガイドラインEuropean Parliament and Council

日本AI事業者ガイドライン2024（総務省・経済産業省）

2024年4月に総務省・経済産業省が策定した。法的拘束力はないが、行政指導の基準として機能しうる。

AI事業者（開発者・提供者・利用者）の3層に対して異なる責務を規定している。医療従事者は「AI利用者」として位置づけられ、適切な利用・検証・情報提供の義務が示されている。

AI事業者ガイドライン（第1.0版）

日本のAI事業者向けガイドライン。開発者・提供者・利用者の3層責務を規定。法的拘束力なし

ガイドライン総務省・経済産業省

PMDA SaMD（プログラム医療機器）審査方針

PMDAは「プログラム医療機器」（SaMD: Software as a Medical Device）の審査方針を策定している。AI/MLを組み込んだ医療機器は薬機法上の規制対象となりうる。

2022年に承認されたnodoca（アイリス社、承認番号30400BZX00101000）のように、AIを核とする診断支援機器が保険収載されるケースが出ている。一方で、「汎用AI（ChatGPTなど）」は医療機器に該当しないとの見解が基本線だが、特定の医療判断のために利用する場合は境界線が曖昧になりうる。

PMDA：プログラム医療機器（SaMD）関連情報

AI医療機器の承認状況と審査方針。SaMDの定義・審査基準・承認事例を収録

ガイドラインPMDA（医薬品医療機器総合機構）

考えてみよう：自施設で使っているAIは「医療機器」か

生成AIに診療録ドラフトを書かせる場合、薬機法上の医療機器に該当するか。答えは「基本的には該当しない」が、使い方によって境界が変わる。

確認すべき問い:

  • そのAIシステムは特定の疾患の診断・治療・予防を目的として設計されているか
  • 製品パンフレットや使用説明書に「診断支援」「医師の判断支援」の文言があるか
  • PMDA未審査の海外製AIを「診断支援」として使用していないか

これらに「はい」が1つでもあれば、法的リスクを施設の医事・法務部門に確認することを推奨する。

継続学習のためのリソース3カテゴリ。Column 1『論文・査読誌』にNEJM AI、Lancet Digital Health、Nature Medicine。Column 2『実践プラットフォーム』にAMPL Learn (本コース)、Deep Learning AI、Coursera。Column 3『コミュニティ』に医療AI研究会、SNS（X）、勉強会
知り続けるための3つの入り口。1つを習慣化するだけで、3か月後の解像度が違う

4. 継続学習リソース

「コースが終わったら学習が終わる」という設計ではない。この分野は2023〜2025年だけで複数の重要なレビュー論文が出ている。

注目すべきジャーナル3誌は Lancet Digital Health、JAMA、Nature Medicine だ。医療AIの臨床応用・評価・倫理を扱った査読論文が集まる。

特に推奨するレビュー論文を1本挙げる。

The future landscape of large language models in medicine

LLMが医療にどう組み込まれていくかを臨床・規制・倫理の3軸で包括的にレビュー。DOI: 10.1038/s41591-023-02615-5

論文Nature MedicineClusmann J, Kolbinger FR, Muti HS, et al.

Clusmann et al. 2023 が有用な理由は、LLMの「できること」だけでなく「できないこと」と「規制との整合性」を同時に扱っているためだ。GPT-4やMed-PaLM 2の性能評価（L07）に続いて読むと、ベンチマーク成績と臨床実装のギャップが見えてくる。

加えて、Topol E.J. (2019) Deep Medicine は技術書ではなく、医師としてのAI受容を問う問題提起書として今も有効だ。「人間的な医療をAIが取り戻す」という逆説的な命題は、読む時期によって解釈が変わる。

Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again

Scripps Research心臓専門医による医療AI論。AIによる医師の「解放」という設計思想を提唱

論文Basic BooksTopol EJ
施設でのAI活用ルール検討チェックリスト。縦に5項目が並ぶ。1.『☐ 何のタスクで使うか定義』、2.『☐ 個人情報の取り扱い基準』、3.『☐ 責任分担の合意』、4.『☐ ログと監査』、5.『☐ 患者への説明テンプレ』。各項目にチェックボックスとアイコン
個人で使うのと、チームで使うのは別の話。最低5項目は議論してから導入する

5. チームへの広げ方：施設でのAI活用ルール検討チェックリスト

自分一人が理解しても、チームや施設の文化が変わらなければ影響は限られる。以下は、施設レベルでAI活用ルールを検討する際の出発点となるチェックリストだ。

施設AI活用ルール検討チェックリスト（法的・倫理的観点）

  1. 法的確認
  • 使用予定のAIシステムはSaMDとしてPMDA審査が必要か確認した
  • 患者データをAIに入力する場合、個人情報保護法・3省2ガイドラインへの適合を確認した
  • EU製・米国製AIを使う場合、EU AI Act・FDA規制との関係を確認した
  1. 倫理的確認
  • 患者はAI使用について説明を受け、拒否の選択肢を持っているか
  • AIの訓練データに自施設の患者集団が代表されているか
  • AIが「異常なし」と判定した場合でも医師が確認するフローがあるか
  1. 品質管理
  • AIの性能を自施設のデータでモニタリングする仕組みがあるか
  • AIエラー（ハルシネーション・誤判定）の報告フローが整備されているか
  • AIの出力に利用者の名前と「AI支援」の記載をするルールがあるか
  1. チーム教育
  • 自動化バイアスのリスクをチーム全員が認識しているか
  • 「AIを使う」と「AIに委ねる」の違いをチームで共有しているか

このチェックリストは「全てにチェックが入ってから使い始める」ためのものではない。現状でどの項目が未整備かを可視化するためのものだ。「未整備の項目がある」という事実を認識することが、施設レベルの議論の起点になる。

『問いを持ち続ける』を象徴する図。中央に大きな問符『?』。その周囲に4つの小さな問い: '誰のデータで訓練？', 'どの条件で失敗？', '誰が責任を取る？', '何を見落としている？'. 各問いから矢印が中央に集まり、また外へ放射する循環構造
答えを持つのではなく、問いを持ち続ける——10レッスンの最後に渡したい姿勢

6. 問いを持ち続けること

このコースの終わりは「AIを知った」ことではない。

9つのレッスンを通じて見えてきたのは、AIに関する問いの多くがまだ答えの途中にあるということだ。「理解しているか」はわからない。「AGIはいつ実現するか」もわからない。「医師の仕事がどう変わるか」も確定していない。

わかっていることとわかっていないことを区別する習慣が、このコースで培いたかった視点だ。

医師として問いを持ち続けることには、もう1つの意味がある。AIシステムの設計者・規制当局・保険者が「正解を持っている」かのように振る舞うとき、臨床の現場からの問い返しが最も鋭い批判になりうる。「このAIは小児で検証されたか」「このベンチマークはどの患者集団で計測されたか」「誰の利益のために設計されているか」を問える立場にいるのは、患者を直接みている医師だけだ。

「どこで疑い、どこで信頼し、どこで判断するか」を自分の言葉で語れること。それがこのコースの出発点だった。

ここまでの整理：わかっていることとわかっていないこと

わかっていること：

  • EU AI Act（Reg 2024/1689）が2027年8月までに医療AIへの「高リスク」要件を完全適用する
  • 日本AI事業者ガイドライン2024が開発者・提供者・利用者の3層責務を規定した
  • PMDAがSaMD審査方針を策定し、AI医療機器の保険収載が始まっている
  • 「AIが出力する」と「医師が検証する」は設計レベルで分離できる
  • LLMの医療応用の包括的レビューが2023年以降複数査読誌に出ている

わかっていないこと：

  • 「人間による監視」をどのように技術的・手続的に担保するかの業界標準が確立していない
  • 日本国内でのAI医療機器の利害関係者責任（医師・病院・AIメーカー）の法的解釈が固まっていない
  • AIと医師が相互補完的に機能するための「最適な役割分担」は、タスク・施設・患者集団によって異なり、一般解がない
  • このコースで学んだ知識が3年後にどの程度有効かはわからない

最後に付け加えると、AIの急速な変化を前にして「勉強が追いつかない」という感覚は正常だ。「全て把握してから使う」という戦略は機能しない。「問いを持ちながら使い、使いながら問いを更新する」ことが、この分野での現実的な姿勢だと考えている。

ㅤ

今日のまとめ

3行で振り返ります。

  • 『使う』と『委ねる』の境界線を意識する——同じAI使用でも、参考か自動化かで責任構造が変わる。境界を曖昧にしないことが、現場での最初の規律
  • 個人で使うのと、チームで使うのは別の話。施設導入には5項目（タスク定義・個人情報・責任分担・ログ監査・患者説明）の最低限の合意が必要
  • 答えを持つより、問いを持ち続ける。AIは3年で別物になる。固有の答えを覚えるより、毎回かける『3問チェック』を身につける方が長持ちする

ㅤ

コース修了

10レッスンお疲れ様でした。次は実践へ——別コースの「プロンプトエンジニアリング基礎」「生成AI基礎」「医療AI入門」のいずれかに進むか、自分の現場でAIを試すか。地図はもう手元にあります。

ㅤ

明日のアクション

3ヶ月後の振り返り予定を入れる。このコースを修了した日に、次のことをやっておく。

今日（Step 1）：「私がAIを使う場面」と「私がAIを使わない場面」を各3つ書く。それぞれに理由を1文で添える。

例として、

  • 使う：「英語論文の要約（原著で検証できるから）」
  • 使わない：「希少疾患の鑑別診断（自分の知識で検証できないケースがあるから）」

今日（Step 2）：具体的な日付をカレンダーに入れる。今日から90日後（2026年7月29日前後）に「AI活用振り返り」の予定を30分ブロックする。

3ヶ月後（Step 3）：Step 1で書いたリストを見直す。問いは3つだ。

  1. 「使う」と「使わない」の境界線は変わったか
  2. 変わったとすれば、何がきっかけで変わったか
  3. 変わらなかったとすれば、その理由は「経験で確信が深まった」からか「単に習慣が変わっていない」からか

このリストを3ヶ月後に見直すことが、コースで学んだ問い方を現場に定着させる最も具体的な方法だ。

参考文献