このレッスンで終わる頃には
- 患者情報をAIに入れないという線引きを、自分の手順として持てる
- AIを「過信」も「拒絶」もしない、正しい信頼の位置を説明できる
ここまで、AIの誤りを見破る技術を鍛えてきました。最後に、検証文化を支える2本の柱を確認します。入れてはいけないもの（PHI）と、取るべき距離（信頼較正）です。
PHIゼロ: 確認してから、送る
生成AIの多くは、入力した内容がサービス側に送られ、場合によっては学習に使われる可能性があります。だから、患者を特定できる情報（PHI）は、AIに入れない。これは技術ではなく、線引きの問題です。
PHIとは、氏名・生年月日・診察券番号・住所・顔写真、そして組み合わせると個人が特定できる所見まで含みます。「80代女性、○○病院、△△の稀な疾患」のように、単独では匿名でも、重なると特定につながる情報にも注意します。
やることは、送る前の一手間です。
- 氏名・ID・生年月日を、記号や仮名に置き換えてから貼る
- 稀な疾患・特徴的な経過は、特定につながらないよう一般化する
- スクリーンショットを貼るときは、患者情報が写っていないかを確認してからにする
法的な詳細（個人情報保護法・医療者の守秘義務）は、その患者データ、使って大丈夫?で扱います。ここで身につけるのは、「送る前に一度止まって確認する」という反射です。この一手間が、取り返しのつかない事故を防ぎます。
信頼較正: 過信と拒絶の、あいだに立つ
検証というと「AIを疑うこと」だと思われがちです。しかし、疑いすぎもまた失敗です。
AIとの付き合い方には、2つの極端な失敗があります。
- 過信（automation bias）: AIの答えを無批判に信じ、自分の判断を明け渡す。用量も引用も確かめずに使ってしまう
- 拒絶（algorithm aversion）: 一度間違いを見て、「AIは信用できない」と全否定し、使える場面でも使わない
どちらも、AIの実力を正しく見ていません。正しい立ち位置は、この2つのあいだにあります。AIが得意な場面では信頼し、苦手な場面では確かめる。この距離の調整を、信頼較正（trust calibration）と呼びます。
これは思いつきの標語ではなく、医師のAI活用能力を定めた国際的なコンピテンシー枠組み（AI-PACE や AAMC の原則）でも、中核の能力として挙げられています。過信でも拒絶でもなく、較正。医師に求められているのは、この真ん中の姿勢です。
較正できる医師が、いちばん速い
ここまでのコースは、すべてこの較正のためにありました。
- 仕組みを知る（レッスン1）→ どこで間違えるかが分かるから、過信しない
- 確かめる型を持つ（レッスン2）→ 急所だけ確認すればいいから、拒絶しない
- 強さで語り分ける（レッスン3）→ 根拠の重みが分かるから、振り回されない
- 見破りドリル（レッスン4）→ 目が鍛えられるから、恐れずに使える
較正ができる医師は、AIの速さを取りながら、事故を避けられます。過信する医師は事故を起こし、拒絶する医師は取り残される。真ん中に立てる人だけが、両方を手にします。
これが、AMPLの学習すべてを貫く背骨です。この先どのコースでAIツールを覚えても、最後は必ずここに戻ってきてください。AIを疑うのでも崇めるのでもなく、正しく較正する。それが、AIと働く医師の土台です。
今日のまとめ
3行で振り返ります。
- PHI（患者を特定できる情報）はAIに入れない。送る前に一度止まって確認する反射を持つ
- 検証とは疑うことではない。過信（automation bias）と拒絶（algorithm aversion）のあいだに立つ「信頼較正」
- 較正できる医師だけが、AIの速さと安全の両方を手にする。これがすべての学習の背骨
これで検証入門コースは修了です。ここで身につけた土台を持って、各ツールのコースへ進んでください。
参考文献
- Kawakita T, Wong MS, Gibson KS, et al. Application of Generative AI to Enhance Obstetrics and Gynecology Research（人による検証の必要性・PHIの扱いに言及）. Am J Perinatol. 2025;42(16):2094-2103. DOI（According to PubMed, PMID 40393680）