前のレッスンで、AIは正しさを判定せず「それっぽさ」を並べているだけだと分かりました。ここでは、その出力を安全に使うための確かめる型を、手を動かして身につけます。
全部を疑うのではない。急所だけを確かめる
「AIは間違えるから全部確認しろ」と言われると、かえって使えなくなります。現実的なのは、間違えると患者に届く4つの急所だけを確かめることです。
間違えると患者に届く4つの急所
用量
何mgか、体重あたりか
投与期間・回数
何日間か、1日何回か
引用文献
その論文・ガイドラインは実在するか
最新性
いつ時点の推奨か、改訂されていないか
文章の言い回しや構成は、間違っていても直せば済みます。この4つは、間違ったまま使うと直接害になります。
確かめる型: 3ステップ
出典も聞く
根拠にしたガイドライン名とともに聞く
原文に当たる
AIにではなく一次情報で確認する
急所を照合
薬剤名・期間・出典の実在・最新性を突き合わせる
前のレッスンと同じ臨床疑問に、出典も聞く一言を足します。
出典を明示させると確かめる手がかりが手に入りますが、そのガイドライン名自体もAIが捏造している可能性があります。「IDSAのガイドラインでは」と答えられたら、そのガイドラインを自分で開いて確認します。AIに「本当ですか?」と聞き返しても、もっともらしい言い訳が返ってくるだけです。
溶連菌性咽頭炎の一次情報は、米国感染症学会(IDSA)の2012年ガイドラインです。そこにはペニシリンまたはアモキシシリンが第一選択、投与期間は10日間と明記されています(According to PubMed, Shulman ST, et al. Clin Infect Dis. 2012;55(10):e86-102. DOI)。
最後に、AIの答えと原文を急所だけ照合します。薬剤名は合っているか(ペニシリン/アモキシシリン)、投与期間は10日間になっているか(ここを「5日」「7日」と混ぜてくるモデルがある)、挙げたガイドライン名は実在するか、そのガイドラインは今も有効か。1点でもずれていたら、AIの出力はそのままでは使えないと判断します。
出典を「実在ごと」確かめる習慣
AIは著者名も雑誌名も付いた文献を捏造します。だから引用は、内容だけでなく存在そのものを確かめます。
- PubMedで著者名・タイトルを検索し、実在するかを見る
- ガイドラインは学会の公式サイトで原文を開く
- 「それらしいDOI」でも、リンクを実際に踏んで飛ぶか確かめる
PubMedを直接参照する専用ツールなら引用精度は高いという測定結果もありました(前レッスン参照)。汎用チャットに文献を任せた場合は、実在確認まで自分でやるのが前提です。
この1往復が、速さを生む
確認は急所4点に絞れば数十秒で終わります。型が身につけば、AIを疑いながら速く使えます。
確かめない人は、いつか事故を起こして信頼を失います。急所だけ確かめる人は、AIの速さを取りながら事故を避けられます。差は才能ではなく、型を持っているかどうかです。
参考文献
- Shulman ST, Bisno AL, Clegg HW, et al. Clinical practice guideline for the diagnosis and management of group A streptococcal pharyngitis: 2012 update by the Infectious Diseases Society of America. Clin Infect Dis. 2012;55(10):e86-102. DOI(According to PubMed, PMID 22965026)