第17章　AIの出力に「違う」と言えるのは体験した者だけ

2027年、大学病院の小児科研修医が、AIの診断補助システムに異議を唱えた。気管支炎の疑いで入院した3歳の子ども。AIは「ウイルス性気管支炎、入院不要」と判定した。エビデンスも数値も全部揃っていた。でも研修医は言った。「なんか違う気がします」。指導医は「根拠は？」と聞いた。研修医は答えられなかった。その子は翌朝、RSウイルスによる細気管支炎で急激に悪化した。

身体に蓄積される「経験」の正体

「違う気がする」という感覚の正体を、僕はずっと考えている。

愛育病院の外来で、毎日子どもたちを診ている。10年以上やっていると、言語化できない何かが身体に蓄積される。体温の数値ではなく、皮膚の熱の質。SpO2の数字ではなく、呼吸のリズムの乱れ方。顔色というより、その顔色が「今この瞬間に変化しているかどうか」。

これは「経験」という言葉で片付けるには惜しい。もっと正確に言うと、身体を持って現場にいた時間の総量だ。

「正しいか」ではなく「本物か偽物か」

AIが医療診断に使われるようになって久しい。精度は上がり続けている。画像診断の一部では、もはや人間の専門医を超えている領域もある。

でもそのAIに「違う」と言えるのは、同じ現場を身体で歩いた人間だけだ。

「正しいか間違いか」ではない。「本物か偽物か」を見分ける感覚。

これは論文を読んでも身につかない。ガイドラインを暗記しても得られない。現場を何千回も歩いて、何千人もの子どもの顔を見て、自分の判断が当たったり外れたりを繰り返した先にしか存在しない。

シミュレーションで学んだ目は、現場で何を捉えるか

AIを使った医療教育の話をよく聞く。シミュレーション患者と対話して、診断を学ぶ。効率的だし、倫理的でもある。本物の患者に「練習台」になってもらう必要がない。

でも、と僕は思う。

シミュレーションで診断を学んだ医師は、本物の患者に「違う」と言えるようになるのか。

プログラムされた異常パターンを学んだ目は、プログラムを外れた何かを捉えられるのか。

この問いに、僕はまだ答えを持っていない。

批判的評価には土台がいる

AIの出力を批判的に評価できる人間が必要、という話はよく出てくる。それはそうだ。でも批判的評価には土台がいる。その土台は、身体で現場を歩いた記憶でできている。

AIが「正しい」と言ったとき。データが「問題ない」と示したとき。それでも「なんか違う」と言えるためには、何が必要なのか。

知識ではない。経験でもない。もっと原始的な何か。

身体が、現場の空気を覚えていること。

手が動かなかった、その瞬間

あの研修医はその後、僕のもとに来て言った。「あの子のことを診たとき、手が動かなかったんです。なんでかわからないけど」。

手が動かなかった。言語化できなかった。でも何かを感じていた。

その「何か」は、医師として一番大切なものだ。

AIは何千万件の症例を学習できる。でも、自分の手が動かなくなる瞬間を知らない。

それを育てる時間が、まだ残されているか

「本物か偽物か」を見分ける感覚は、どうすれば育つのか。

そもそも、それを育てる時間が、これからの医療教育に残されているのか。