失敗できる者だけが創造できる

ある製薬会社がAI創薬に本格参入して、3年で新薬候補の開発コストを90%削減した、というニュースを読んだ。同時に、その会社の研究者が匿名でこう語っていた。「我々はもう仮説を立てない。AIが最適解を出す。研究者の仕事は、AIの提案を承認することになった」。創薬の速度は上がった。でも何かが変わった。その「何か」が何なのか、研究者自身も言語化できていなかった。

10年の試行錯誤が、判断力を作る

医師になりたての頃、僕は外来で何度も判断を誤った。軽く見ていた子どもが翌日入院した。重篤だと思った子どもが元気に帰っていった。自信を持って下した診断が覆された。

そのたびに、なぜ間違えたかを徹底的に考えた。教科書を読み返した。先輩に相談した。同じ状況の次の患者で、また少し違う判断をした。

10年かけて、何百回もこれを繰り返した。その試行錯誤の堆積が、今の僕の判断力を作っている。

AIは試行錯誤しない。悔しさがない

AIは試行錯誤をしない。

正確に言うと、学習の過程で莫大な数の「試行錯誤」を内部的に行う。でもその試行錯誤は、AIが「感じる」ものではない。損失関数の最小化という数値的な調整だ。

間違えたことで眠れなくなる、という体験がない。失敗が恥ずかしくて、翌日の外来に行きたくない、という感覚がない。

悔しさがない。だから、その悔しさをバネにする成長もない。

失敗から学ぶ機会を奪われた研修医は、10年後に何になるのか

AIを使ったシステムが医療に入ってきたとき、ある変化が起きた。

研修医の判断ミスが減った。同時に、研修医の「なぜ間違えたか」という反省の機会が減った。

AIが正解を先に示すから、大きく外れる前に修正される。効率的だ。患者への影響も小さくなる。これは良いことに見える。

でも、失敗から学ぶ機会を奪われた研修医は、10年後に何になるのか。

ペニシリンも、ポスト・イットも、X線も。失敗から生まれた

ペニシリンは偶然の発見だった。細菌培養の実験を失敗したフレミングが、カビに気づいた。

ポスト・イットは接着力が弱すぎる接着剤の失敗作だった。

X線は実験中の偶然の副産物だった。

失敗しなければ気づかなかったものが、世界を変えた。

AIは失敗を最小化するように設計されている。最適解に向かって最短経路を歩む。寄り道をしない。その代わりに、道の外に落ちているものを見つけられない。

創造は、失敗から生まれる

創造とは何か、という問いに戻る。

新しいものを作ることではない。誰も考えていなかった問いを立てることだ。

その問いは、計画から生まれない。失敗から生まれる。うまくいかなかったことの意味を考えているときに、突然姿を現す。

AIが失敗を排除した環境では、その種類の問いが生まれにくくなる。

失敗できる環境は、今や貴重な教育資源

僕は外来で、研修医に意図的に判断させる。AIの補助を一時的に外して、考えさせる。間違えても、すぐには修正しない。まずなぜそう判断したかを聞く。

非効率だとわかっている。だが、それをしないと育たない何かがある。

失敗できる環境は、今や貴重な教育資源だ。

試行錯誤を排除した環境から、新しいものは生まれるのか。失敗のない世界の人間は、何を作れるのか。