AIはなぜ、自信たっぷりに間違えるのか

前のレッスン（5分で、AIの嘘を1つ見破る）で、AIの答えを一次情報で確かめる1往復を体験しました。ここでは一段深く、なぜ確かめる必要があるのかを仕組みから理解します。

AIは「正しさ」ではなく「それっぽさ」を計算している

AIは、医学事典を引いて答えているわけではありません。

生成AIがやっているのは、突きつめると「次に来る単語を予測する」だけです。「溶連菌の第一選択は」と入力されたら、学習データの中で統計的に続きやすい単語を並べていく。並べた文章が、たまたま正しいこともあれば、もっともらしいだけで間違っていることもあります。

AIは「これは正しい」と判定してから答えているのではありません。だから間違えるときも、正しいときと同じ、なめらかで自信のある文体になります。

間違いには、はっきりした「型」がある

間違い方には、医師が引っかかりやすい型があります。

生成AIの間違いの3つの型

ハルシネーション

存在しない論文・実在しない用量・架空のガイドライン名を堂々と作り出す

古い情報

学習時点の知識で止まり、最新のガイドライン改訂を知らないまま古い推奨を答える

文脈の取り違え

成人の話を小児にそのまま当てはめる、別の疾患の数字を混ぜる

このうち、医師にとって一番危ないのが捏造された引用です。「〜という研究があります」と、著者名も雑誌名も付いた、完全に本物に見える文献を作り出すことがあります。

数字で見る: 引用の捏造は、実際どのくらい起きるのか

印象論ではなく、測定された数字があります。

脊椎外科の診療テーマで5つの主要LLM（ChatGPT・Gemini・Claude・Copilot・OpenEvidence）の引用をすべて人手で検証した2026年の研究では、Geminiは26.2%が捏造、最も正確なClaudeでも正確な引用は78%にとどまりました（According to PubMed, McLaughlin ND, et al. Neurosurg Pract. 2026;7(3):e000244. DOI）。

同じ研究で、患者向けの口調で聞くとChatGPTの捏造率は2.1%から20.0%に跳ね上がっています（同, DOI）。

一方、PubMedを直接参照する専用ツール（OpenEvidence）は満点でした。汎用チャットに文献を丸投げすると危ない、という数字です。この危険性は、産婦人科研究の総説でも「引用の捏造」として警告されています（According to PubMed, Kawakita T, et al. Am J Perinatol. 2025;42(16):2094-2103. DOI）。

だから、疑う場所が決まる

仕組みが分かると、どこを信じ、どこを疑うべきかがはっきりします。

AIに任せる仕事と、必ず確かめる仕事

任せていい

文章を整える、要点を並べる、下書きを作る、たたき台を出す。「形を作る」仕事です。

必ず確かめる

用量、投与期間、引用文献、最新の推奨。口調がどれだけ自信に満ちていても、必ず一次情報に戻って確かめる。これがこのコース全体を貫く原則です。

AIを信用していないから疑うのではなく、AIが「正しさを判定していない」仕組みを理解しているから疑うのです。

参考文献

McLaughlin ND, Srinivas AN, Lowe ZF, et al. Large Language Model Hallucinations in Spine Surgery: A Comparative Analysis of Clinician vs Patient-Level Prompts. Neurosurg Pract. 2026;7(3):e000244. DOI（According to PubMed, PMID 42232526）
Kawakita T, Wong MS, Gibson KS, et al. Application of Generative AI to Enhance Obstetrics and Gynecology Research. Am J Perinatol. 2025;42(16):2094-2103. DOI（According to PubMed, PMID 40393680）