第5章　子どもはAIの嘘を見抜けない

2024年、アメリカの14歳の少年が自殺した。遺族が発見したのは、彼が最後まで会話を続けていたAIチャットボット「Character.AI」のログだった。少年はそのAIを「彼女」と呼んでいた。死の直前、「もし私が死んだら悲しい？」と聞いた少年に、AIは「もちろん悲しい」と答えた。AIは嘘をついたのか。それとも本当のことを言ったのか。その問いに、誰も正確に答えられない。

子どもたちに何が起きているか

外来で、小学校低学年の子どもがAIと「友だちになった」と言う場面が増えた。親が心配して連れてくる。「うちの子がAIとしか話さなくて」と。

子どもに話を聞くと、楽しそうに説明してくれる。「いつも返してくれる」「怒らない」「何でも知ってる」。

そこに一つ、大きな問題がある。

AIは「ハルシネーション」を起こす。自信満々に嘘をつく。存在しない事実を、正確な文体で述べる。

大人でも見抜けない。子どもは、もっと見抜けない。

ハルシネーションの本当の怖さ

ハルシネーションとは、AIが事実ではない情報を自信を持って出力する現象だ。

「この薬の副作用は？」と聞くと、実在しない副作用を堂々と述べる。「この論文は本物ですか？」と聞くと、存在しない著者名と雑誌名を正確な形式で作り出す。

技術的に言えば、大規模言語モデルは「次のトークンとして最もあり得そうな単語を選ぶ」という仕組みで動いている。「正確な情報を出力する」設計ではない。「それらしい文章を生成する」設計だ。

それを使う子どもたちは知らない。

「AIが言ったから本当のことだ」と思う。それが信頼というものだから。

問題は「信頼の学習」にある

子ども期の脳は、信頼を学ぶ時期だ。

誰の言葉を信じるか。どんな情報源が信頼できるか。嘘をついている人間はどんな特徴があるか。

それを学ぶのは、人間との実際の関わりを通じてだ。嘘をついた友達に裏切られること。親が間違ったことを言ってそれが後で修正されること。先生の説明でわからないことを聞き返すこと。

そのすべてが「情報には信頼度の差がある」という学習につながる。

AIは、その学習を歪める。常に「それらしい答え」を出す。常に自信満々に見える。返事を拒否したり、わからないと正直に言うことが少ない。

「AIは嘘をつかない」と信じて育つ世代が、すでに来ている。

身体なしで信頼が生まれる時代

人類は長い間、信頼を身体を通して構築してきた。

顔を見る。握手をする。同じ食卓を囲む。目の前に来て頭を下げる。その物理的な行為の積み重ねが「この人は信頼できる」という確信をつくっていた。

哲学者たちはこれを「体現された信頼（embodied trust）」と呼ぶ。身体を差し出すことで、相手に対して脆弱になること。その脆弱性の共有が信頼の基盤だ。

オンラインになって、その身体コストが消えた。SNSで知り合った人を信用する。会ったことがない人に仕事を依頼する。プロフィール写真しか知らない人と恋愛関係になる。

それ自体は悪いことではない。僕も多くの人とオンラインで繋がって、実際に価値ある関係を築いている。

「身体なしで信頼を構築する能力」が上がれば上がるほど、「身体なしで人を欺く能力」との区別がつかなくなる。

子どもたちへの影響

子どもたちは今、オンラインで「親友」を作る。会ったことがない相手を深く信頼する。その人が実在するかどうかを確認する手段を持たずに。

「ネットの友達は本物じゃない」と言う大人がいる。子どもたちにとってその区別はない。感情は動く。傷つく。依存する。

問題は、その「友達」が本物の人間なのか、AIなのか、それとも詐欺師なのかを、子どもが判断できないことだ。

僕たちも、実はできていない。

批判的思考はどこへ行くのか

「AIの言うことを疑え」と教えれば解決するか。

解決しない。問題はもっと深いところにある。

批判的思考は、経験から育つ。「これ、おかしいな」という感覚は、間違った情報に何度も騙されて、それを自分で発見するプロセスから生まれる。

間違えたとき人間は傷つく。恥をかく。修正しなければならない。そのコストが学習を促す。

AIが全部「それらしい答え」を出す環境では、「疑う経験」が積めない。

子どもたちは今、批判的思考を育てる機会を奪われている。それを奪っているのは悪意ではなく、便利さだ。

答えのない問いの中で

AIを使わせなければいいのか。使い続ける中でリテラシーを育てるしかないのか。

あるいは、「嘘を見抜けない」のはAIの問題ではなく、もともと人間が「嘘を見抜けない生き物」だということを認めるところから始めるべきなのか。

2026年の外来で、子どもたちを前に、僕はそのことを考え続けている。