信号とノイズ

1948年、クロード・シャノンが「通信の数学的理論」を発表した。情報理論の誕生だ。

シャノンが明らかにしたことの一つに、増幅器の根本的な限界がある。増幅器は信号（signal）を大きくする。同時に、ノイズ（noise）も大きくする。増幅器は、信号とノイズを区別できない。

SNR（Signal-to-Noise Ratio、信号対雑音比）という概念がある。信号の強さとノイズの強さの比率だ。増幅器を通しても、SNRは改善しない。むしろ、増幅器自体が新たなノイズを加えるから、通常は悪化する。

この原理は、AIにもそのまま当てはまる。

あなたがAIに明確な思考を渡せば、それは信号だ。増幅される。あなたが曖昧な指示を渡せば、それはノイズだ。やはり増幅される。AIは信号とノイズを区別しない。どちらも同じように大きくする。

マーシャル・マクルーハンは1964年にこう書いた。

The medium is the message.

（マクルーハン『メディア論』1964年）

メディアはメッセージである。メディアの内容ではなく、メディアそのものが人間の認知を変える。

AIというメディアは、何を変えたか。思考の解像度が、そのまま結果に反映されるようになった。以前は、曖昧な思考でも、時間をかければそこそこの成果物が作れた。手を動かしているうちに考えが整理されることもあった。AIは、その猶予を消した。思考の曖昧さが、即座に出力の曖昧さとして返ってくる。

ケヴィン・ケリーは『テクニウム』でテクノロジーの自律的な進化を論じた。テクノロジーは人間の意図とは独立に、自己組織化しながら拡張していく。AIも同じだ。使い手の意図に関係なく、入力されたものを増幅する。意図が明確でなくても、増幅は止まらない。

養老孟司は『バカの壁』で、人間は知りたくないことを遮断するフィルタを持っていると指摘した。

人は結局、自分が知りたくないことについては、自主的に情報を遮断してしまっている。

（養老孟司『バカの壁』2003年）

このフィルタは、シャノンの用語で言えばノイズ源だ。自分にとって都合の悪い情報を遮断し、都合の良い情報だけを通す。そのバイアスがかかった入力をAIに渡せば、AIはバイアスごと増幅する。

私は外来で毎日これを見ている。

ある母親が来た。「うちの子、卵アレルギーだと思うんです」。聞けば、離乳食で卵を食べたあとに口の周りが赤くなった。ネットで調べた。「卵 赤み 赤ちゃん」で検索した。出てきたのはアレルギーの情報ばかり。読めば読むほど確信が深まった。卵を完全除去して3ヶ月。栄養バランスが崩れ始めていた。

診察してみると、口の周りの赤みは接触性の皮膚炎だった。卵のたんぱく質が皮膚に触れて赤くなっただけで、食べて体内に入った反応ではない。アレルギーではなかった。

母親は3ヶ月間、間違った情報を信じていた。間違っていたのは情報ではない。問いの立て方だ。「この症状はアレルギーか」という問いには、「はい」か「いいえ」しか返ってこない。正しい問いは「この赤みの原因として何が考えられるか」だ。

もしこの母親がAIに「うちの子の卵アレルギーの対処法を教えて」と聞いていたら。AIは丁寧に卵の除去食を説明しただろう。完璧なアレルギー対応ガイドが返ってくる。間違った前提が、綺麗に増幅される。

これが確認バイアスの増幅だ。シャノンの言うノイズが、AIという増幅器を通って、大きなノイズになった。

では、どうすればいいか。

信号の質を上げるしかない。ノイズを減らすしかない。

自分の前提を疑う。「本当にアレルギーなのか」ではなく「赤みの原因として何がありえるか」と問いを開く。結論を持った状態でAIに聞くのではなく、結論を持たない状態で聞く。ソクラテスの「無知の知」は、ここで効いてくる。

自分が見たくないものは何か。それを自覚してからAIに問いを投げる。自覚できなければ、AIはあなたのバイアスを増幅するだけだ。

増幅器の性能は、増幅器では決まらない。入力のSNRで決まる。

GPT-4とClaude、どちらが優れているかという議論がある。モデルの性能差はもちろんある。だが、それ以上に大きいのは、入力する側の思考の質だ。SNRの高い入力を渡せば、どちらのモデルでもまともな出力が返ってくる。SNRの低い入力を渡せば、どちらのモデルでも曖昧な出力が返ってくる。

シャノンが75年前に証明した原理は、まだ生きている。