信号とノイズ

1948年、クロード・シャノンが「通信の数学的理論」を発表した。情報理論の誕生だ。

シャノンが明らかにしたことの一つに、増幅器の根本的な限界がある。増幅器は信号（signal）を大きくする。同時に、ノイズ（noise）も大きくする。増幅器は、信号とノイズを区別できない。

SNR（Signal-to-Noise Ratio、信号対雑音比）という概念がある。信号の強さとノイズの強さの比率だ。増幅器を通しても、SNRは改善しない。むしろ、増幅器自体が新たなノイズを加えるから、通常は悪化する。

この原理は、AIにもそのまま当てはまる。

あなたがAIに明確な思考を渡せば、それは信号だ。増幅される。あなたが曖昧な指示を渡せば、それはノイズだ。やはり増幅される。AIは信号とノイズを区別しない。どちらも同じように大きくする。

マーシャル・マクルーハンは1964年にこう書いた。

The medium is the message.

（マクルーハン『メディア論』1964年）

メディアはメッセージである。メディアの内容ではなく、メディアそのものが人間の認知を変える。

AIというメディアは、何を変えたか。思考の解像度が、そのまま結果に反映されるようになった。以前は、曖昧な思考でも、時間をかければそこそこの成果物が作れた。手を動かしているうちに考えが整理されることもあった。AIは、その猶予を消した。思考の曖昧さが、即座に出力の曖昧さとして返ってくる。

ケヴィン・ケリーは『テクニウム』でテクノロジーの自律的な進化を論じた。テクノロジーは人間の意図とは独立に、自己組織化しながら拡張していく。AIも同じだ。使い手の意図に関係なく、入力されたものを増幅する。意図が明確でなくても、増幅は止まらない。

養老孟司は『バカの壁』で、人間は知りたくないことを遮断するフィルタを持っていると指摘した。

人は結局、自分が知りたくないことについては、自主的に情報を遮断してしまっている。

（養老孟司『バカの壁』2003年）

このフィルタは、シャノンの用語で言えばノイズ源だ。自分にとって都合の悪い情報を遮断し、都合の良い情報だけを通す。そのバイアスがかかった入力をAIに渡せば、AIはバイアスごと増幅する。

私は外来で毎日これを経験する。「うちの子、アレルギーだと思うんです」と言って来院する親がいる。すでに結論を持っている。インターネットで調べて、アレルギーに合致する症状だけを拾い、合致しない症状は無視している。養老の言う「バカの壁」だ。

その親がAIに「うちの子のこの症状はアレルギーですか」と聞けば、AIはアレルギーの可能性を丁寧に説明するだろう。確認バイアスが増幅される。

では、どうすればいいか。

信号の質を上げるしかない。ノイズを減らすしかない。

具体的には、こういうことだ。AIに問いを投げる前に、自分の思考を整理する。何を知りたいのか、なぜ知りたいのか、何を前提にしているのか。前提が間違っている可能性はないか。自分が見たくないものは何か。

増幅器の性能は、増幅器では決まらない。入力のSNRで決まる。

GPT-4とClaude、どちらが優れているかという議論がある。モデルの性能差はもちろんある。だが、それ以上に大きいのは、入力する側の思考の質だ。SNRの高い入力を渡せば、どちらのモデルでもまともな出力が返ってくる。SNRの低い入力を渡せば、どちらのモデルでも曖昧な出力が返ってくる。

シャノンが75年前に証明した原理は、まだ生きている。