次の言葉を当てる

前のレッスンでは、生成AIが検索ではなく予測で答えを組み立てていることを見ました。ここからは、この予測という土台から生まれる1つ目の性質、次の言葉を当てる力を扱います。

同じAIに聞いているのに、あるときはこちらが求めていた答えぴったりに返ってきて、あるときは自信満々な口調のまま、確かめてみると事実と違う。この差がどこから来るのかが分かると、答えをどこまで信じてよいかの見当がつきやすくなります。

よく通った道と、まばらな道

生成AIの学習データには、世の中でよく書かれ、よく語られてきた話題がたくさん含まれています。逆に、めったに書かれない話題、あなたの職場だけで通じる独自ルール、ごく最近の出来事は、学習データの中でもまばらにしか存在しません。

質問が一般的であるほど道は太く、個別的・独自的であるほど道は細くなる、というのがこの性質の基本です。太い道の上ではAIは強く、細い道の上では危うくなります。同じ話題でも、聞き方によって道の太さが変わることもあります。たとえば「マーケティングの基本的な考え方」は太い道でも、「弊社の去年のキャンペーンの反省点」は、AIにとっては初めて聞く細い道の話題です。

作り話は、具体的な詳細に集中する

道がまばらになったとき、AIは「分かりません」と答えを止めるより、そのときまでの流れから最もそれらしい続きを作ってしまう方向に流れやすい傾向があります。ここで厄介なのは、作り話がでたらめな文章ではなく、一見すると筋の通った具体的な文章として出てくることです。

たとえば「業界の最新動向を教えて」と聞いたとき、大まかな傾向の説明自体は太い道に近く、比較的安定していることが多い一方で、そこに添えられた「A社の調査によると」「昨年比◯%増」といった具体的な数字や出典は、細い道の産物であることがあります。文章全体の構成やトーンは自然なので、読んだだけでは見抜きにくいのが特徴です。あやしいのは文章の雰囲気ではなく、固有名詞・数字・引用のような、具体性の高い箇所だと覚えておくと、確認すべき場所が絞れます。

自信ありげな口調と、正確さは無関係

「間違いなくこうです」という言い切りの口調で答えが返ってくると、つい信じたくなります。ですが、この口調の強さは、答えが太い道の上にあるか細い道の上にあるかとは、あまり関係がありません。太い道の話題にも細い道の話題にも、同じように断定的な口調が使われることがあります。

対処:引き出す前に、道の太さを疑う

答えを受け取ったあとで疑うより、質問を投げる前に「これは太い道の質問か、細い道の質問か」を自分で見積もっておくと、確認の手間を無駄にせずに済みます。

この見積もりの感覚は、使えば使うほど鋭くなります。何度か「細い道だと思って確認したら実際に間違っていた」という経験を積むと、次からは聞く前に立ち止まれるようになります。道の太さを見積もる感覚は、生成の仕組みそのものについて生成プロセスとサンプリングを読むと、より技術的な裏付けを持って理解できます。

やってみよう

演習1:太い道と細い道の質問を仕分ける

最近AIに聞いたことを3〜5個思い出してください。それぞれが「よく書かれている一般的な話題」なのか、「自分の職場・自分の状況だけの個別的な話題」なのかを仕分けます。細い道に当たる質問があれば、そのとき返ってきた答えをどこまで確認したか、振り返ってみてください。

演習2:具体性の高い箇所を見つける

架空の場面を考えます。AIに「業界の最新動向を3つ教えて」と聞いたら、社名・数字・出典つきの答えが返ってきたとします。この答えのうち、まず確認すべき箇所はどこでしょうか。このレッスンで見た「作り話が集中しやすい箇所」を手がかりに、確認の優先順位をつけてみてください。

今日のまとめ

3行で振り返ります。

• 生成AIの答えは、よく通った道の上では強く、まばらな道の上では「それらしいが違う」答えを生みやすい
• 作り話は文章全体ではなく、固有名詞・数字・引用のような具体的な詳細に集中する
• 自信ありげな口調は正確さの目印にならず、判断材料は道の太さの方

次のレッスンでは、2つ目の性質「知っていること」を扱います。AIが実際に何を知っていて、何を知らないのかを見ていきます。