知っていること

前のレッスンでは、質問が太い道か細い道かで答えの信頼度が変わることを見ました。この道の太さを大きく左右するのが、今回扱う2つ目の性質、AIが実際に何を知っているかです。

「AIは何でも知っている」という感覚で使うと、足をすくわれやすい場面があります。知識には強い分野と弱い分野があり、そこには締め切りもあります。世の中での重要性と、AIにとっての知識の強さがずれることも珍しくありません。

知識の強さを決める3つの条件

AIの知識は、学習データにどう現れていたかによって強さが変わります。目安になるのが次の3条件です。

たとえば、毎年多くの会社で行われる年末調整の一般的な流れのような話題は、この3条件をどれも満たしやすく、AIの説明は安定します。一方、去年始まったばかりの社内限定の制度は、そもそも書かれた回数が少なく、まだ新しすぎて情報源も限られているので、3条件のどれも十分に満たしません。

逆に言えば、めったに書かれない話題、学習データの時点ですでに古かった話題、情報源によって説明がばらばらな話題は、どれだけ重要な内容でも知識としては弱くなります。世の中での注目度や重要性と、AIにとっての知識の強さは、必ずしも一致しません。

知識には締め切りがある

AIの知識は、ある時点までに集められた学習データにもとづいています。この時点を過ぎたあとに起きた出来事や発表された情報は、当然ながら知りようがありません。

締め切りの具体的な日付はモデルによって異なり、更新されていくものなので、このレッスンでは固定の日付を挙げません。使っているサービスの公式ページで確認するのが確実です。締め切りより後の出来事について聞かれたときに、古い情報のまま自信ありげに答えてしまうことがある、という点だけは覚えておいてください。

厄介なのは、「最近の」「今年の」といった言い回しで聞いたときです。AIにとっての「最近」は、あなたが思っている「最近」より古いことがあります。日付や年度を具体的に添えて聞くと、この食い違いに気づきやすくなります。

締め切りの存在自体は、欠点というより前提として受け止めておく方が扱いやすくなります。今のAIも、これから使い続けるうちに登場するAIの中ではいちばん古いものになる、という感覚を持っておくと、締め切りに驚くことが減ります。

偏りも一緒に受け継ぐ

学習データは世の中の文章を集めたものなので、そこに含まれる偏りもそのまま受け継がれます。特定の立場や視点からの記述が多い話題では、AIの説明もその視点に寄りやすくなります。

これは「間違った知識」というより、「何を普通・標準とみなすか」という暗黙の前提が、学習データの偏りをそのまま映している、という形で現れます。気づきにくいぶん、事実の誤りよりも見抜きにくいことがあります。この現象は、迎合性や作り話とあわせてレッスン7でさらに掘り下げます。

対処:検索や資料で、知識を今に更新する

知識の弱さは、AI単体では埋められません。ただし、AIに今の情報や自分の資料を渡す手段があれば、弱さを補えます。それぞれ得意な場面が少し違います。

社内固有の話題や、締め切り後の最新情報を聞きたいときほど、この3つの手段を組み合わせる価値が上がります。学習データそのものの作られ方に興味があれば、生成AIの学習とファインチューニングで技術的な背景を扱っています。

やってみよう

演習1:自分の仕事の知識マップを作る

普段AIに聞いている話題を思い浮かべ、頻度・新しさ・一貫性の3条件に照らして「AIの知識が強そうな分野」と「弱そうな分野」に仕分けてみてください。弱そうな分野があれば、検索・資料・出どころを尋ねるの3手段のうち、どれで補えそうかも考えてみましょう。

演習2:締め切りを実際に確かめる

使っているAIサービスに、知識の締め切りがいつ頃かを尋ねてみてください。次に、その締め切りより後に起きたはずの出来事について、あえて質問してみます。どう答えが返ってくるか(正直に「分からない」と言うか、それとも自信ありげに古い情報を答えるか)を観察し、気づいたことを書き出してください。

今日のまとめ

3行で振り返ります。

• AIの知識の強さは、頻度・新しさ・一貫性の3条件で決まり、世の中での重要性とは必ずしも一致しない
• 知識には締め切りがあり、それより後の出来事は知りようがない。「最近」の感覚のずれにも注意が要る
• 検索機能・自分の資料・出どころを尋ねる、の3手段で知識を今の状態に近づけられる

次のレッスンでは、3つ目の性質「一度に扱える量」を扱います。長い資料を渡したときに何が起きるかを見ていきます。