一度に扱える量

前のレッスンでは、AIが何を知っているかという知識の強さを扱いました。今回は、その知識とは別に、1回のやり取りの中で一度に扱える量に上限があるという性質を見ていきます。

長い資料をそのまま貼り付けて要約を頼んだのに、肝心な部分だけ抜け落ちていた。そんな経験があるなら、この性質を知っておくと対処しやすくなります。知識と違って、この性質は「知っているかどうか」ではなく「今この瞬間、どこまで目が行き届いているか」の問題です。

コンテキストウィンドウという窓

AIが1回のやり取りで読み書きできる範囲には上限があります。この範囲はコンテキストウィンドウと呼ばれ、人の作業記憶(今取り組んでいる作業の内容を、頭の中に一時的に保持しておける量)に近いたとえで理解すると扱いやすくなります。

この窓の大きさは、使っているサービスやモデルによって違います。数十万語規模の窓を持つモデルもあれば、それより控えめな窓のモデルもあり、プランによっても変わります。窓の大きさは日々変わっていくものなので、正確な数字は公式ページで確認するのが確実です。

長い資料ほど、真ん中が見落とされやすい

数十ページの資料をまるごと渡せるのは便利ですが、渡した量がそのまま均等に扱われるとは限りません。特に長い文章では、冒頭と末尾の情報は比較的しっかり参照される一方、真ん中あたりに置かれた情報は見落とされやすくなる傾向があると報告されています。

これは、窓の中の情報すべてに均等に注意が向いているわけではなく、置かれた位置によって注意の向きやすさに差が出るためだと考えられています。長い資料の中盤にある、一見地味だが重要な条件や例外事項ほど、この影響を受けやすいので注意が必要です。たとえば、契約書の前文と署名欄は読まれても、中盤にある「ただし」で始まる例外条項が見落とされる、といった場面が起こりえます。

新しい会話は、前のやり取りを覚えていない

もう1つ見落としやすいのが、会話をまたいだときの扱いです。AIサービスの多くは、既定では新しい会話を、それまでの会話と自動ではつなげません。前の会話で詳しく説明した前提や好みは、新しい会話では最初から存在しないものとして扱われます。

「前にも話したのに」と感じたときは、たいていこの境界をまたいでいます。責めるべき相手の記憶違いではなく、そういう仕組みだと知っておくだけで、もう一度伝え直す手間を惜しまなくなります。

置き方の工夫で補う

窓の大きさそのものは変えられませんが、情報の置き方を工夫することで、見落としのリスクは減らせます。

何を含めるかだけでなく、どこに置くかまで意識するのが、この性質への対処の核心です。資料を分割するときは、章ごとに見出しをつけるだけでなく、各セクションの冒頭に一言で要点を書き添えておくと、真ん中の情報でも見つけてもらいやすくなります。トークン化と窓の仕組みをもう少し技術的に知りたい方は、トークン化とコンテキストウィンドウで扱っています。

やってみよう

演習1:長い資料の置き方を設計する

普段AIに渡している資料(議事録・仕様書・マニュアルなど)を1つ思い浮かべてください。その資料の中で、絶対に見落としてほしくない条件や例外事項はどこにありますか。冒頭・末尾で繰り返す、セクションを分けるなど、このレッスンの工夫を使って、渡し方を設計し直してみてください。

演習2:会話をまたいで確認する

AIとの会話で、自分の状況や好みを詳しく説明したとします。そのあと新しい会話を始めて、同じ内容を覚えているかを尋ねてみてください。引き継がれているか、いないか、もし引き継ぐ機能があるならどこで設定できるかを確かめ、気づいたことを書き出してください。

今日のまとめ

3行で振り返ります。

• コンテキストウィンドウという窓の大きさには上限があり、渡した内容以外にも容量が使われている
• 長い資料では、冒頭・末尾に比べて真ん中の情報が見落とされやすい傾向がある
• 新しい会話は既定では前のやり取りを覚えておらず、重要な情報は置き場所を工夫して補う

次のレッスンでは、4つ目の性質「指示の効き方」を扱います。どんな指示なら効き、どんな指示だとぶれるのかを見ていきます。