生成AIは何をしているか

AIという言葉を、会議の議事録を書かせるときと、迷惑な操作を検知して止めるときの両方で使ったことはないでしょうか。同じ「AI」でも、この2つはやっていることがまったく違います。

この違いを知らないままだと、AIに何を任せるべきかの見当がつきにくくなります。得意なことを頼んでいるのか、そもそも仕組み上できないことを頼んでいるのかが、区別できないからです。

このレッスンでは、生成AIが具体的に何をしている技術なのかを押さえます。以降のレッスンで扱う4つの性質を理解するための土台になります。

分けるAIと作るAI

AIと呼ばれる技術は、大きく2つに分かれます。すでにあるものを仕分ける・並べ替える・見つけ出すAIと、そこにまだ無かったものを新しく作り出すAIです。

このコースで扱う「生成AI」は、後者です。分類や検索ではなく、新しいものを作り出すという点が出発点になります。

名前の由来と、急に力をつけた3つの理由

いま生成AIと呼ばれている技術の多くは、大規模言語モデル(LLM)と呼ばれる仕組みでできています。人間の言葉のパターンを予測し、その続きを生成するよう訓練されているので「言語モデル」、内部のパラメータ(何をどう処理するかを決める無数の数値。人間の脳でいえば神経細胞のつながりの強さに近いもの)が数十億から数千億の規模にあるので「大規模」と呼ばれます。

この技術自体は新しいものではありませんが、ここ十年ほどで急に実用段階に入りました。理由は1つではなく、3つの流れが同じ時期に重なったからだと言われています。

仕組み側の進化について、Transformerや注意機構(Attention)まで踏み込んで知りたい方は、ChatGPTの中身を覗くで技術的な仕組みを扱っています。このコースでは、仕組みの中身よりも「その結果、AIはどう振る舞うか」を追います。

規模を大きくすると、新しい力が現れる

3つの追い風を受けて、モデル・学習に使う文章の量・計算量を大きくしていくと、何が起きるでしょうか。ここで2つのことが同時に起きます。

1つ目は、素直な伸びです。モデルを大きくし、学習データと計算量を増やすほど、正解率のような指標はかなりの精度で予測できる形で上がっていきます。「これだけ規模を増やせば、これくらい賢くなる」という見通しが立てやすいということです。

2つ目が、素直には説明しにくい方の変化です。ある規模を超えたあたりから、開発者が個別に作り込んだわけではない振る舞いが、後からついてくるように現れ始めます。

大きくするほど賢くなる、というだけでなく、大きくした先に、それまでは無かった種類の振る舞いが姿を見せる、というのがこの段階の要点です。

たとえば、社内の議事メモの独特な書式を1つ見せただけで、次からその書式に沿って要約を返してくるような振る舞いも、この創発の一種です。「この書式で要約して」と手順を細かく説明しなくても、見せられた例から作業のやり方そのものを読み取っているように見えます。個別のタスクごとに専用のプログラムを書かなくても、規模を大きくした結果として、こうした汎用的な対応力が備わっている、という点が、以前の技術との大きな違いです。

この創発という性質があるために、「AIにできること」を一覧にして覚えておけば安心、とはいきません。一覧を作った時点ではまだ現れていなかった力が、使っているうちに姿を見せることもあれば、逆に得意そうに見えて実は弱い作業もあります。使いながら「意外とここまでできる」「ここはまだ危うい」を確かめ続ける態度が要る、という点は、このあとのレッスンでも繰り返し出てきます。次に見る学習の2段階は、この「大きくして育てる」過程の中身にあたります。

育て方は2段階:まず言葉を覚え、次に振る舞いを整える

モデルが今の形になるまでには、大きく2つの段階があります。

1段階目だけで止まったモデルは、質問に答える存在ではなく、文章の続きをひたすら書き足すだけの装置に近いものです。「あなたを助ける」という発想自体、1段階目には含まれていません。2段階目を経て、はじめて会話の相手として使える形になります。

使うときに起きていること:検索ではなく、予測による生成

ここが誤解されやすい点です。生成AIに質問すると、どこかの棚から用意されていた正解を取り出しているように見えます。実際に起きているのは違います。

入力した文章の続きを、学習で身につけたパターンをもとに、一語ずつ確率的に組み立てているだけです。データベースを検索しているのではなく、「この文脈なら次に来そうな言葉」を予測し続けているというのが実態です。

このとき、一度に読み書きできる範囲には上限があります。会話の途中で渡した資料や、それまでのやり取りは、この範囲に収まっている間だけ参照できます。人の作業記憶に近いたとえで理解しておくと扱いやすくなります。この上限がどこで問題になるかは、レッスン4で詳しく扱います。

このコースの地図:4つの性質

ここまでで、生成AIが「予測にもとづいて新しい文章を組み立てる仕組み」だと分かりました。この予測という土台1つから、得意なことと苦手なことの両方が生まれます。次のレッスンからは、その振る舞いを4つの性質に分けて見ていきます。

やってみよう

演習1:自分の仕事を「分ける」と「作る」に仕分ける

普段の仕事の中で、AIに任せられそうな作業を4〜6個書き出してみてください。それぞれが「分ける」作業なのか「作る」作業なのかを仕分けます。両方が混ざった作業(たとえば、届いた問い合わせを分類してから返信文を作る、など)があれば、どこで役割が切り替わっているかも書き出してみてください。

演習2:「検索ではなく予測」で説明し直す

身近な人に生成AIの仕組みを説明するとしたら、「データベースから正解を探してきている」という誤解をどう解きますか。このレッスンで見た「予測にもとづく生成」という考え方を使って、自分の言葉で1〜2文にまとめてみてください。

今日のまとめ

3行で振り返ります。

• 生成AIは、すでにあるものを分類・検索するAIとは違い、新しい文章を予測にもとづいて組み立てるAI
• 学習は事前学習(言葉を覚える)と微調整(振る舞いを整える)の2段階で進む
• 生成AIの振る舞いは、次の言葉を当てる・知っていること・一度に扱える量・指示の効き方という4つの性質から生まれる

次のレッスンでは、4つの性質の1つ目「次の言葉を当てる」を詳しく見ていきます。よく通った道と、まばらな道で何が変わるかを扱います。