メインコンテンツへスキップ

AIは研究者になれるのか

AIは、AIの研究そのものを進められるのでしょうか。道具を作る道具のような身近な例から、再帰的自己改善という仮説、RE-BenchとRSI Indexという二つの測り方、そしてそこから言えること・言えないことを確かめます

  • レッスン 9 / 15
  • 9分

このレッスンで

終わる頃には、次ができるようになります

  • 再帰的自己改善とは何かを、身近な例を使って説明できる
  • RE-Benchの図から、時間によってAIと人の得点が入れ替わることを読み取れる
  • RSI Indexの「50%」が、自己改善が起きる確率ではないことを説明できる
一つの木の机の左に、手書きのメモとグラフで埋まった実験ノートとピペットの先の箱、右に事務の書類の束と週の勤務表とホッチキスが置かれ、そのあいだに赤鉛筆がある
AIが、AIを作る研究そのものをどこまで担えるのか。この回では、測られ始めた結果を見ていきます。

前回の最後に、こんな問いを残しました。AIは、AIの研究そのものを進められるのでしょうか。

この回は、その答えを探します。ここから第3章です。

第3章は、地図の再帰的自己改善

第1回の地図で、いまいる考えにだけ色を付けた

出発点:計算・データ・AIの大きさ スケーリング仮説増やすほど、AIは賢くなる(伸びる傾向は、測られている) AGIいろいろな頭の仕事を、一つでこなすAI AIの研究も、こなせるようになる(一部が測られ始めた段階) 再帰的自己改善AIが次のAIを改良し、それをくり返す くり返しが止まらなければ(まだ確かめられていない) 知能爆発人を大きく超える知能が、短い期間に現れる アラインメントどの段階でも、AIの向きを人の意図に合わせる 出発点:計算・データ・AIの大きさ スケーリング仮説増やすほど、AIは賢くなる(伸びる傾向は、測られている) AGIいろいろな頭の仕事を、一つでこなすAI AIの研究も、こなせるようになる(一部が測られ始めた段階) 再帰的自己改善AIが次のAIを改良し、それをくり返す くり返しが止まらなければ(まだ確かめられていない) 知能爆発人を大きく超える知能が、短い期間に現れる アラインメントどの段階でも、AIの向きを人の意図に合わせる 出発点:計算・データ・AIの大きさ スケーリング仮説増やすほど、AIは賢くなる(伸びる傾向は、測られている) AGIいろいろな頭の仕事を、一つでこなすAI AIの研究も、こなせるようになる(一部が測られ始めた段階) 再帰的自己改善AIが次のAIを改良し、それをくり返す くり返しが止まらなければ(まだ確かめられていない) 知能爆発人を大きく超える知能が、短い期間に現れる アラインメントどの段階でも、AIの向きを人の意図に合わせる
図1第3章では、AIが次のAIを改良する、戻る矢印のついた丸(再帰的自己改善)を見ます。

第1回の地図でいうと、戻る矢印のついた円の話をします。この円が、再帰的自己改善です。名前の意味は、少しあとで説明します。

道具を作る道具

まず、身近な例から考えます。これは、説明のために私が作った例です。

大工さんが、木を削るかんなを使っているとします。やがて、かんなの刃を研ぐための、新しい砥石(といし)を手に入れます。

砥石のおかげで、かんなはよく切れるようになります。よく切れるかんなで、今度はもっと良い砥石を作れるかもしれません。道具が、次の道具を良くしていきます。

スケッチブックに鉛筆で描いた、大工の作業台のデッサン。左に、板の上に置かれたかんなと、丸まった削りくず。右に、木の台にのった砥石と、水の入った小さな器。砥石からかんなの刃へ、赤鉛筆の細い矢印が一本引かれている
砥石(右)で、かんな(左)の刃を研ぎます。よく切れるようになったかんなで、今度はもっと良い砥石を作れるかもしれません。

もう一つ、人の例を挙げます。自分の勉強法を、自分で改良する人がいます。

その人は、うまくいった勉強法をノートに書き残し、そこから次の勉強法を考えます。勉強が速くなれば、次の改良に使える時間も増えます。

どちらの例も、良くなったものが、次の改良を助けています。この流れが何度も戻ってくることが、ポイントです。

再帰的自己改善:AIが、次のAIを良くする

これをAIに当てはめたものが、再帰的自己改善です。AIがAIの研究そのものを担って、次のAIの改良を速め、その次のAIがさらに改良を速める、という仮説です。

「再帰的」は、同じことが何度も戻ってくる、という意味です。「自己改善」は、AIが、自分と同じ仲間のAIを良くしていく、ということです。

AIが、次のAIを良くする

概念図。赤い破線は、まだ確かめられていない

いまのAI 次のAI前のAIが良くした その次のAI(仮説)さらに良くなる、をくり返す いまのAI 次のAI前のAIが良くした その次のAI(仮説)さらに良くなる、をくり返す いまのAI 次のAI前のAIが良くした その次のAI(仮説)さらに良くなる、をくり返す
図2戻る矢印が、くり返しです。赤い破線の先は、すでに起きていることではなく、仮説です。

ここで大事なのは、これが仮説だということです。すでに起きていると言っているのではありません。

起きているかどうかを確かめるには、まず、AIが研究の仕事をどこまでこなせるかを測る必要があります。その試みが、少しずつ出てきています。

RE-Benchが測った短い研究課題

一つ目の試みは、RE-Benchです。AIの研究で行う課題を、AIと人間の専門家の両方にやらせて、得点を比べたテストです。

課題は7種類あります。AIの性能を上げるために、プログラムを書いて実験を回す、といった作業です。比べるのは、自分で手順を進めるAIのうち、いちばん得点が高かったものと、人間の専門家です。

比べ方には、決まりがあります。AIにも人にも、課題ごとに使える総時間を同じだけ与えます。その時間を、何回の試行(やり直し)に分けるかも、比べる中身に入っています。

結果を、図で見てみましょう。

時間を延ばすと、人がAIを逆転した

実データ(RE-Bench、2024年)。7つの機械学習の研究課題で、最良のAIと人の専門家の得点を、同じ総時間で比べた

使える総時間 最良のAIが上 人の専門家が上 2時間 AIが約4倍 8時間 人がわずかに上 32時間 人が約2倍 4倍 2倍 同じ 2倍 4倍 得点の比 出典: Wijk ら(METR)2024 の要旨。総時間は、何回かに分けた試行の合計。 8時間は「人がわずかに上」とだけ書かれ、倍率がないので、破線の棒の長さは目安。 使える総時間 最良のAIが上 人の専門家が上 2時間 AIが約4倍 8時間 人がわずかに上 32時間 人が約2倍 4倍 2倍 同じ 2倍 4倍 得点の比 出典: Wijk ら(METR)2024 の要旨。 総時間は、何回かに分けた試行の合計。 8時間は「人がわずかに上」とだけ書かれ、 倍率がないので、破線の棒の長さは目安。
図3総時間が2時間なら最良のAIが人の約4倍、32時間なら人がAIの約2倍の得点だった。

まず、何を測った図かを確認します。図の上の見出しは「時間を延ばすと、人がAIを逆転した」です。7つの課題で、最良のAIと人の専門家の得点を、同じ総時間で比べた結果です。

縦の並びは、使える総時間です。上から2時間、8時間、32時間と、時間が長くなります。

横は、得点の比です。真ん中の線は、目盛りに「同じ」と書いてある位置で、AIと人の得点が同じです。図の上の左側に「最良のAIが上」、右側に「人の専門家が上」と書いてあります。左に伸びる棒は最良のAIが上、右に伸びる棒は人の専門家が上です。

目盛りは、真ん中から外へ、2倍、4倍と増えていきます。長さの細かい比べっこより、棒が左右どちらに伸びているかを見てください。8時間の棒だけは破線です。出典には「人がわずかに上」とだけ書かれていて、倍率がないので、長さは目安です。

見てほしいのは、棒の向きが変わるところです。2時間では左に長く伸びて、最良のAIが人の約4倍です。8時間では、人がわずかに上回ります。32時間では右に伸びて、人が最良のAIの約2倍です。

ここから分かるのは、使える時間を増やすと、上回る側が入れ替わった、ということです。短い時間では、AIが多くの試行を速く回せる強みが出ました。時間が長くなると、人の得点の伸びが大きくなりました。

ただ、32時間という数字は読み違えやすいところです。これは、一つのAIが32時間続けて働いたという意味ではありません。AI側の時間は、何回かに分けた試行の合計で、人と比べるときは、その中の最良の得点が使われています。

この結果から、はっきり言えることは限られています。短い課題で、たくさん試せるときは、AIが強い場合がある。時間を増やしたときの伸びは、この実験では人のほうが大きかった。

一方で、分からないこともあります。7つの課題は、研究のすべてではありません。この結果だけで、AIが研究を最初から最後まで任せられるかどうかは、言えません。また、経済や社会が速く変わるかどうかを測った実験でもありません。

RSI Indexは何を測っているか

二つ目の試みは、RSI Indexです。AIが次のAIの開発をどこまで担えるかを調べる指標で、Vals AIが公開しています。指標とは、ものさしのようなものです。RSIは、再帰的自己改善(Recursive Self-Improvement)の頭文字です。

Vals AIのRSI Indexについて、AGIラボは2026年10月17日にXで投稿しています。この指標の得点と、過去の傾向を先へ延ばした予測を紹介する内容です。

投稿とグラフを見る

この指標が数えているのは、課題ごとに「比べる相手になる結果」を決めておいて、AIの得点がそれにどこまで並べるか、です。この比べる相手を、参照値と呼びます。参照値は、公開されている研究、人間、既存のAIの結果から選ばれています。

指標の得点は、0から1までの目盛りで表されます。ちょうど真ん中の0.5、つまり50%が、参照値に並ぶ位置です。投稿のグラフにある「50%」も、この位置のことです。自己改善が実現する確率ではありません。

50%は、参照値に並ぶ位置

概念図。目盛りの読み方

指標の得点 0 1 0.5(50%) 参照値に並ぶ位置 自己改善が起きる確率ではない 指標の得点 0 1 0.5(50%) 参照値に並ぶ位置 自己改善が起きる確率ではない 指標の得点 0 1 0.5(50%) 参照値に並ぶ位置 自己改善が起きる確率ではない
図4目盛りの真ん中は、参照値に並ぶ位置です。確率の目盛りではありません。

また、課題には、使えるコンピューターの量(計算資源)と時間の制限があります。後継のAIを、人の手を借りずに作る全工程を測ったものでもありません。

投稿には、2027年3月と2028年1月という二つの時期が出てきます。これは、得点が参照値に届く時期の予測で、過去の傾向を先へ延ばして出したものです。実際に起きたことの記録ではありません。

だから、読み方は二つに分けます。限られた研究課題の得点が伸びていることと、AIが自力で後継のAIを作れるようになることは、別の話です。

RSI Indexは、研究課題での得点を数える指標であって、自己改善が起きる確率を示す数字ではありません。

注意

ここまでの結果で、言えないこと

RE-BenchもRSI Indexも、限られた研究課題での結果です。AIが研究を最初から最後まで担えると確かめたものではありません。

RSI Indexの予測は、過去の傾向を延ばしたものです。実現日を観測したものではありません。再帰的自己改善が起きているとも、起きないとも、ここまでの結果からは言えません。

最後に、この回の考え方を使ってみましょう。

セルフチェック

1. あるニュースが、「AIの研究課題での得点が伸びている。過去の傾向を延ばすと、2年後には、参照値に並ぶ水準(50%)に届く」と伝えました。この回の考え方に沿って、正しい受け止め方はどれですか。

今日のまとめ

  • 再帰的自己改善は、AIがAIの研究を担って、次のAIの改良を速めるという仮説。起きていると確かめられたわけではない
  • RE-Benchでは、総時間2時間で最良のAIが人の約4倍、8時間で人がわずかに上回り、32時間で人が約2倍。時間を延ばすと上回る側が入れ替わった。短い課題での結果で、研究を丸ごと任せられるかは分からない
  • RSI Index(再帰的自己改善の指標)の「50%」は参照値に並ぶ水準で、自己改善が起きる確率ではない。予測は過去の傾向を延ばしたもの

次の回は、この問いから始めます。AIがAIを良くするくり返しが続いたら、知能は一気に伸びるのでしょうか。

参考資料

一次資料を表示2件

このレッスンは役に立ちましたか?