メインコンテンツへスキップ

その延長線上にAGIはあるのか

大きくすれば賢くなる傾向が続いたら、AGIにたどり着くのか。研究者の予測を、日付ではなく、何を問うた数字なのかから読みます。専門家調査の図を、軸の読み方から一つずつ確かめます

  • レッスン 7 / 15
  • 12分

このレッスンで

終わる頃には、次ができるようになります

  • 予測の数字を読むとき、日付より先に確認する項目を挙げられる
  • 同じ調査にある2047年と2116年が、別々の問いへの答えだと説明できる
  • 専門家調査の図を軸の読み方から読み、50%の年が何を意味するかを説明できる
木の机の上に、四枚の予測のグラフが並んでいる。どれも一本の線の周りに、右へ行くほど広がる帯が描かれ、一枚には赤鉛筆で範囲を括る印がある。卓上カレンダーと付箋も置かれている
予測年は一本の締切ではありません。定義、質問、前提を確認し、複数の経路として読みます。

前回の最後に、こんな問いを残しました。大きくすれば賢くなる傾向が、この先も続いたら、AGIにたどり着くのでしょうか。

この回は、その答えを探します。まず、第5回と第6回の話を三つの段に分けて整理します。図は、下から上へ読みます。

測られたことと、AGIのあいだ

概念図。上の箱ほど、確かさが下がる

まだ分からないAGIまで届くかどうか ここは、自動ではつながらない 言えそうなこと大きくすれば、もう少し良くなる 測られていること外れ具合が、規則的に下がった まだ分からないAGIまで届くかどうか ここは、自動ではつながらない 言えそうなこと大きくすれば、もう少し良くなる 測られていること外れ具合が、規則的に下がった まだ分からないAGIまで届くかどうか ここは、自動ではつながらない 言えそうなこと大きくすれば、もう少し良くなる 測られていること外れ具合が、規則的に下がった
図1測られている傾向から、AGIに届くかどうかへは、自動ではつながりません。

いちばん下の箱は、測られていることです。データ・AIの大きさ・計算を増やすと、決まった条件で、予測の外れ具合が規則的に下がってきました(第5回)。

真ん中の箱は、そこから言えそうなことです。計算の予算に合わせて大きさと読ませる量を配分し、同じ条件で大きくすれば、もう少し良くなりそうです(第6回)。

いちばん上の赤い破線の箱が、まだ分からないことです。この傾向がこの先も続き、幅広い仕事をこなすAGIに届くかどうかは、まだ確かめられていません。

下の二つの箱から、赤い破線の箱へは、自動ではつながりません。いちばん上の箱を考える手がかりとして、研究者が出している予測を読みます。

予測は、日付だけを見ると読み違えます。この回では、その数字が何を測ったものなのかを、図を使ってゆっくり確かめます。

三つの記事は、同じことを測っているのか

「専門家は2047年と予測」「AIがこなせる仕事の長さは急速に伸びている」「2030年まで計算規模を拡大できる」。三つの記事を続けて読むと、どれも「AGIがいつ来るか」の話に見えるかもしれません。

けれども、三つは別のものを測っています。

三つは、別のものを測っている

概念図。道具の違いは例え

専門家調査研究者に質問して、答えてもらったもの 能力トレンド決めた課題で、AIの力の変化を測ったもの 計算資源の見積もり学習に使える計算を、増やし続けられるか 専門家調査研究者に質問して、答えてもらったもの 能力トレンド決めた課題で、AIの力の変化を測ったもの 計算資源の見積もり学習に使える計算を、増やし続けられるか 専門家調査研究者に質問して、答えてもらったもの 能力トレンド決めた課題で、AIの力の変化を測ったもの 計算資源の見積もり学習に使える計算を、増やし続けられるか
図2定規、はかり、温度計の目盛りを平均しないのと同じで、三つの数字も平均しません。

数字を一列に並べて平均しても、AGIが来る年にはなりません。この回は一つ目の専門家調査を読み、残りの二つは次の回で読みます。

専門家調査:2047年と2116年は別の問いへの答え

最初は専門家調査です。Graceら(グレースら)は2023年10月に、AI研究者への大きな調査を行いました。対象は、主要なAI研究誌・学会で前年に論文を発表した研究者です。

調査では、二つの問いが出されました。

  • 人間レベルの機械知能(HLMI)が実現する時点
  • すべての職業の完全自動化(FAOL)が実現する時点

HLMIは、人の助けなしに、機械があらゆる作業を、人間の働き手より上手に、より安くこなせるようになったときを指します。

FAOLは、人の助けなしに、機械がある職業を人間より上手に、より安くこなせるようになったとき、その職業が「完全に自動化できる」とみなされ、すべての職業がそうなったときを指します。

どちらも、科学の進歩が中断なく続く、という条件のもとでの答えです。

研究者には、何年までに実現していると思うかを、確率で答えてもらいました。全員の答えをまとめて、その確率が50%(半々)に届く年を調べると、人間レベルの機械知能は2047年、すべての職業の完全自動化は2116年でした。

約70年の差は、どちらかが間違いだから生じたのではありません。何が起きたら予測が当たったとみなすかが、そもそも違います。

図の読み方:何を測ったか

次の図は、この二つの問いの答えをグラフにしたものです。図は二枚あり、HLMIとFAOLの順に並んでいます。

図が示すのは、「何年までに実現していると思うか」という研究者への質問を、確率で答えてもらった結果です。

縦軸と横軸

横軸は年です。縦軸は、その年までに実現していると置いた確率で、0は「まず起きない」、1.00は「必ず起きる」、その真ん中の0.5が「半々」です。

どの線も右へ行くほど上がるのは、先の年ほど、「その年までには実現している」確率が高くなるからです。このように、その年までの分をすべて足した確率を、累積確率と呼びます。

Source figure

Grace et al. Figure 3:二つの問いの累積確率

HLMI(人間レベルの機械知能) / n=1,714
FAOL(すべての職業の完全自動化) / n=774
出典: Grace et al., Figure 3ライセンス: CC BY 4.0
図版の注記・改変情報
図版種別: 専門家調査の原図改変: 改変なし横軸は年、縦軸はその年までに実現すると置いた累積確率です。細線は無作為に抽出した一部の回答者、太線は回答の集約、帯は集約曲線の95%信頼区間を示します。

図の中の英語

図の中の英語は、次のように読みます。

  • Probability of HLMI、Probability of FAOL(縦軸):HLMI、FAOLが実現している確率
  • Year(横軸):年
  • 2023 Aggregate Forecast (with 95% Confidence Interval):2023年の調査の、回答をまとめた予測(95%信頼区間つき)。図では赤の太い線です
  • 2022 Aggregate Forecast (with 95% Confidence Interval):2022年の調査の、回答をまとめた予測(95%信頼区間つき)。図では青の太い線です
  • Random Subset of 2023 Forecasts、Random Subset of 2022 Forecasts:それぞれの年の予測から、無作為に選んだ一部。図では薄い赤と薄い青の細い線です
  • 図の下の n=1,714、n=774:それぞれの図に添えた数字で、回答の数と読めます

つまり、赤が2023年、青が2022年の調査です。

どこを見ればよいか

見る場所は三つです。

一つ目は、太い線です。これは、回答をまとめた線です。縦軸の0.5の高さから横へ目を動かし、太い線にぶつかったところで、真下の横軸の目盛りへ目を降ろします。その年が「50%の時点」です。2023年の調査(赤)では、HLMIの線が、およそ2047年のあたりで0.5を横切ります。FAOLの赤い線は、同じ要領で降ろすと、およそ2116年のあたりです。

二つ目は、細い線です。これは、無作為に選んだ一部の回答者、一人ひとりの予測です。

三つ目は、太い線の周りの帯です。まとめた線が、どれくらいの幅でぶれうるかを表します。

二枚の図には、違うところもあります。横軸の範囲が違い、HLMIは2125年ごろまで、FAOLは2225年ごろまでです。線の右端の高さも違います。図から読み取ったおよその値では、HLMIの赤い線は0.8台まで上がりますが、FAOLの赤い線は0.6台にとどまります。

2022年の調査(青)の太い線は、2023年の線より下にあります。同じ確率に届く年が、後ろにずれているということです。つまり、1年を挟んだ二回の調査のあいだに、予測は前倒しになった、と読めます。

そこから分かること

細い線は、大きく散らばっています。人間レベルの機械知能の図では、早い年にほぼ1.00へ届く線もあれば、図の右端まで低いままの線もあります。研究者のあいだで、予測がかなり分かれていることが読み取れます。

太い線の帯が狭く見えるのは、回答が一致しているからとは限りません。2023年の調査は回答者の数が増えたため、まとめた線の推定の幅が狭くなります。帯の狭さと、細い線の散らばりは、別の話です。

そこから分からないこと

この図から、2047年に人間レベルの機械知能が実現するかどうかは分かりません。研究者の答えをまとめた線であって、起きたかどうかを確かめた結果ではないからです。

調査には、もう一つの注意があります。同じ調査で、質問の聞き方を変えると、50%の時点が大きく動きました。

予測の数字は、何を問うたかと、どう聞いたかに反応します。

2047年を、決まった予定日として読むことはできません。

六つの確認項目:日付の前に見ること

予測を読むときは、日付より先に、次の六つを確かめると比べやすくなります。

  • 解決条件:何が起きたら、予測が当たったとみなすか
  • 基準日:いつの時点の情報にもとづく予測か
  • 確率:「必ず」ではなく、どれくらい起きやすいと考えているか
  • 質問形式:どんな聞き方で答えてもらったか
  • 分布:答えが、どれくらい散らばっているか
  • 更新履歴:予測が、その後どう変わったか

2047年は、研究者の半数がその年を答えたという意味ではありません。回答者ごとに「何年までに何%」という答えがあり、その全員分をまとめた線が、50%に届く年です。

50%の年は、まとめた線の一点

概念図。測った値ではない

細い線:回答者ごとの見通し 太い線:全員分をまとめた線 確率 50% 年 50%に届く年この年だけでは、散らばりが見えない 細い線:回答者ごとの見通し 太い線:全員分をまとめた線 確率 50% 年 50%に届く年この年だけでは、散らばりが見えない 細い線:回答者ごとの見通し 太い線:全員分をまとめた線 確率 50% 年 50%に届く年この年だけでは、散らばりが見えない
図3細い線は、回答者ごとの見通しです。太い線が50%に届く一点だけを抜き出すと、細い線の散らばりが見えなくなります。

50%の年だけを抜き出すと、個人の予測が広く散らばっていることが見えなくなります。

Forecasting Research Institute(予測を研究する団体)のLEAPは、専門家に継続して質問し、同じ人の答えと、その更新を追う試みです。更新の履歴を残すと、一回きりの調査より、変化を追いやすくなります。ただし、この設計だけで数十年先の予測の精度が確かめられたわけではありません。

予測の実例:アモデイ氏の発言を紹介する投稿

企業のトップの見通しも、予測の一つです。次の投稿は、Claudeを作っている会社Anthropicのトップ、Dario Amodei(ダリオ・アモデイ)氏の将来像を、チャエン氏が紹介したものです。投稿では、その将来像が「あと2〜3年」という言い方で紹介されています。

これはチャエン氏による紹介投稿です。企業トップの見通しは、専門家調査の集計や能力の測定結果とは分けて読みます。

投稿の公開日は2026年10月15日ですが、動画の収録日と元の対談は未確認です。「あと2〜3年」を投稿日からの確定した期限に置き換えないようにします。

本人の将来像と前提は、2024年のエッセイMachines of Loving Graceでも読めます。これは背景資料で、この動画の出典そのものではありません。

最後に、この回の考え方を使ってみましょう。架空の記事です。

セルフチェック

1. ある記事に、「AI研究者の調査によると、人間レベルの機械知能は2047年に実現する」と書いてありました。この回の考え方に沿った読み方として、最も適切なのはどれですか。

今日のまとめ

  • 到来予測は、日付だけでなく、解決条件、基準日、確率、質問形式、分布、更新履歴を組にして読む
  • Graceらの2047年と2116年は、別の問いへの集計結果で、締切や研究者の合意ではない
  • 50%の年は、散らばった予測をまとめた線の一点。図は、軸の読み方から確かめる

次の回は、この問いから始めます。AIがこなせる作業の長さが伸びている、という図は、何を示しているのでしょうか。

参考資料

一次資料を表示3件

このレッスンは役に立ちましたか?