メインコンテンツへスキップ

改良の連鎖は、どこで止まりうるか

AIがAIを良くするくり返しが続くと、知能は一気に伸びるのか。知能爆発という仮説の由来と、速くならない工程が全体を抑える弱い環の考え方、そして先の道筋が一つではないことを、身近な例で学びます

  • レッスン 10 / 15
  • 15分

このレッスンで

終わる頃には、次ができるようになります

  • 知能爆発が何を指す仮説なのかを、身近な例で言い換えて説明できる
  • 速くならない工程が一つあると全体がそこで抑えられる、という弱い環の考え方を、例を挙げて説明できる
  • 先の道筋は止まる、遅くなる、続く、加速するのどれもありうると整理され、知能爆発はそのうち加速側の一つだと説明できる
木の机の上に、刻んだ野菜の載ったまな板と包丁、湯気の立つ鍋、砂の落ちている砂時計が並び、手前に赤鉛筆が置かれている
野菜を切るのは速くできても、煮込む時間は縮みません。この回は、速くならない工程が全体の速さを決める話から、改良の連鎖の行き先を考えます。

前回の最後に、こんな問いを残しました。AIがAIを良くするくり返しが続いたら、知能は一気に伸びるのでしょうか。

この回は、その問いを考えます。先に結論を言うと、一気に伸びると決まっているわけではありません。伸びるかどうかは、くり返しの途中に、速くならない部分があるかどうかで変わります。

ここから第4章です。第1回の地図でいうと、いちばん下の知能爆発と、そこへ向かう破線の矢印の話をします。

第4章は、地図の知能爆発

第1回の地図で、いまいる考えにだけ色を付けた

出発点:計算・データ・AIの大きさ スケーリング仮説増やすほど、AIは賢くなる(伸びる傾向は、測られている) AGIいろいろな頭の仕事を、一つでこなすAI AIの研究も、こなせるようになる(一部が測られ始めた段階) 再帰的自己改善AIが次のAIを改良し、それをくり返す くり返しが止まらなければ(まだ確かめられていない) 知能爆発人を大きく超える知能が、短い期間に現れる アラインメントどの段階でも、AIの向きを人の意図に合わせる 出発点:計算・データ・AIの大きさ スケーリング仮説増やすほど、AIは賢くなる(伸びる傾向は、測られている) AGIいろいろな頭の仕事を、一つでこなすAI AIの研究も、こなせるようになる(一部が測られ始めた段階) 再帰的自己改善AIが次のAIを改良し、それをくり返す くり返しが止まらなければ(まだ確かめられていない) 知能爆発人を大きく超える知能が、短い期間に現れる アラインメントどの段階でも、AIの向きを人の意図に合わせる 出発点:計算・データ・AIの大きさ スケーリング仮説増やすほど、AIは賢くなる(伸びる傾向は、測られている) AGIいろいろな頭の仕事を、一つでこなすAI AIの研究も、こなせるようになる(一部が測られ始めた段階) 再帰的自己改善AIが次のAIを改良し、それをくり返す くり返しが止まらなければ(まだ確かめられていない) 知能爆発人を大きく超える知能が、短い期間に現れる アラインメントどの段階でも、AIの向きを人の意図に合わせる
図1第4章では、地図のいちばん下、知能爆発と、そこへ向かう破線の矢印を見ます。

知能爆発:改良の連鎖が、止まらなくなる

こんな場面を考えてみてください。ある人が、自分の勉強のやり方を工夫して、賢くなったとします。賢くなったので、勉強のやり方をさらに工夫できます。するとまた賢くなり、もっとよい工夫を思いつきます。これが止まらずに続けば、賢さはどんどん加速していきます。これは説明のための例です。

AIでこれが起きる、という考えがあります。前回見たように、AIが次のAIを作る仕事を手伝えるようになれば、AIが賢くなるほど、次のAIをもっと上手に良くできるからです。

この考えに付いた名前が、知能爆発です。改良のくり返しが続いた結果、人を大きく超える知能が短い期間に現れる、という仮説を指します。

改良が続くと、一気に伸びる?

概念図。測った値ではない

AIの賢さ 時間 改良のくり返しが続く 知能爆発(仮説)人を大きく超える知能が、短い期間に現れる AIの賢さ 時間 改良のくり返しが続く 知能爆発(仮説)人を大きく超える知能が、短い期間に現れる AIの賢さ 時間 改良のくり返しが続く 知能爆発(仮説)人を大きく超える知能が、短い期間に現れる
図2はじめはゆっくりでも、改良がくり返されると、ある時点から急に伸びる。赤い破線の部分が、確かめられていない仮説です。

言葉の出どころは、数学者のI. J. Good(アイ・ジェイ・グッド)が1960年代に書いた論文です。Goodは、人より賢い機械が現れたら、その機械がさらに優れた機械を設計するだろう、と考えました。論文の中の言葉を見てみましょう。

DOCUMENTATION

“Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an “intelligence explosion,” and the intelligence of man would be left far behind.”

機械を設計することも知的な活動の一つなので、超知能機械はさらに優れた機械を設計できる。そうなれば疑いなく「知能爆発」が起き、人の知能ははるか後ろに取り残される。

I. J. GoodSpeculations Concerning the First Ultraintelligent Machine(Advances in Computers, Vol. 6)

Goodは同じ段落で、最初の超知能機械は人類が作る必要のある最後の発明になる、とも書いています。ただし、その機械が、自分を制御下に置く方法を教えてくれるほど従順であれば、という条件付きです。

知能爆発の話は、はじめから「制御できるのか」という問いと一組でした。この問いは、第5章のアラインメントで正面から扱います。

知能爆発は、改良の連鎖が続いた結果、人を大きく超える知能が短い期間に現れるという仮説です。確かめられた事実ではありません。

弱い環:速くならない工程が、全体の速さを決める

連鎖が止まらないためには、くり返しの全部の工程が速くなる必要があります。一つでも速くならない工程があると、どうなるのでしょうか。

料理で考えてみます。説明のための例です。カレーを作るとき、包丁さばきが10倍速くなったとします。野菜を切る時間は短くなります。それでも、鍋で煮込む時間は、短くなりません。カレーができあがるまでの時間は、思ったほど縮まないのです。

このように、全体の速さを抑えてしまう工程を、弱い環と呼びます。鎖は、いちばん弱い輪の強さまでしか引っ張れないからです。

経済学の研究にも、同じ見方があります。経済学者のAghion(アギオン)、Jones(ジョーンズ)、Jones(ジョーンズ)は、経済の成長をモデル(数字で表した見取り図)で調べました。ものを作るのに欠かせない仕事が、組み合わさって一つの完成品になる場合、自動にしにくい仕事が一つ残るだけで、全体がそこで抑えられうる、というものです。

ほとんどの工程が速くなっても、欠かせない工程が一つ速くならなければ、完成品は同じ割合では増えません。カレーの煮込みと同じです。

AIの研究に当てはめると、弱い環の候補が見えてきます。AIが賢くなれば、考えるところは速くなりそうです。しかし、実験を回す、学習に使うデータを集める、必要な電力や半導体を用意する、といった工程は、AIが賢くなるだけでは速くなりません。

鎖の図にすると、次のようになります。一つひとつの環が、改良をくり返すときの工程です。

赤い環が速くならないかぎり、灰色の環をいくら速くしても、改良の連鎖は、思ったほど速く回りません。

計算を増やす道にも、弱い環がある

第2章で見たように、AIを大きくするには、計算を増やす必要があります。では、計算はこの先も、いくらでも増やせるのでしょうか。ここにも、弱い環があります。

Epoch AI(エポックAI)という研究グループは、2024年に、2030年までにどれくらい大きなAIの学習ができそうかを見積もりました。見たのは、電力、半導体の製造、学習に使うデータ、計算の待ち時間の4つの面です。

結論は、2030年までに、2×1029 FLOPの学習が可能になりそう、というものでした。FLOP(フロップ)は、コンピューターの計算の回数を数える単位です。1回の足し算や掛け算を、1と数えます。1029は、1のあとに0が29個並ぶ数です。

比べる相手として、報告書はGPT-4(OpenAIが2023年に公開したAI)の学習を、およそ2×1025 FLOPと見積もっています。2030年の見積もりは、その約1万倍です。

そして報告書は、4つの面のうち、最初に壁になりそうなのは電力で、その次が半導体の製造だ、と書いています。いちばん遅れそうなところが、全体の大きさを決める。弱い環の考え方と同じです。

報告書には、4つの面それぞれの図があります。ここでは、最初に壁になりそうだとされた電力の1枚を見ます。少し複雑で、図の文字は英語です。日本語との対応も含めて、順に読み方を確かめます。

Source figure

Epoch AI Figure 1(電力):2030年に可能になりそうな学習の大きさ

二段のグラフ。上の段は、2030年に学習に使えそうなデータセンターの電力(ギガワット)を、1か所で学習する場合と、何か所かをつないで学習する場合に分けて、帯で示す。縦の目盛りは1つ上がるごとに10倍。上の点線は2024年のアメリカの発電能力、下の点線はGPT-4を学習した設備の電力。下の段は、その電力で可能な学習の大きさ(FLOP)を帯で示し、いちばん下の点線がGPT-4原寸画像を開く ↗

電力:データセンターの供給能力と分散学習

出典: Sevilla J, Besiroglu T, Cottier B, et al., Epoch AI Figure 1ライセンス: CC BY 4.0
図版の注記・改変情報
図版種別: 2030年までの技術的な実現可能性を推計した原図改変: 電力・半導体・データ・遅延の4枚のうち、電力の1枚を使用。画像は改変なし2030年に、電力の面から見て、どれくらいの大きさの学習が技術的に可能かを推計した図です。実際に行われるか、その規模でAGIが生まれるかを示す図ではありません。

何を見積もったか。 2030年に、AIの学習に使う建物(たくさんのコンピューターを並べたデータセンター)が、どれくらいの電力を使えそうか。そして、その電力で、どれくらいの大きさの学習ができそうか、です。

図の中の英語。 図の文字を、日本語にしておきます。

  • Datacenter power consumption in 2030 (GW):2030年のデータセンターの電力(単位はギガワット)
  • Largest training run in 2030 (FLOP):2030年にできそうな、いちばん大きな学習(単位はFLOP)
  • Largest local training run:1か所のデータセンターでの、いちばん大きな学習
  • Largest distributed training run:何か所かをつないだ、いちばん大きな学習
  • Bandwidth constraint:つないだ場所どうしの、通信の速さから見た上限
  • Largest distributed training run allowed by latency:計算の待ち時間から見た、つないだ学習の上限
  • US installed power capacity in 2024:2024年のアメリカの発電能力の全体
  • GPT-4 cluster:GPT-4を学習した設備
  • Median、50% CI、80% CI:真ん中の見積もり、半分が入る幅、8割が入る幅

上の段の読み方。 縦は電力で、単位はGW(ギガワット)です。目盛りが1つ上がるごとに、10倍になります。左の帯は、1か所のデータセンターで学習する場合。右の帯は、何か所かをつないで学習する場合です。

帯の真ん中の線が、いちばんありそうな見積もりです。濃い帯と薄い帯は、見積もりの幅です。見積もりの結果を並べたとき、真ん中の半分が入るのが濃い帯、8割が入るのが薄い帯です。第9回のRSI Indexの「50%」とは、別のものです。

上の点線は、目盛りでいうと1000GW(10の3乗)のあたりで、2024年のアメリカの発電能力の全体です。下の点線は、0.01GW(10のマイナス2乗)のあたりで、GPT-4を学習した設備の電力です。

報告書の言葉では、1か所の場合は1〜5GW、つなぐ場合は2〜45GWの電力をまかなえそうだ、とされています。1か所の帯は、アメリカ全体の発電能力の、数百分の1ほどの位置にあります。

下の段の読み方。 縦は、その電力でできる学習の大きさ(FLOP)です。こちらも、目盛り1つで10倍です。いちばん下の点線が、GPT-4の学習です。

帯は3本あります。左が1か所、真ん中がつないだ場合です。真ん中の帯の線は、10の29乗の少し上にあり、報告書の結論の2×1029に近い位置です。

右の帯と、いちばん上の点線は、電力ではなく、通信の速さと、計算の待ち時間から見た上限です。どちらも、電力から見た帯より上にあります。つまり、通信や待ち時間の壁より先に、電力の壁が来そうだ、と読めます。

どこを見ればよいか。 帯が、GPT-4の点線より、ずっと上にあるところです。電力の面から見ても、2030年までは、今よりはるかに大きな学習が技術的にはできそうだ、ということです。同時に、帯に大きな幅があることも見てください。それだけ、見積もりは不確かです。

分かること。 計算を増やす道は、すぐには止まりそうにない。ただし、その道でも、最初に効いてくるのは電力という、AIが賢くなるだけでは増えないものだ、ということです。

分からないこと。 報告書は、技術的にできるかを調べたもので、企業が実際にそれだけお金をかけるかは、投資の判断しだいだ、としています。その大きさの学習でAGIが生まれるかについても、この図は何も言っていません。

加速のつなぎ目:五つに分けて考える

では、AIによる加速が、世の中全体の変化になるまでには、どんなつなぎ目があるのでしょうか。一本の矢印で描くと、途中の条件が見えなくなります。そこで、次の五つに分けて考えます。

加速が世の中に届くまでの五つのつなぎ目

01

複製

AIはソフトウェアなので、同じ能力のAIを何台分も用意でき、研究の手を一気に増やせる。

02

研究の工程

研究課題の一部が、速く進むようになる。

03

次のAIの能力

その結果、次のAIの能力が上がる。

04

組織への普及

能力の上がったAIが、会社や役所などで実際に使われる。

05

物の生産

半導体や電力、設備といった、物の世界の生産が増える。

五つは、かならず一直線に進む段階ではありません。資源の制約があったり、あとの段階が前の段階に影響したりする関係です。

大事なのは、前の段階が進んでも、次の段階が自動的に成り立つわけではないことです。AIを増やしても、必要な半導体や電力を同じ速さで増やせなければ、物の生産はそこで抑えられます。研究の一部が速くなっても、採用や責任の分担に時間がかかれば、普及は遅れます。

第9回で見たとおり、いま確かめられているのは、限定された研究の仕事での速さです。五つのつなぎ目のうち、どこまでが確かめられていて、どこからが仮定なのかを、分けて見る必要があります。

AIの研究を自動にすると、とても速い成長が生まれるのか。Davidson(デビッドソン)らは、その条件をモデルで調べました。

必要な条件の一つは、改良が次の改良を呼ぶ勢いが、「研究を重ねるほど、新しい成果は出にくくなる」という傾向に、勝ち続けることです。

この急成長の計算は、研究が完全に自動になる、という強い仮定を置いたモデルの結果です。実際に起きたことを観測したものではありません。

注意

経済全体の急成長は、まだ観測されていません

いま観測されているのは、限定された研究の工程や、頭を使う作業での速さです。経済全体の爆発的な成長は、観測されていません。

そのかわり、将来の加速が否定されたわけでもありません。言えるのは、どのつなぎ目が確かめられ、どこが仮定のままかを分けて示すことが、議論の出発点になる、ということです。

先の道筋:止まる、遅くなる、続く、加速する

ここまでの話を聞くと、知能爆発は起きない、と考えたくなるかもしれません。しかし、起きないと決まったわけでもありません。

国際的な報告書も、道筋は一つではないと整理しています。International AI Safety Report 2026は、AIがAI研究を助けて、さらに速くなる循環を、可能性として扱っています。そのうえで、複数の道筋を示しています。人による監督、大規模な実験、データ、電力、半導体の製造、設備への投資は、それぞれ別の制約として挙げられています。

経済協力開発機構(OECD)は、2026年2月の報告書で、2030年までの道筋を四つに分けました。進歩が止まる、遅くなる、続く、加速する、の四つです。どれもありうる、と整理しています。

先の道筋は、一つではない

概念図。線の形は例え

2030年までの、四つの道筋(OECD、2026年) 加速する 続く 遅くなる 止まる いま 2030年までの、四つの道筋(OECD、2026年) 加速する 続く 遅くなる 止まる いま 2030年までの、四つの道筋(OECD、2026年) 加速する 続く 遅くなる 止まる いま
図5止まる、遅くなる、続く、加速する。どれもありうると整理されています。

AIがAI研究を加速させる筋書きを、時系列で細かく描いた「AI 2027」(2025年)という文章があります。この四つのうち、加速する側を描いた一例として読めます。

つまり知能爆発は、起きると決まった未来ではなく、四つの道筋のうちの一つの可能性です。弱い環に当たれば、連鎖は遅くなったり、止まったりします。

最後に、この回の考え方を使ってみましょう。

セルフチェック

1. あるニュースが「AIがAIの開発を手伝うようになったので、まもなく知能爆発が起きる」と伝えています。この回の考え方に沿った読み方として、最も適切なのはどれですか。

今日のまとめ

  • 知能爆発は、AIがAIを良くするくり返しが続いて、人を大きく超える知能が短い期間に現れるという仮説。Goodは、はじめから制御の話と一組で書いた
  • 速くならない工程が一つあると、全体の速さはそこで抑えられる(弱い環)。加速は、五つのつなぎ目のどこが確かめられているかを分けて見る
  • 先の道筋は、止まる、遅くなる、続く、加速するのどれもありうると整理されている。知能爆発は、加速側を描いた一例

次の回は、この問いから始めます。AIがどれだけ賢くなっても、人の意図どおりに動いてもらうには、どうすればよいのでしょうか。

参考資料

一次資料を表示7件
SourceJOURNAL / PAPER
Speculations Concerning the First Ultraintelligent Machine

超知能機械がさらに優れた機械を設計することで「知能爆発」が起きうると論じた論文。

論文Advances in Computers, Vol. 6, pp. 31-88Good IJ1966参照日 2026-11-08
doi.org/10.1016/S0065-2458(08)60418-0
SourceJOURNAL / PAPER
Artificial Intelligence and Economic Growth

AIと自動化が経済成長へ及ぼす経路を、タスク間の補完性や自動化しにくい工程を含めて分析した研究。

論文National Bureau of Economic ResearchAghion P, Jones BF, Jones CI2017参照日 2026-10-17
nber.org/papers/w23928
SourceJOURNAL / PAPER
When Does Automating AI Research Produce Explosive Growth?

AI研究の自動化が非常に速い成長へつながるための条件を、技術と経済のフィードバックを含むモデルで分析した研究。

論文National Bureau of Economic ResearchDavidson T, Halperin B, Houlden T, Korinek A2026参照日 2026-10-17
nber.org/papers/w35155
SourceARTICLE
International AI Safety Report 2026

AI研究の加速可能性と、人間の監督、実験、データ、電力、半導体、設備投資などの制約を複数の軌道として整理した国際報告書。

WebInternational AI Safety Report参照日 2026-10-17
internationalaisafetyreport.org/sites/default/files/2026-02/international-ai-safety-report-2026.pdf
SourceDOCUMENTATION
Exploring possible AI trajectories through 2030

2030年までのAIの道筋を、進歩が止まる、遅くなる、続く、加速するの四つの場合に分けて検討した報告書。

ガイドラインOECD Artificial Intelligence Papers, No. 552026参照日 2026-11-08
oecd.ai/en/ai-publications/exploring-possible-ai-trajectories-through-2030
SourceARTICLE
AI 2027

AIがAI研究を加速させる未来を、時系列の筋書きとして描いたシナリオ。

Webai-2027.comKokotajlo D, Alexander S, Larsen T, Lifland E, Dean R2025参照日 2026-11-08
ai-2027.com
SourceARTICLE
Can AI Scaling Continue Through 2030?

電力、半導体、データ、遅延の四つの制約から、2030年までに技術的に実行できる訓練計算量を推計した分析。

WebEpoch AISevilla J, Besiroglu T, Cottier B, You J, Roldán E, Villalobos P, Erdil E2024参照日 2026-10-17
epoch.ai/publications/can-ai-scaling-continue-through-2030

このレッスンは役に立ちましたか?