
前回の最後に、こんな問いを残しました。AIがAIを良くするくり返しが続いたら、知能は一気に伸びるのでしょうか。
この回は、その問いを考えます。先に結論を言うと、一気に伸びると決まっているわけではありません。伸びるかどうかは、くり返しの途中に、速くならない部分があるかどうかで変わります。
ここから第4章です。第1回の地図でいうと、いちばん下の知能爆発と、そこへ向かう破線の矢印の話をします。
第4章は、
第1回の
知能爆発:改良の連鎖が、止まらなくなる
こんな場面を考えてみてください。ある人が、自分の勉強のやり方を工夫して、賢くなったとします。賢くなったので、勉強のやり方をさらに工夫できます。するとまた賢くなり、もっとよい工夫を思いつきます。これが止まらずに続けば、賢さはどんどん加速していきます。これは説明のための例です。
AIでこれが起きる、という考えがあります。前回見たように、AIが次のAIを作る仕事を手伝えるようになれば、AIが賢くなるほど、次のAIをもっと上手に良くできるからです。
この考えに付いた名前が、知能爆発です。改良のくり返しが続いた結果、人を大きく超える知能が短い期間に現れる、という仮説を指します。
改良が
概念図。
言葉の出どころは、数学者のI. J. Good(アイ・ジェイ・グッド)が1960年代に書いた論文です。Goodは、人より賢い機械が現れたら、その機械がさらに優れた機械を設計するだろう、と考えました。論文の中の言葉を見てみましょう。
“Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an “intelligence explosion,” and the intelligence of man would be left far behind.”
機械を設計することも知的な活動の一つなので、超知能機械はさらに優れた機械を設計できる。そうなれば疑いなく「知能爆発」が起き、人の知能ははるか後ろに取り残される。
Goodは同じ段落で、最初の超知能機械は人類が作る必要のある最後の発明になる、とも書いています。ただし、その機械が、自分を制御下に置く方法を教えてくれるほど従順であれば、という条件付きです。
知能爆発の話は、はじめから「制御できるのか」という問いと一組でした。この問いは、第5章のアラインメントで正面から扱います。
知能爆発は、改良の連鎖が続いた結果、人を大きく超える知能が短い期間に現れるという仮説です。確かめられた事実ではありません。
弱い環:速くならない工程が、全体の速さを決める
連鎖が止まらないためには、くり返しの全部の工程が速くなる必要があります。一つでも速くならない工程があると、どうなるのでしょうか。
料理で考えてみます。説明のための例です。カレーを作るとき、包丁さばきが10倍速くなったとします。野菜を切る時間は短くなります。それでも、鍋で煮込む時間は、短くなりません。カレーができあがるまでの時間は、思ったほど縮まないのです。
このように、全体の速さを抑えてしまう工程を、弱い環と呼びます。鎖は、いちばん弱い輪の強さまでしか引っ張れないからです。
経済学の研究にも、同じ見方があります。経済学者のAghion(アギオン)、Jones(ジョーンズ)、Jones(ジョーンズ)は、経済の成長をモデル(数字で表した見取り図)で調べました。ものを作るのに欠かせない仕事が、組み合わさって一つの完成品になる場合、自動にしにくい仕事が一つ残るだけで、全体がそこで抑えられうる、というものです。
ほとんどの工程が速くなっても、欠かせない工程が一つ速くならなければ、完成品は同じ割合では増えません。カレーの煮込みと同じです。
AIの研究に当てはめると、弱い環の候補が見えてきます。AIが賢くなれば、考えるところは速くなりそうです。しかし、実験を回す、学習に使うデータを集める、必要な電力や半導体を用意する、といった工程は、AIが賢くなるだけでは速くなりません。
鎖の図にすると、次のようになります。一つひとつの環が、改良をくり返すときの工程です。
鎖は、
概念図。
赤い環が速くならないかぎり、灰色の環をいくら速くしても、改良の連鎖は、思ったほど速く回りません。
計算を増やす道にも、弱い環がある
第2章で見たように、AIを大きくするには、計算を増やす必要があります。では、計算はこの先も、いくらでも増やせるのでしょうか。ここにも、弱い環があります。
Epoch AI(エポックAI)という研究グループは、2024年に、2030年までにどれくらい大きなAIの学習ができそうかを見積もりました。見たのは、電力、半導体の製造、学習に使うデータ、計算の待ち時間の4つの面です。
結論は、2030年までに、2×1029 FLOPの学習が可能になりそう、というものでした。FLOP(フロップ)は、コンピューターの計算の回数を数える単位です。1回の足し算や掛け算を、1と数えます。1029は、1のあとに0が29個並ぶ数です。
比べる相手として、報告書はGPT-4(OpenAIが2023年に公開したAI)の学習を、およそ2×1025 FLOPと見積もっています。2030年の見積もりは、その約1万倍です。
そして報告書は、4つの面のうち、最初に壁になりそうなのは電力で、その次が半導体の製造だ、と書いています。いちばん遅れそうなところが、全体の大きさを決める。弱い環の考え方と同じです。
報告書には、4つの面それぞれの図があります。ここでは、最初に壁になりそうだとされた電力の1枚を見ます。少し複雑で、図の文字は英語です。日本語との対応も含めて、順に読み方を確かめます。
Epoch AI Figure 1(電力):2030年に可能になりそうな学習の大きさ
原寸画像を開く ↗電力:データセンターの供給能力と分散学習
図版の注記・改変情報
何を見積もったか。 2030年に、AIの学習に使う建物(たくさんのコンピューターを並べたデータセンター)が、どれくらいの電力を使えそうか。そして、その電力で、どれくらいの大きさの学習ができそうか、です。
図の中の英語。 図の文字を、日本語にしておきます。
- Datacenter power consumption in 2030 (GW):2030年のデータセンターの電力(単位はギガワット)
- Largest training run in 2030 (FLOP):2030年にできそうな、いちばん大きな学習(単位はFLOP)
- Largest local training run:1か所のデータセンターでの、いちばん大きな学習
- Largest distributed training run:何か所かをつないだ、いちばん大きな学習
- Bandwidth constraint:つないだ場所どうしの、通信の速さから見た上限
- Largest distributed training run allowed by latency:計算の待ち時間から見た、つないだ学習の上限
- US installed power capacity in 2024:2024年のアメリカの発電能力の全体
- GPT-4 cluster:GPT-4を学習した設備
- Median、50% CI、80% CI:真ん中の見積もり、半分が入る幅、8割が入る幅
上の段の読み方。 縦は電力で、単位はGW(ギガワット)です。目盛りが1つ上がるごとに、10倍になります。左の帯は、1か所のデータセンターで学習する場合。右の帯は、何か所かをつないで学習する場合です。
帯の真ん中の線が、いちばんありそうな見積もりです。濃い帯と薄い帯は、見積もりの幅です。見積もりの結果を並べたとき、真ん中の半分が入るのが濃い帯、8割が入るのが薄い帯です。第9回のRSI Indexの「50%」とは、別のものです。
上の点線は、目盛りでいうと1000GW(10の3乗)のあたりで、2024年のアメリカの発電能力の全体です。下の点線は、0.01GW(10のマイナス2乗)のあたりで、GPT-4を学習した設備の電力です。
報告書の言葉では、1か所の場合は1〜5GW、つなぐ場合は2〜45GWの電力をまかなえそうだ、とされています。1か所の帯は、アメリカ全体の発電能力の、数百分の1ほどの位置にあります。
下の段の読み方。 縦は、その電力でできる学習の大きさ(FLOP)です。こちらも、目盛り1つで10倍です。いちばん下の点線が、GPT-4の学習です。
帯は3本あります。左が1か所、真ん中がつないだ場合です。真ん中の帯の線は、10の29乗の少し上にあり、報告書の結論の2×1029に近い位置です。
右の帯と、いちばん上の点線は、電力ではなく、通信の速さと、計算の待ち時間から見た上限です。どちらも、電力から見た帯より上にあります。つまり、通信や待ち時間の壁より先に、電力の壁が来そうだ、と読めます。
どこを見ればよいか。 帯が、GPT-4の点線より、ずっと上にあるところです。電力の面から見ても、2030年までは、今よりはるかに大きな学習が技術的にはできそうだ、ということです。同時に、帯に大きな幅があることも見てください。それだけ、見積もりは不確かです。
分かること。 計算を増やす道は、すぐには止まりそうにない。ただし、その道でも、最初に効いてくるのは電力という、AIが賢くなるだけでは増えないものだ、ということです。
分からないこと。 報告書は、技術的にできるかを調べたもので、企業が実際にそれだけお金をかけるかは、投資の判断しだいだ、としています。その大きさの学習でAGIが生まれるかについても、この図は何も言っていません。
加速のつなぎ目:五つに分けて考える
では、AIによる加速が、世の中全体の変化になるまでには、どんなつなぎ目があるのでしょうか。一本の矢印で描くと、途中の条件が見えなくなります。そこで、次の五つに分けて考えます。
加速が世の中に届くまでの五つのつなぎ目
複製
AIはソフトウェアなので、同じ能力のAIを何台分も用意でき、研究の手を一気に増やせる。
研究の工程
研究課題の一部が、速く進むようになる。
次のAIの能力
その結果、次のAIの能力が上がる。
組織への普及
能力の上がったAIが、会社や役所などで実際に使われる。
物の生産
半導体や電力、設備といった、物の世界の生産が増える。
五つは、かならず一直線に進む段階ではありません。資源の制約があったり、あとの段階が前の段階に影響したりする関係です。
つなぎ目は、
概念図。
大事なのは、前の段階が進んでも、次の段階が自動的に成り立つわけではないことです。AIを増やしても、必要な半導体や電力を同じ速さで増やせなければ、物の生産はそこで抑えられます。研究の一部が速くなっても、採用や責任の分担に時間がかかれば、普及は遅れます。
第9回で見たとおり、いま確かめられているのは、限定された研究の仕事での速さです。五つのつなぎ目のうち、どこまでが確かめられていて、どこからが仮定なのかを、分けて見る必要があります。
AIの研究を自動にすると、とても速い成長が生まれるのか。Davidson(デビッドソン)らは、その条件をモデルで調べました。
必要な条件の一つは、改良が次の改良を呼ぶ勢いが、「研究を重ねるほど、新しい成果は出にくくなる」という傾向に、勝ち続けることです。
この急成長の計算は、研究が完全に自動になる、という強い仮定を置いたモデルの結果です。実際に起きたことを観測したものではありません。
注意
経済全体の急成長は、まだ観測されていません
いま観測されているのは、限定された研究の工程や、頭を使う作業での速さです。経済全体の爆発的な成長は、観測されていません。
そのかわり、将来の加速が否定されたわけでもありません。言えるのは、どのつなぎ目が確かめられ、どこが仮定のままかを分けて示すことが、議論の出発点になる、ということです。
先の道筋:止まる、遅くなる、続く、加速する
ここまでの話を聞くと、知能爆発は起きない、と考えたくなるかもしれません。しかし、起きないと決まったわけでもありません。
国際的な報告書も、道筋は一つではないと整理しています。International AI Safety Report 2026は、AIがAI研究を助けて、さらに速くなる循環を、可能性として扱っています。そのうえで、複数の道筋を示しています。人による監督、大規模な実験、データ、電力、半導体の製造、設備への投資は、それぞれ別の制約として挙げられています。
経済協力開発機構(OECD)は、2026年2月の報告書で、2030年までの道筋を四つに分けました。進歩が止まる、遅くなる、続く、加速する、の四つです。どれもありうる、と整理しています。
先の
概念図。
AIがAI研究を加速させる筋書きを、時系列で細かく描いた「AI 2027」(2025年)という文章があります。この四つのうち、加速する側を描いた一例として読めます。
つまり知能爆発は、起きると決まった未来ではなく、四つの道筋のうちの一つの可能性です。弱い環に当たれば、連鎖は遅くなったり、止まったりします。
最後に、この回の考え方を使ってみましょう。
セルフチェック
1. あるニュースが「AIがAIの開発を手伝うようになったので、まもなく知能爆発が起きる」と伝えています。この回の考え方に沿った読み方として、最も適切なのはどれですか。
今日のまとめ
- 知能爆発は、AIがAIを良くするくり返しが続いて、人を大きく超える知能が短い期間に現れるという仮説。Goodは、はじめから制御の話と一組で書いた
- 速くならない工程が一つあると、全体の速さはそこで抑えられる(弱い環)。加速は、五つのつなぎ目のどこが確かめられているかを分けて見る
- 先の道筋は、止まる、遅くなる、続く、加速するのどれもありうると整理されている。知能爆発は、加速側を描いた一例
次の回は、この問いから始めます。AIがどれだけ賢くなっても、人の意図どおりに動いてもらうには、どうすればよいのでしょうか。