AGIとは何を指すのか

「このモデルはAGIに近い」という発表を見ても、何が近づいたのか分からないことがあります。試験の点数でしょうか。人の指示なしに動く力でしょうか。それとも、人間のような意識でしょうか。

混乱する理由は、AGIが一つの合格試験の名前ではないからです。研究機関や企業は、それぞれの目的に合わせてAGIを定義しています。同じ言葉を使っていても、測っている対象が違う場合があります。

このレッスンでは、AGIの能力を「幅」と「深さ」に分けます。さらに、システムをどこまで人の介入なしで動かすかという「自律性」を、運用上の別軸として扱います。信頼性、配備準備、意識も、それぞれ能力とは別の問いです。

一つの合否判定ではない

Google DeepMindの研究チームは、AGIの進歩を段階的に比べる枠組みを提案しました。この枠組みは能力の幅を「どれだけ多様な課題を扱えるか」、深さを「それぞれの課題でどの水準に達するか」として分けます。自律性と配備時のリスクも、能力そのものとは分けて検討します。

一方、OpenAI CharterはAGIを「経済的に価値のある仕事の大半で人間を上回る、高度に自律的なシステム」と定義しています。これはOpenAIが自らの使命を説明するための定義です。すべての研究者が合意した判定基準ではありません。

DOCUMENTATION

“highly autonomous systems that outperform humans at most economically valuable work”

経済的に価値のある仕事の大半で人間を上回る、高度に自律的なシステム

講座独自の整理AGIの定義は、何のための定義かで読む

どちらが唯一の正解かを決める前に、発表者が何をAGIと呼んでいるかを確認します。定義が違えば、同じシステムへの判定も変わります。

能力の話を読むときは、まず幅と深さを分けます。そのうえで、システムの使い方に関わる自律性を別に確かめます。

講座独自の概念図幅と深さ、自律性は別軸。

深さ ↑ 各課題の到達水準

狭く、深い限られた課題で
高い水準

広く、深い多様な課題で
高い水準

狭く、浅い限られた課題で
初歩的な水準

広く、浅い多様な課題で
初歩的な水準

扱える課題の多様さ → 幅

運用上の別軸自律性

人の介入なしに、どこまで続けられるか。

逐次指示自律実行

幅や深さの位置だけでは決まらない。

一つの得点では、この三つを同時に判定できない。

幅と深さの詳しい定義・原論文との関係

Morris et al. Table 1は、能力を「幅×深さ」の二軸で捉えます。原論文はCC BY-NC-ND 4.0で公開されています。次の表は原表を転載・翻案したものではありません。論文Section 4の本文にある概念を、学習用の三つの問いとしてAMPLが独自に整理したものです。

Evidence table

幅と深さを読む三つの問い

論文Section 4に基づくAMPL独自の整理

幅と深さを読む三つの問い
見る軸	確かめる問い	論文が示す見方
幅（generality）	必要な水準へ達する課題は、どれほど多様か	明確に区切られた課題から、新しい技能の学習も含む広い非身体課題まで
深さ（performance）	各課題で、人と比べてどの水準に達するか	初歩、熟練者の中央値、上位10%、上位1%、すべての人を上回る水準
幅×深さ	広い課題群の多くで、必要な深さを満たすか	一部の得意課題だけでなく、広い範囲での最低到達水準を見る

根拠の種類: 論文Section 4に基づくAMPL独自の整理原表の画像、配置、例示セルは使っていません。論文本文が説明する二軸を、別の問いと文章で要約しています。出典: Morris et al., Section 4（Table 1）ライセンス: 原論文の配布条件: CC BY-NC-ND 4.0

たとえば、あるシステムが難しい数学問題を解けても、扱える分野が狭ければ幅の広い能力とは言えません。多くの課題に答えられても、毎回人が手順を指定するなら、自律性については別の評価が必要です。

一つの得点だけでは、能力の幅と深さ、自律性を同時に判定できません。