メインコンテンツへスキップ

次の「AGI達成」をどう読むか

「AGIを達成した」という発表を見たとき、何を確かめればよいのか。発表の文を六つの種類に分け、四つの問いと八つの点検項目で点検します。講座全体の振り返りも兼ねて、各項目を学んだ回を添えます

  • レッスン 14 / 15
  • 10分

このレッスンで

終わる頃には、次ができるようになります

  • AGIに関する発表の文を、観測事実、実験結果、モデル・外挿、予測、政策提案、価値判断の六つに分けられる
  • 四つの問いと八つの点検項目を使い、発表に書かれていない情報を見つけられる
  • 確認できた範囲と、まだ分からないことを分けて書き、判断を変える条件を残せる
木の机の上に、文字のぼやけた発表文が置かれ、見出しの一行に赤鉛筆で二重線が引かれている。横のメモ帳には八つの四角が並ぶ手書きのチェックリストがあり、いくつかに赤いチェックが入り、残りは空いている
次の「AGI達成」という発表は、定義や評価の条件など、八つの点検項目で読みます。

前回の最後に、こんな問いを残しました。次に「AGIを達成した」という発表を見たら、何を確かめればよいのでしょうか。

この回は、その答えを探します。手がかりは、ここまでの12回です。AGIの意味、AIの測り方、時期の予測、研究の加速、危険、備えを、順に学んできました。それぞれが、発表を読むときの確かめる点になります。

ここから、まとめの1回目です。点検の項目ごとに、学んだ回を添えました。講座全体の振り返りにも使ってください。

目標は、「AGIか、AGIではないか」をすぐ決めることではありません。発表のどこまでが証拠で支えられ、どこからが推測なのかを分けて、次に何を確かめるかを決めます。

六つの主張:一つの文を、種類ごとに分ける

まず、身近な例で考えます。家電の広告に、こう書いてあったとします。説明のために作った例です。

スケッチブックに鉛筆で描いたデッサン。台所の机に置かれた、冷蔵庫の広告。冷蔵庫の絵の横に、波線で表した三つの文のかたまりがあり、一つずつ赤鉛筆の枠で囲まれている。そばに、はさみとコーヒーの入ったカップ
広告の三つの文(赤い枠)は、同じ紙に並んでいても、種類が違います。

「実験で電気代が半分になった。来年には全家庭に広まる。だから国は補助金を出すべきだ」

この3文は、種類が違います。一つめは、決めた条件で測った結果です。二つめは、これからの予測です。三つめは、国が何をすべきかという提案です。

一つの文を、三つに切る

概念図。説明のために作った広告の例

実験で電気代が半分になった 実験結果 来年には全家庭に広まる 予測 だから国は補助金を出すべきだ 政策提案 実験で電気代が半分になった 実験結果 来年には全家庭に広まる 予測 だから国は補助金を出すべきだ 政策提案 実験で電気代が半分になった 実験結果 来年には全家庭に広まる 予測 だから国は補助金を出すべきだ 政策提案
図1一つめは測った結果、二つめは予測、三つめは提案。一つが確かめられても、残りが確かめられたことにはなりません。

実験で電気代が半分になったと確かめられても、残りの二つが確かめられたことにはなりません。一つの文には、種類の違う主張が混ざっています。

AGIの発表も同じです。まず、文ごとにラベルを付けます。ラベルは六つあります。

種類どんな主張か
観測事実公開日やAIの版など、直接確かめられる出来事や状態
実験結果決めた条件と方法のもとで得られた測定値
モデル・外挿測っていない範囲や原因へ、仮定を置いて広げた説明。外挿は、測った範囲の傾向を、その先へ延ばして当てはめること
予測将来の出来事や時期、確率についての判断
政策提案企業・政府・社会が何をすべきかという行動案
価値判断安全、革新、公平、自律など、何を優先するかという判断

上の二つは、直接確かめられること。真ん中の二つは、証拠から広げた判断。下の二つは、行動と価値の選択です。

この表は、証拠の強さの順位ではありません。一つの文に、複数の種類が入ることもあります。

たとえば「試験で人間平均を超えたので、2年以内にAGIへ到達し、公開前審査を義務づけるべきだ」という文があるとします。公開前審査とは、AIを世に出す前に受ける審査のことです。

この文には、少なくとも実験結果、モデル・外挿、予測、政策提案が入っています。審査によって何を守るのかまで述べていれば、価値判断も含まれます。

ラベルを付けると、実験結果だけを確かめても、文全体が証明されたわけではないと分かります。

八つの点検項目:四つの問いに分ける

文を分けたら、次は、それぞれをどう確かめるかです。この講座では、四つの問いと八つの点検項目を使います。

この点検は、この講座が作った読み方です。次の三つの考え方を、一般の読者向けに組み直しました。

  • 米国の情報機関が分析をするときの基準(国家情報長官室、ODNIが示したもの)。情報、仮定、分析の判断、不確実さを分ける
  • 米国の、技術の基準づくりを担う機関NISTが出した、AIの評価についての案。評価の条件と限界を報告するよう求める
  • 英国のAIの安全を扱う機関(UK AISI)と、国際的な評価の協力ネットワークがまとめた合意。最良の条件で引き出した能力と、現実に近い使い方での能力を分ける

これは、AGIの普遍的な定義ではありません。定義が違う主張同士でも、証拠の範囲を比べられるようにする点検です。

八つの点検項目は、四つの問いに分かれています。「何を評価した?」「どう測った?」「どこまで言える?」「判断をどう使う?」の四つです。覚えるのは、この四つの問いだけで十分です。

八つの点検項目は、四つの問い

概念図。二つずつの組

何を評価した?定義・現物 どう測った?条件・比較 どこまで言える?境界・飛躍 判断をどう使う?反証と更新・利害と行動 何を評価した?定義・現物 どう測った?条件・比較 どこまで言える?境界・飛躍 判断をどう使う?反証と更新・利害と行動 何を評価した?定義・現物 どう測った?条件・比較 どこまで言える?境界・飛躍 判断をどう使う?反証と更新・利害と行動
図2覚えるのは、右の四つの問いだけです。中身の八つは、下の一覧で確かめます。

AGIの発表を点検する、八つの点検項目

01

定義(何を評価した?)

この発表でAGIが何を指すかを確かめる。組織の目標と、評価の合否の条件は分けて読む(第2〜3回)

02

現物(何を評価した?)

どのAIを調べたかを確かめる。AIの版、評価した日、使える形が分からないと、同じ評価対象かどうか決められない(第4回)

03

条件(どう測った?)

どんな補助と予算を使ったかを確かめる。分からない条件は「未確認」として残す(第4回)

04

比較(どう測った?)

誰と、何を基準に比べたかを確かめる。条件の違う得点を、そのまま能力の差にしない(第4回、第9回)

05

境界(どこまで言える?)

どんな条件で失敗するかを確かめる。調べていない範囲と、失敗した範囲を分けて見る(第4回、第10回)

06

飛躍(どこまで言える?)

観測から、どこへ広げたかを確かめる。広げるときに置いた仮定を探し、実験結果と予測を分ける(第5〜8回)

07

反証と更新(判断をどう使う?)

何が分かれば判断を変えるかを確かめる。判断を覆す情報と、見直す時期を残す(第7回)

08

利害と行動(判断をどう使う?)

誰が利益、費用、権限を持つかを確かめる。発表者の立場と提案する行動を見て、証拠も点検する(第13回)

読み方を説明します。四つの問いのそれぞれに、二つの点検項目があります。項目ごとに、確かめることと、この講座で学んだ回を書きました。

見てほしいのは、発表に書かれていない項目です。発表を読みながら、八つの点検項目に当たる情報があるか探します。

この点検から分かるのは、発表に欠けている情報です。分からないのは、その発表が正しいかどうかそのものです。

資料が公開されていなければ、空欄を推測で埋めません。「確認できない」と記録することも、評価の一部です。使われた条件が分からないなら、能力が低いとも高いとも決めず、結論の範囲を狭く保ちます。

根拠の種類:同じ図でも、役割が違う

点検をするときは、資料がどんな種類の根拠なのかも、先に決めておくと役に立ちます。同じグラフや表でも、根拠としての役割が違うからです。

ここまでに出てきた図や表のうち、四つの例を、種類で並べ直します。ほかにも図はありましたが、この回では四つに絞ります。

同じ図でも、根拠の種類が違う

概念図。この講座で見た四つの資料を、種類で並べた

予測調査 能力の傾向 管理された比較 分類表 予測調査 能力の傾向 管理された比較 分類表 予測調査 能力の傾向 管理された比較 分類表
図3四つは、答えられる問いが違います。資料ごとに、どの種類かを先に決めます。
  • AI研究者への予測調査(Grace et al., Figure 3):予測調査。研究者が置いた将来の確率の分布で、実現した日を観測した記録ではない。確かめるのは、質問の定義、回答者、調査した時点、回答の散らばり(第7回)
  • AIの作業時間の傾向(Kwa et al., Figure 1):能力の傾向。限られた課題で、自分で作業を進めるAIが完了できる時間の傾向。確かめるのは、評価した課題、成功とみなす基準、人間側の所要時間、対象外の仕事(第7回)
  • AIと人の比較(RE-Bench, Figure 2):管理された比較。同じ研究工学の環境で、AIと人を比べたもの。確かめるのは、総時間の予算、試行の配分、採点方法、現実の研究との違い(第9回)
  • 能力の分類表(International AI Safety Report 2026, Table 2.5):分類表。人がAIを制御できなくなることに関係し得る能力を、整理した表。確かめるのは、能力があることと、有害な傾向、使える環境、事故の発生を分けて読む(第12回)

四つの例は、資料名、根拠の種類、確かめること、学んだ回の順に書いてあります。見てほしいのは「根拠の種類」です。同じ図でも、種類によって、答えられる問いが違うことが分かります。

予測、能力の傾向、比較実験、分類表は、互いの代わりにはなりません。

たとえば、予測調査の図は、AGIが実現した日を示すものではありません。能力の傾向の図は、対象の課題の外で何ができるかまでは示しません。根拠の種類を先に決めると、その資料が答えられない問いも見つけやすくなります。

練習:架空の発表を点検する

ここまでの道具を使ってみます。次の見出しは、この練習のために作った架空の例です。

補足

架空の見出し

新モデルXが専門課題で人間平均を上回る。開発企業は「2年以内にAGIへ到達する可能性がある」と説明し、規制当局へ公開前審査を提案。

まず、六つのラベルを付けます。「専門課題で人間平均を上回る」は、実験結果の候補です。「2年以内」は予測で、「公開前審査」は政策提案です。専門課題からAGIへつなぐ部分は、モデル・外挿にあたります。

次に、八つの点検項目を当てます。この見出しには、AGIの定義、AIの版、評価の条件、比べた人たち、失敗した課題、予測を変える条件が、書かれていません。

発表した側が開発企業であることは分かります。ただ、提案によって、誰が費用や権限を持つことになるのかは、見出しからは分かりません。

結論は「AGI達成」か「誇張」かの二択ではありません。 条件つきで確認できた実験結果、確かめられていない外挿、確率や根拠が足りない予測、検討が必要な政策提案として、分けて残せます。

注意

この点検で、できないこと

八つの点検項目は、この講座が一般の読者向けに組み直したものです。AGIの定義でも、公式な合格基準でもありません。

点検しても、発表が正しいか間違っているかは決まりません。分かるのは、何が確かめられていて、何がまだ分からないかです。

公開されていない項目は、確認できないままです。そこを推測で埋めると、点検の意味がなくなります。

次に見出しを見たら

次に「AGI達成」という見出しを見たら、まず、主張にラベルを付けます。次に、八つの点検項目の空欄を見つけます。最後に、次に読む資料を一つ決めます。選ぶのは、発表した人や研究した人が出した、もとの資料(一次資料)です。

次に見出しを見たら

概念図。上から順に

1 主張にラベルを付ける実験結果か、予測か、提案か 2 点検項目の空欄を見つける八つのうち、書かれていないもの 3 次に読む資料を一つ決めるもとの資料(一次資料)を選ぶ 1 主張にラベルを付ける実験結果か、予測か、提案か 2 点検項目の空欄を見つける八つのうち、書かれていないもの 3 次に読む資料を一つ決めるもとの資料(一次資料)を選ぶ 1 主張にラベルを付ける実験結果か、予測か、提案か 2 点検項目の空欄を見つける八つのうち、書かれていないもの 3 次に読む資料を一つ決めるもとの資料(一次資料)を選ぶ
図4ラベル、空欄、次の一冊。結論が同じでも、そこへ至る判断は、検証できて、更新できるものになります。

結論が同じでも、そこへ至る判断は、検証できて、更新できるものになります。最後に、この回の考え方を使ってみましょう。

セルフチェック

1. あるレポートに「限られた課題で、AIが完了できる作業の長さは伸び続けている。このまま伸びれば、数年で一日がかりの仕事も任せられる」とありました(説明のために作った例です)。この回の読み方として、最も適切なのはどれですか。

今日のまとめ

  • AGIの発表は、観測事実、実験結果、モデル・外挿、予測、政策提案、価値判断に分けて読む
  • 八つの点検項目は、四つの問い(何を評価した、どう測った、どこまで言える、判断をどう使う)に分かれる。各項目は、これまでの回の内容につながっている
  • 分からない項目を推測で埋めず、確認できた範囲と、判断を変える条件を記録する

次の回は、この問いから始めます。AIの能力が人を上回ったら、私たちは何を決め直すことになるのでしょうか。

参考資料

一次資料を表示3件

このレッスンは役に立ちましたか?