備えを三つの層で組み立てる

前のレッスンではAIの危険を原因、過程、結果に分けました。危険が複数あるなら、備えも一つでは足りません。優れた評価だけでも、法律だけでも、利用者の注意だけでも抜けが残ります。

このレッスンでは備えを三つの層に分けます。制度名を覚えることより、どの層がどの失敗を受け持つのかを読めるようになることが目標です。

三つの層を重ねる

International AI Safety Report 2026, Figure 3.7は、入力と出力の有害内容検知、思考過程と内部状態の監視、ハードウェア監視、人による監督、サンドボックスという介入点を整理しています。これらは順番に通過する工程ではなく、一つのAIシステムの周囲に置ける監視と制御です。各方法がどれだけ事故を減らしたか、監視効果を測った図ではありません。

社会的レジリエンスとは、失敗や急な変化が起きても、社会が被害を吸収し、立て直せる力です。技術的な防止策が破られたあとにも、異議申立て、救済、手動の代替手段は役立ちます。

一方、社会の側で備えるからといって、提供者の評価や安全設計が不要になるわけではありません。法的義務があっても、測定方法が古ければ新しい失敗を見落とします。一つの層がうまく働いても、ほかの二層は不要になりません。

制度を同じ強さで読まない

NISTのAI Risk Management Framework、AI RMF 1.0は、組織がAIのライフサイクル全体でリスクを管理するための任意の枠組みです。GOVERN、MAP、MEASURE、MANAGEの四つの機能を回し、評価、導入継続や停止の判断、事故対応、復旧までを扱います。任意であることは、内容が弱いという意味ではありません。法的な強制力の種類が違うという意味です。

VOICE

“We can’t just look at AI systems through a technical or computational lens.”

AIシステムを、技術または計算の観点だけで見ることはできません。

写真の権利

B. Hayes/NIST · public information

EU AI Actでは汎用AI、GPAIの提供者に技術文書、著作権方針、訓練内容の公開要約などを求めます。システミックリスクを持つGPAIには、モデル評価、敵対的テスト、リスク評価と緩和、重大インシデント報告、サイバーセキュリティなどの追加義務があります。こちらは法律上の枠組みです。

日本のAI法はAI戦略本部と基本計画を置き、研究開発、基盤、人材、国際協力を進めるとともに、権利利益を害する事案の調査、指導・助言、情報公表を定めています。EUと日本のどちらも公的な制度ですが、対象、義務、執行方法は同じではありません。

「国が枠組みを出した」「法律になった」という事実だけでは、同じ対策を意味しません。対象と手段を確認して初めて、どの失敗に効くかを比べられます。

対策を三面から評価する

対策案は安全を目指しているかどうかだけでは判断できません。次の三面を分けます。

たとえば計算量の閾値は対象を見つけやすい反面、効率改善や推論時の計算を取りこぼす可能性があります。独立監査は提供者だけの評価より独立性を加えますが、資料へのアクセスと監査する側の力量が必要です。公開ウェイトは研究や競争を広げる一方、配布後の回収や安全策の維持を難しくします。

どの対策にも交換条件があります。安全、革新、プライバシー、競争、人の自律のどれを重くするかは価値判断です。証拠は対策の効果や負担を調べる助けになりますが、守る価値を自動で決めてはくれません。

今日のまとめ

• AIへの備えは技術・組織運用、公共ガバナンス、社会的レジリエンスの三層を重ねて作る
• NIST AI RMFは任意の組織向け枠組み、EUのGPAI義務は法的枠組み、日本のAI法は推進、基本計画、調査、指導・助言などを中心に置く
• 対策は目的だけでなく、有効性、分配、更新可能性を分けて評価する

次のレッスンでは定義、評価条件、予測、利害を一枚の点検表にまとめます。

参考・出典