藤田智也【Gartner提言】AIエージェントのガバナンスは4段階で設計する｜観察・助言・実行・自律で統制を変える
AIエージェントのガバナンスは自律度で分けて設計します。Gartnerは2026年5月、一律統制は失敗を招き2027年までに40%の企業が事故後にエージェントを降格・廃止すると警告。観察・助言・実行・自律の4段階で権限と人の関与を変える手順を解説します。
AIエージェントのガバナンスは、すべてのエージェントに同じルールを当てはめる「一律統制」ではうまくいきません。米調査会社Gartnerは2026年5月26日の発表で、自律度を問わず一律のガバナンスを適用すると導入の失敗率が高まると警告し、2027年までに40%の企業が本番環境での事故をきっかけにAIエージェントを降格・廃止すると予測しました（出典: CIO Dive）。解決策は、エージェントを「観察・助言・実行・自律」の4段階に分け、段階ごとに権限と人の関与を変えることです。本記事では、その4段階の定義と各段階に必要な統制、自社の業務を段階に割り当てる手順を解説します。
なぜ「一律ガバナンス」は失敗するのか
一律ガバナンスが失敗する理由は、ガバナンスを「全面禁止か、全面信頼か」の二択で考えてしまうからです。GartnerのシニアディレクターアナリストであるShiva Varma氏は「多くの組織はAIエージェントのガバナンスを、ロックダウンするか全面的に信頼するかの二者択一として扱っており、それが失敗の根本原因だ」と指摘しています（出典: IT Pro）。
二択で考えると、ふたつの方向で問題が起きます。ひとつは、要約や検索だけを行う低リスクのエージェントにまで重い承認プロセスを課してしまい、現場が使わなくなるケースです。もうひとつは逆に、本番システムを直接変更できるエージェントを十分な監視なしで動かしてしまうケースです。
Gartnerは、失敗の根にあるのは「エージェントが行動できる能力」と「そのエージェントに与えられたアクセス範囲」を区別できていないことだと整理しています。この区別ができないまま本番に出すと、想定外の動作が起きたときに被害を止められません。だからこそ、2027年までに40%の企業がガバナンスの欠陥を本番事故の後で発見し、エージェントを降格・廃止するという予測につながっています（出典: TechRadar）。
つまり、必要なのは「エージェントを禁止するか許すか」ではなく、「どの程度の自律度を、どの業務に、どの統制とセットで許すか」を段階で設計することです。
AIエージェントの自律度4段階とは
Gartnerが示す4段階は、エージェントが「見るだけ」から「人の承認なしに自分で動く」まで、自律度の高い順に統制を強めていくモデルです。まず各段階が何を意味するかを整理します。
| 段階 | 名称 | エージェントができること | 人の関与 | 代表的な業務例 |
|---|---|---|---|---|
| 1 | 観察（Observe） | 決められたデータを読み、結果を依頼者に返すだけ。書き込みや実行はしない | 結果を人が読む | 文書要約、データ検索、コードの説明 |
| 2 | 助言（Advise） | 提案・下書き・推奨アクションを生成する。実行は人が手動で行う | 提案を人が確認し実行 | 返信ドラフト作成、企画案の提示 |
| 3 | 承認付き実行（Act with Approval） | データ書き込み・通知送信・設定変更などを実行できるが、毎回人の明示的な承認が必要 | アクションごとに人が承認 | 経費仕訳の登録、メール送信の代行 |
| 4 | 自律（Autonomous） | 人の承認を待たず、本番システムを機械の速度で変更できる | 事後の監視とサンプリング | 在庫補充の自動発注、運用オペレーションの自動化 |
この4段階の出典は、Gartnerが2026年5月26日に公開した「Applying Uniform Governance Across AI Agents Will Lead to Enterprise AI Agent Failure」の発表です（出典: Gartner ニュースルーム）。
重要なのは、段階が上がるほど「人の関与が前から後ろに移る」点です。観察や助言では人が結果を見てから動きますが、自律では人は事後の監視で支えます。この関与の位置の違いが、次に説明する統制設計の違いを生みます。
4段階それぞれに必要な統制
段階ごとに必要な統制は、低い段階の統制を土台にして上に積み増していく構造です。上の段階は下の段階の統制をすべて引き継ぎ、その上に追加の備えを重ねます。Gartnerが各段階に求める統制を整理すると次のようになります。
| 段階 | 必要な統制（下の段階を土台に積み増す） |
|---|---|
| 観察 | スコープを絞ったデータアクセス、利用者の認証、利用ログの記録、基本的な機能・セキュリティテスト |
| 助言 | 観察の統制すべて＋出力品質と判断への影響への対処（精度・ハルシネーションの検証、業務領域ごとの品質評価、過信を防ぐ利用者教育） |
| 承認付き実行 | 助言の統制すべて＋強固なセキュリティテスト、監査証跡を伴う明確な承認フロー、エージェント専用のインシデント対応手順 |
| 自律 | 承認付き実行の統制すべて＋継続的な監視、強制されるガードレール、迅速なロールバックの仕組み、閾値違反でエージェントを止めるサーキットブレーカー、挙動に責任を持つ明確な責任者 |
この積み増しの考え方は、Gartnerおよび一次報道で示された各段階の要件に基づいています（出典: IT Pro）。ここで見落とされやすいのが、助言段階の「過信を防ぐ利用者教育」です。Gartnerは、助言型のエージェントでも従業員が自動化バイアス（AIの出力を過度に信用してしまう傾向）により誤った判断を下すリスクがあると指摘しています。提案を鵜呑みにしないための教育は、実行権限を持たない段階でも欠かせません。
自律段階では、責任の所在が決定的に重要です。Gartnerは、自律エージェントには「問題が起きたときに、システムを素早く止め、何をしたかを説明し、業務状態を元に戻せる人」を明確に置く必要があると述べています。サーキットブレーカーやロールバックといった技術的な備えは、この「止められる責任者」がいて初めて機能します。
なお、各段階の権限は単なる機能の有無ではなく、アクセス範囲の設計とセットで決めます。誰がどのデータやシステムに触れられるかを役割で制御するRBAC（役割ベースアクセス制御）と、承認付き実行で求められる承認フロー・監査証跡は、自律度を段階で管理するための土台になります。安全に使うための入力出力の制御については、AIガードレールの仕組みと実装方法も合わせて参考になります。
自社の業務を4段階に割り当てる手順
自社のエージェントをどの段階に置くかは、「業務リスクの高さ」と「必要な自律度」のふたつの軸で判断します。いきなり高い段階から始めるのではなく、低い段階から実績を積んで引き上げるのが安全です。具体的には次の手順で割り当てます。
- 業務を洗い出し、失敗したときの影響度で並べる。誤りが起きても見直せば済む業務（社内向けの要約など）と、誤りが顧客・取引・法令に直結する業務（請求や発注など）を分けます。
- 影響度の低い業務から観察・助言段階で始める。まず読むだけ・提案するだけの範囲で運用し、出力の精度を検証します。ここで自動化バイアス対策の教育も並行します。
- 実行を許す前にアクセス範囲を絞る。RBACで「このエージェントはこのデータ・このシステムにしか触れない」と定義し、承認付き実行では1アクションごとの承認フローと監査証跡を用意します。
- 自律に引き上げるのは、止める仕組みと責任者を整えてから。継続監視・ロールバック・サーキットブレーカーを実装し、挙動の責任者を名前で決めてから初めて自律段階に移します。
- 段階は固定せず、実績で見直す。事故やヒヤリハットがあれば一段下げ、安定すれば上げる運用を続けます。
この手順は、自律度と業務リスクを別々に扱うというGartnerの核心と一致します。エージェントが「できること」を増やす前に「触れる範囲」を絞るという順序が、本番事故を防ぐうえで効きます。
段階設計を支える運用基盤の整え方
4段階の設計を現場で回すには、設計図だけでなく、それを支える運用基盤が要ります。具体的には、アクセス制御・承認フロー・監査ログ・ロールバックを、エージェントごとに記録として残せる状態にすることです。
ベンダー側でも、こうした統制を製品機能として提供する動きが進んでいます。たとえばAnthropicは、AIエージェントの権限管理や監査を支援する機能を打ち出しており、自前でガードレールを組まずに段階統制の土台を整えやすくなっています。詳細はClaude Managed Agentsの5機能で整理しています。
ただし、ツールを入れれば段階設計が完成するわけではありません。自社のどの業務をどの段階に置き、誰が責任者で、どこで止めるかという判断は、業務を理解したうえで設計する必要があります。観察・助言から小さく始め、監査ログと振り返りで段階を見直しながら、実行・自律へ広げていく運用が現実的です。
Gartnerの提言が示すのは、AIエージェントの導入で問われるのは「どこまで任せるか」を一度に決めることではなく、「任せ方を段階で設計し、止められる状態を保ちながら少しずつ広げる」運用力だということです。一律のルールで身動きが取れなくなる前に、自社のエージェントを4段階のどこに置くかを棚卸しすることが、最初の一歩になります。
よくある質問（FAQ）
AIエージェントのガバナンスと、従来のAIガバナンスは何が違いますか
従来のAIガバナンスは主にモデルの出力品質やバイアス、データの扱いを対象にしてきました。AIエージェントのガバナンスでは、それに加えて「エージェントが実際に行動を起こす（書き込み・送信・設定変更など）」点を管理します。Gartnerは、行動できる能力とアクセス範囲を区別し、自律度ごとに統制を変えることが必要だと整理しています（出典: CIO Dive）。
どの段階から始めるのが安全ですか
影響度の低い業務を観察・助言段階から始めるのが安全です。読むだけ・提案するだけの範囲で精度を検証し、実績を積んでから承認付き実行、さらに自律へと引き上げます。最初から自律段階に置くと、問題が起きたときに止められず被害が広がります。
自律段階で最も重要な統制は何ですか
「止められる責任者を名前で決めること」です。継続監視・ロールバック・サーキットブレーカーといった技術的な備えは、問題発生時にシステムを止め、何が起きたかを説明し、業務状態を元に戻せる責任者がいて初めて機能します（出典: IT Pro）。
出典
- CIO Dive「Enterprises risk agentic AI failure under 'one-size-fits-all' governance」: https://www.ciodive.com/news/Enterprises-agentic-failure-uniform-governance/821153/
- Gartner ニュースルーム「Gartner Says Applying Uniform Governance Across AI Agents Will Lead to Enterprise AI Agent Failure」（2026年5月26日）: https://www.gartner.com/en/newsroom/press-releases/2026-05-26-gartner-says-applying-uniform-governance-across-ai-agents-will-lead-to-enterprise-ai-agent-failure
- IT Pro「'One-size-fits-all' agent governance sets enterprises up to fail」: https://www.itpro.com/technology/artificial-intelligence/one-size-fits-all-agent-governance-sets-enterprises-up-to-fail
- TechRadar「Lack of AI governance could force 40% of enterprises to roll back autonomous AI agents by 2027」: https://www.techradar.com/pro/lack-of-ai-governance-could-force-40-percent-of-enterprises-to-roll-back-autonomous-ai-agents-by-2027
その作業、AIで自動化できます！
ClaudeやAIエージェントを活用し、複雑な会計ソフトの入力・図面や画像を用いた書類の整理・プロジェクト管理まで、あらゆる業務をAIエージェントが遂行。社内で運用できる状態までご支援します。
