AIエージェントが調査、実装、検証、再試行からなる内側のループを自律的に回しても、人間は本番環境へ変更を入れる境界で決定と結果への責任を引き受ける。 Addy Osmaniはこの役割を「外側のループを所有する」と表現する。 これはループエンジニアリングから人間を排除する提案ではなく、人間の仕事を個々の操作から制約と採否の設計へ移す提案である。
外側のループは、制約、抽出検査、監査、所有の四つからなる。 人間は許す入力、構成、指示、不変条件を決め、どの出力をどれだけ確認するかを決め、後から判断を説明できる証拠を残し、どこから先の結果に責任を持つかを定める。 内側のループには型検査、テスト、権限制限、隔離環境、監査記録、監視などを組み込み、エージェント自身の成功報告とは独立した証拠で完了を判定する。 これは検証可能性から委任を分解する考え方を、組織の運用境界まで広げたものと読める。
記事はこの運用を、品質、採否判断、説明可能性という三段階で表す。 品質管理によって証拠を作り、その証拠から本番へ進めるか、止めるか、範囲を狭めるかを人間が判断し、後から理由を説明できる状態を保つ。 ここでの「人間が判断する」は、すべての差分を人間が読むことではない。 エージェントの生成量は人間の確認量を超えるため、機械的な検証、危険度に応じた承認、抽出検査、監査可能な記録を組み合わせ、人間の注意を判断の曖昧な箇所へ配分する必要がある。
委任には三つの費用がある。 第一は、AIの回答を自分で確かめず受け入れる認知的降伏である。 第二は、問題の解き方やコードへの理解が育たず、保守時に理解を作り直す認知的負債である。 第三は、多数のエージェントへ指示し、成果を選別し、危険な仮定を確かめる調整費用である。 ただし、認知的負債の根拠として記事が挙げる実験は、未知のPythonライブラリを学ぶ主に若手の技術者52人を対象に、直後の理解度を測った小規模な研究である。 この研究は認知的関与をAIへ渡すと短期の技能形成を妨げうることを示すが、長期の実務能力が必ず低下するとは確かめていない。
既存システムでは、仕様がコードだけに存在しないため外側のループが難しくなる。 顧客の期待、過去の移行、運用手順、暗黙の前提、例外的なデータ、障害から得た知識を、制約、機能仕様、テスト、監視へ変換しなければ、エージェントは判断に必要な証拠を作れない。 したがって自動化の規模を決めるのは生成能力ではなく、失敗を止め、範囲を絞り、原因と採否を説明できる制御能力である。
https://www.oreilly.com/radar/own-the-outer-loop/
#ai-agent #loop-engineering #accountability #verification
Appendix: Work Record
2026年9月11日に、O'Reillyで再掲載された記事、著者の原掲載、記事が根拠として挙げるSonar、GitLab、Wharton、Anthropicの公開資料を閲覧した。 Sonarの調査は2025年10月にAIを仕事で使った技術者1,149人を対象に行われ、回答者が自己申告したAI生成または大幅に支援されたコードの割合は平均42%だった。 GitLabの調査は六か国の開発者と技術購買担当者1,528人を対象とし、85%がコード作成から確認と検証へボトルネックが移ったと回答した。 Whartonが紹介する三つの実験は1,300人超を対象とし、誤ったAI回答を参照した群の正答率がAIを使わない基準より15ポイント低下したと報告している。 Anthropicの無作為化比較試験は主に若手のソフトウェア技術者52人を対象とし、AI利用群の直後の理解度試験が平均50%、非利用群が67%だった。
公開資料の記述と集計値を確認しただけで、生データの再解析はしていない。 企業による調査は自社製品の市場と利害関係があり、自己申告値を実測値として扱っていない。 Anthropicの試験は標本が小さく、未知のライブラリを短時間で学ぶ場面に限られる。 一時資源は作成しておらず、後片付けは不要だった。