人間がAIエージェントへ仕事を委任するたびに、入力、成果物、権限、検証方法、失敗時の処置を構造化して記述するのは難しい。 人間は達成したいこと、その理由、望まない結果を自然言語で表し、委任基盤が環境の情報、既定方針、利用可能な検証器を組み合わせて委任仕様へ変換するのがよい。
委任仕様は、目的、成果物、制約、対象外、権限、合否を判定する検証器、未解決時の処置をそれぞれ異なる欄として保持する。 各値には、人間が明示したのか、環境から確認したのか、既定方針から補ったのか、推測したのかも記録する。 これにより、委任基盤が補った条件を人間の指示だったかのように扱わずに済む。
生成した委任仕様は、文章へ戻さずAIエージェントへの入力にできる。 固定された解釈規則とスキーマを共有していれば、文章への変換は情報を落としたり、条件の優先順位を変えたりする余分な工程になるからだ。 自然言語は目的や理由を表す値として残り、合否、権限、異常時の処置は構造によって役割が固定される。
ただし、「構造化を自動化する」は「生成した仕様を無条件に承認する」を意味しない。 権限や不可逆な操作を推測だけで許可してはならず、検証器も自由記述で作り出すのではなく、実在する登録済みのものから選ぶ必要がある。 適合する検証器がない、条件が矛盾する、失敗後に回復できないといった箇所だけを、人間へ判断事項として返す。
委任仕様の厚さは仕事の大きさだけでは決まらない。 小さな仕事でも外部送信のように取り消せなければ承認と権限制限を加え、大きな仕事でも読み取り専用で結果を安く検証できれば少ない項目で自動実行できる。 人間に仕様全体を確認させる代わりに、未解決事項と高リスクな推測だけを示すことで、構造化の負担を人間へ戻さずに済む。
Google DeepMind の研究を紹介する記事は、先に検証方法を決め、それに合わせて仕事を分ける「契約先行の分解」を提案している。 AIエージェントへの委任は検証可能性から分解するなら、その契約を作る前に人間へ構造化された記述を要求するのではなく、自然言語の意図から委任基盤が契約を組み立てる必要がある。
https://cloud.google.com/blog/products/ai-machine-learning/how-agents-can-delegate-better