本文へ移動

研究Note

AI エージェントの権限は実行環境で決まる

AI エージェントが行使できる権限は、エージェントに割り当てた役割ではなく、エージェントが動作する実行環境によって決まります。この前提に立つと、守り方も変わります。作業の権限は広く認め、不可逆な操作と社外への情報の持ち出しに限って、エージェントが変更できない層で制限します。

  • エージェント
  • 組織

AI エージェントに業務を任せる組織では、エージェントにどこまでの権限を与えるかが課題になります。一般的な答えは、エージェントごとに役割を定め、業務に必要な権限だけを与えることです(最小権限の原則)。本稿では、この原則が有効な場合とそうでない場合を区別し、エージェントが業務を担う組織の守り方を考えます。

役割による制限の限界

ある小規模な会社で、経理の担当者が、自分のパソコン上で動作するエージェントに請求書の整理を依頼したとします。エージェントには「請求書の閲覧のみ」という役割を定めています。

しかし、このエージェントは担当者のパソコン上で、担当者のログインのまま動作しています。担当者が開けるファイルや画面には、エージェントもアクセスできます。担当者が会社の口座の管理画面にログインしたままであれば、エージェントもその画面を操作できます。定めた役割は、エージェントが実際にアクセスできる範囲を狭めていません。

実行環境が決める権限

エージェントが行使できる権限は、エージェントが動作する実行環境で読み取れる認証情報(パスワード、トークン、ログインの状態など)の総和です。エージェントに割り当てた役割によっては決まりません。

役割による制限が有効なのは、強い認証情報のない実行環境で、定められた業務だけを行うエージェントです。たとえば、クラウド上に特定の業務のために用意され、その業務に必要な認証情報だけを持つ実行環境が該当します。一方、人のパソコン上で人とともに業務を行うエージェントは、その人と同等の権限を持つものとして扱う方が、実態に即しています。

したがって、エージェントの権限は、エージェント単位ではなく、実行環境の単位で設計します。これは、専門性をエージェントではなく置き場所に持たせるという考え方(AI を前提にした会社の経営)と同じ構造です。エージェントは置き場所に応じて役割を担い、権限もまた実行環境によって定まります。

制限の対象を二つに絞る

エージェントが人と同等の権限を持つとすれば、組織をどのように守るべきでしょうか。

すべての操作に人の承認を求めると、承認の件数が増え、やがて内容を確認しないまま承認されるようになります。承認の形骸化です。そこで、制限の対象を次の二つに絞ります。

  • 不可逆な操作:記録の削除、操作ログの停止など、後から元に戻せない操作。
  • 社外への情報の持ち出し:個人番号のように、一度外部に出ると回収できない情報を、社外へ送ること。

作成、修正、試行は、広く認めます。誤りがあっても元に戻せるためです。人の注意は、元に戻せない操作にのみ向けます。

制御をエージェントの外に置く

制限の仕組みがエージェントの変更できる設定であれば、エージェントはそれを解除できます。悪意がなくとも、業務を進めるために解除してしまう可能性があります。そのため、制限の仕組みは、エージェントが変更できない層に置きます。

  • クラウドの組織全体に適用し、個々の環境の管理者でも解除できないポリシー。
  • 定めた期間中は誰も削除できない形式の保管(WORM:一度書き込んだら変更できない保管)。
  • エージェントが変更できない設定による、送信先の制限。

権限の強い操作そのものは、エージェントが動作していない別の端末で、人が行います。

未解決の問い

  • 社外への情報の持ち出しを、どのように検知するか。形を変えた情報(数字を分割して書く、別の表現に置き換えるなど)は、決まった形式を照合する検査では検知できない。
  • 人員が増え、一人ひとりがエージェントを使うようになったとき、守りは人数分必要になるのか。
  • 強い認証情報を人が保持し続けること自体のリスク。人は、偽のログイン画面やなりすましの主な標的でもある。

更新の履歴

  1. v0.12026年10月13日最初の版。

この文書の URL は変わりません。版を添えて引用してください。

研究の一覧へ