研究
最新の AI 研究を、だれでも読めるかたちで公開しています。文書には版を付け、更新を重ねていきます。

Papers
- 規則遵守のパラドックス:ロボット三原則と AI の行動指針における規則間の衝突AI が規則をよく守るようになっても、規則どうしがぶつかれば失敗は残る。本稿は、アシモフのロボット小説から、規則どうしの衝突が失敗に表れる三つの型と、衝突を解く方法を取り出し、OpenAI の Model Spec の改訂と照らし合わせる。衝突を解いても代償は消えず、別の場所へ移ることを示し、規則を足したり変えたりする前に衝突を点検する手順を提案する。
- 交換可能なエージェントのための組織の記憶AI エージェントが仕事を担う組織では、モデルやエージェントが頻繁に入れ替わる。本稿は、記憶をモデルの内部ではなく組織の文書に置き、作業の記録を検証済みの知識へ段階的に変換する設計を提案する。Trace、Episode、Research、Review、Library の五段階からなる流れと、その不変条件を示し、運用上の観察、考察、限界を述べる。
- エージェント主導の開発における人の注意の配分AI エージェントが計画から検証までを担うソフトウェア開発では、限られた人の注意をどの段階に配分するかが、設計上の重要な問題になる。本稿は、人の関与を最終段の体験評価に集約する方法 AFHL(Agent-first, Human-last)を提案し、二つの作業モードと検証状態の報告規則からなる構成を示す。あわせて、この配分が伴うリスクと、適用の限界を論じる。
Notes
- AI エージェントの権限は実行環境で決まるAI エージェントが行使できる権限は、エージェントに割り当てた役割ではなく、エージェントが動作する実行環境によって決まります。この前提に立つと、守り方も変わります。作業の権限は広く認め、不可逆な操作と社外への情報の持ち出しに限って、エージェントが変更できない層で制限します。
- 断片から、誤った全体ができるとき一つひとつは正しい事実を集めても、全体の像が間違うことがあります。誤りは断片ではなく、断片のつなぎ方にあります。試験の数字と本の売上を例に、その道筋を二つに分けて考えます。
- 物理ノードで考えを外に置く机の上で丸いラベルを動かして考えを組み立てる方法を、iPhone に移す試みです。考えを頭の外に置き、あとから続きを考えられるようにする、長く温めてきた構想の入口でもあります。
- 考えの続きから始めるいくつもの考えが一つの形にまとまっても、その形はすぐに崩れることがあります。言葉をメモしても、言葉どうしの関係は残りません。考えの続きから始めるには何を残せばよいかを、筆者の約 10 年の試行錯誤をもとに考えます。
- 装飾が戻ってくる:エージェントが作る時代のデザイン装飾が消えたのは、美しくなかったからではなく、手間がかかりすぎたからです。作る手間がほとんどなくなる時代には、手のかかる古い美しさが、もう一度使えるようになります。そのとき人に残るのは、選ぶこと、止めること、確かめることです。
- AI を前提にした会社の経営AI エージェントが仕事の大半を担う前提で、会社を組み立てる考え方です。人は価値を決め、エージェントは準備と実行を担います。