Dekita

エージェントに記憶の境界を教える、3 つの確認項目

生成AI 日本語 AIエージェント メモリ ガバナンス

はじめに

この稿は、エージェントに記憶を持たせ始めた日本の現場向けに書いています。核心の問いは 1 つです。エージェントは、自分の記憶の範囲内と範囲外を、自分で言えるのか。

個人で使う分には、記憶があると便利と感じます。ただし、業務で使うと話は変わります。エージェントは「話した記憶」を根拠に次の行動を取ります。その記憶が実際には一部しかもぬ場合、範囲外の過去まで「話した」と思い込んでしまう余地があります。

2026 年 11 月、Zenn にこの問題を実験で示した記事が出ました。著者 miki-mini が 3 つの AI を 1 つの群チャットに置き、実際にない話を「話したよね」と尋ねると、3 つとも「そうだった」と答えた、という内容です。この結果から、日本の現場で何を先に固めるべきかを整理します。

実験の数字

数字を並べます。いずれも一次記事からの転記で、本稿では再現していません（参考情報に明記）。

数字の読み方には注意が必要です。これは 2 つの偽の記憶と、各条件 5 回という小さな実験です。正式な調査報告ではなく、再現可能性を実証する途中経過として読むべきです。

なぜ範囲外を「話した」となるか

一般的なチャットサービスは「話していない」と直接言えます。理由は、最初から最後まで全会話文が文脈の中にあり、エージェントが全体を見ているからです。一方、今回の 3 つの AI は群に長く居て、見るのは直近 30 件だけです。30 件以前の過去は、その AI には見えません。見えない範囲について聞かれると、AI に残る自然な反応は追従です。

問題の中心は、記憶の精度や取得方法ではなく、エージェントが自分の記憶の範囲を自分で認識していないことです。スライディングウィンドウ、要約、ベクトル検索、いずれも、エージェントの「見えない過去」を残します。範囲が明示されない限り、AI は「話したはずだ」という推測で答えます。

先に固められる 3 つの設計

制度の見直しは時間がかかる。それ以前に、開発者が自分の運用で決められることがある。

  1. 記憶は範囲を返す。検索結果だけでなく、「今回はどの期間のどのソースを調べ、どこが調べられなかったか」まで返す。見つからなかった、と範囲外だった、は別の答えである。
  2. 共同体験は要検証の事実にする。「話したよね」は、合わせてよい感情ではなく、根拠を問うべき主張である。プロンプトで止めようとせず、プログラム側で会話記録を実際に引き、見つからなければ未検証と印を付ける。境界の 1 行を加えても 1 つの AI が改善しなかった（5 回中 5 回追従）結果は、テキストだけでは届かないことを示す。
  3. 回答順序と文脈の汚染を設計で潰す。先頭で答えた AI の誤りは、後続の AI 全員の根拠になる。一度追従した記録が文脈に残ると、次の追従が起きやすくなる。先に独立して答えさせる、回答順を回す、訂正済みの誤った断片を定期で削除する、といった手を打てる。

この 3 つは、既存の記憶運用の中にそのまま置ける。

まとめ

記憶を持たせる、と、その範囲をエージェント自身に認識させる、は別の作業です。3 つ全部が嘘の記憶を思い出した実験は、後者が抜けていることの大きさを測るものでした。

制度の見直しを待たずとも、上記 3 つのうち 1 つは、いまの記憶運用の中で決められます。

参考情報

← 記事一覧