AIに多くの資料を扱わせる方法には、入力を長くする、必要な資料を検索する、過去の情報を保存する、という選択肢がある。いずれも情報を使う仕組みだが、情報を置く場所と取り出す時点が異なる。
今、机の上に広げている情報
コンテキストは、モデルが今回の処理で参照する入力である。長いコンテキストなら、大量の資料や会話を同時に渡せる。資料同士を比較する際には便利である。
入力に収まることと、必要な箇所を正しく使えることは異なる。Lost in the Middleは、情報の位置によって検索や回答の成績が変わる問題を調べた研究である。長さだけでなく、関連情報を見つけて結び付ける性能を見る必要がある。
必要になった資料を、外から取り出す
検索を組み合わせる構成では、文書を別の場所に保存し、質問に関係する部分を選んで入力へ加える。RAGは、その代表的な考え方である。新しい文書を追加しやすく、回答の根拠を示しやすい。
検索が必要な箇所を取り逃がせば、その後のモデルが優秀でも情報は使えない。短く切った文書から、前後の条件が落ちることもある。検索の成績と、読み取った後の回答の成績を分けて確認する。
過去から何を残すかを決める
記憶機能は、会話や作業から残す情報を選び、後の処理で使う仕組みである。保存した内容を検索してコンテキストへ戻す構成もあり、三つの方法は組み合わせられる。
長く使うほど、古い情報の訂正や削除が重要になる。好みをいつ学んだか、どの発言が根拠かを残すと更新しやすい。情報を多く持たせるだけでなく、必要な時点で正しい版を渡す設計が求められる。
製品に表示される「記憶」は共通の技術規格ではない。何を保存し、どこまで削除でき、いつ回答へ反映されるかは、サービスごとに異なる。
参考資料
参考資料確認日：2026年10月13日。