長いコンテキスト・検索・記憶機能の違い

雑記Topに戻る

AIに資料を使わせるには、長い入力の中に資料を置く、必要になった時点で検索して渡す、過去の情報を保存して別の会話で呼び出す、といった方法があります。いずれも情報を増やせるが、どこに置き、いつ取り出すかが違います。

机の上に広げている情報

コンテキストは、モデルが今回の処理で参照する入力です。長いコンテキストなら、大量の資料や会話を同時に渡せます。資料同士を比較する際には便利です。

入力に収まることと、必要な箇所を正しく使えることは異なります。Lost in the Middleは、情報の位置によって検索や回答の成績が変わる問題を調べた研究です。長さだけでなく、関連情報を見つけて結び付ける性能を見る必要があります。

必要になった資料を外から取り出す

検索を組み合わせる構成では、文書を別の場所に保存し、質問に関係する部分を選んで入力へ加えます。RAGは、その代表的な考え方です。新しい文書を追加しやすく、回答の根拠を示しやすいです。

検索が必要な箇所を取り逃がせば、その後のモデルが優秀でも情報は使えません。短く切った文書から、前後の条件が落ちることもあります。検索の成績と、読み取った後の回答の成績を分けて確認します。

過去から何を残すかを決める

記憶機能は、会話や作業から残す情報を選び、後の処理で使う仕組みです。保存した内容を検索してコンテキストへ戻す構成もあり、三つの方法は組み合わせられます。

長く使うほど、古い情報の訂正や削除が重要になります。好みをいつ学んだか、どの発言が根拠かを残すと更新しやすいです。情報を多く持たせるだけでなく、必要な時点で正しい版を渡す設計が求められます。

製品に表示される「記憶」は共通の技術規格ではありません。何を保存し、どこまで削除でき、いつ回答へ反映されるかは、サービスごとに異なります。

参考資料

参考資料確認日:2026年10月13日。

雑記Topに戻る