すべての作業を最大規模のAIへ任せる必要はない。定型的な分類と、複数の資料を読み合わせる判断では、必要な能力が異なる。モデル選びは、能力、費用、待ち時間、運用場所の組み合わせとして考えると整理しやすい。
小さなモデルが扱いやすい仕事
入力と出力の形式が決まった分類や抽出では、対象分野のデータで調整した小さなモデルが役立つ場合がある。必要なメモリや計算量を抑えやすく、端末内で処理する設計にも使える。
規模だけで成績は決まらない。学習資料、追加学習、量子化、プロンプトによって結果は変わる。日本語の社内文書を処理したいなら、その形式に近い資料で実測する必要がある。
難しい入力を、大きなモデルへ回す
まず軽いモデルで処理し、不確かな場合に高性能なモデルへ回す構成を考えられる。FrugalGPTは、複数のモデルを段階的に使い分ける方法を研究した例である。
この構成の要点は、難しい入力を見分けられるかにある。小さなモデルが誤答に強い自信を持てば、後段へ回らない。振り分け自体の誤りを含めて、システム全体の成績を評価する必要がある。
一回の料金から、運用全体の費用へ
安いモデルでも、修正や再試行が多ければ総費用は増える。大きなモデルで一度に終わる方が安い作業もある。計算費だけでなく、人が確認する時間、処理の遅れ、保守の負担を数える。
最初に少量の代表的な仕事を用意し、正確さと実行時間を比較するとよい。容易な例だけでなく、表記の揺れや例外を含める。使い分けの基準は、モデル名の評判よりも、その仕事で測った結果から作る。
モデルが小さいことと、入力情報が外部へ送られないことは別の性質である。実行場所、ログ、通信経路を含めて確認する必要がある。
参考資料
参考資料確認日：2026年10月13日。