AIの「自信」はどれくらい信用できるのか

雑記Topに戻る

AIが「90%の確率で正しい」と答えたとき、その数字をどのように受け取ればよいのでしょうか。評価の基本は、90%と判断した問題を多数集め、本当に約90%で正解しているかを調べることです。

正答率と自信の正確さは異なる

正答率が高いモデルでも、間違ったときに強く断定することがあります。逆に正答率が低くても、不確かな問題を適切に見分けられる場合があります。予測した確率と実際の頻度が合う性質を、キャリブレーションといいます。

説明のため、80%と予測した問題を100問集めたとします。およそ80問正解なら、その集まりでは確率がよく対応しています。100問すべてが簡単な問題だったか、分野ごとに偏りがないかも確認する必要があります。

文章で述べる自信とモデル内部の数値

言語モデルが文章として出す「自信があります」は、数値的に校正された信頼度とは限りません。次に出す単語の確率も、その文章全体の主張が正しい確率とは違います。見慣れた誤情報を高い確率で出すこともあります。

自信を測る方法には、モデル自身に評価させる、複数回の回答の一致を見る、専用の評価器を使うなどがあります。どの方法も、実際の正誤が分かるデータで性能を確かめる必要があります。

分からないときに人へ渡せるか

自信の指標が役立つのは、低い場合に検索や人の確認へ回すなど、次の行動を変えられるときです。誤りの費用が大きい用途では、平均正答率だけでなく、確認へ回した後に残る誤りを測ります。

学習時と異なる分野や言語では、確率の対応が崩れることがあります。運用対象に近いデータで評価し、問題の構成が変わったら測り直します。自信の数字は、検証された条件とセットで初めて意味を持ちます。

良好なキャリブレーションは、個々の回答の正しさを保証しません。確率が正確でも、90%の集まりには一定数の誤答が含まれます。

参考資料

参考資料確認日:2026年10月13日。

雑記Topに戻る