対話AIはなぜ同じ依頼にも違う言い方で答えますか

ある文の続きに「考えます」と「検討します」の両方が合うとき、モデルはそれぞれに確率を割り当てます。その分布から実際の語を選ぶ方式なら、同じ文から始めても異なる続きを取りえます。

選んだ一語が次の条件になる

一度違う語を出せば、以後の語はもう異なる文脈から選ばれます。生成方法の研究では、確率の高い候補を一定の範囲で残して抽選する方法などが比較されています。同じサービスでの回答の違いには設定やモデル更新もあり、一組の回答だけから原因を一つに決めることはできません。

Holtzmanらの文章生成時のサンプリングの比較