「温度パラメータ」とは？

温度は、AIモデルの言葉選びの予測しやすさを制御する設定だ。低いとほぼ毎回いちばん確率の高い次の語を選び、高いと確率の低い語にも賭ける。調整するのは多様性で、賢さではない。

モデルは各トークンを書く前に、確率つきの候補リストを持っており、温度はそのリストの形を変える。0付近では最上位がほぼ毎回勝つので、同じプロンプトはほぼ同じ答えを返す。1付近では元の確率に比例して抽選し、それを超えると差が縮まり、大穴の語にも現実的な出番が回ってくる。チャット製品はだいたい0.7〜1.0で動き、コードツールやデータ抽出は0付近に置かれる。整形作業への創造的な答えは、単に間違った答えだからだ。高い設定は多様性と同時に脱線の危険も上げる。ありそうにない語を選ぶたびに、次の語もありそうになくなっていくからだ。名前は物理学から来ていて、熱こそが粒子を最も安定した位置から揺さぶり出す。

職場のランチ注文。無難にいけば全員が店の看板メニューで、毎日同じで毎日確実だ。ダイヤルを上げると、インターンがメニューにダーツを投げて選ぶ。発見の日もあれば、揚げ物の後悔の日もある。