Was ist Temperatur bei KI?

Die Temperatur ist eine Einstellung, die steuert, wie vorhersehbar die Wortwahl eines KI-Modells ist. Niedrige Werte lassen es fast immer das wahrscheinlichste nächste Wort nehmen; höhere erlauben Wetten auf unwahrscheinlichere. Sie regelt Vielfalt, nicht Intelligenz.

Vor jedem Token hält das Modell eine Rangliste von Kandidaten mit Wahrscheinlichkeiten, und die Temperatur formt diese Liste um. Nahe 0 gewinnt fast immer die oberste Wahl, derselbe Prompt liefert also zweimal fast dieselbe Antwort. Um 1 zieht das Modell proportional zu den ursprünglichen Wahrscheinlichkeiten, und darüber schrumpfen die Abstände, bis Außenseiterwörter echte Chancen bekommen. Typische Produkte laufen im Chat zwischen 0,7 und 1,0, während Code-Tools und Datenextraktion nahe 0 sitzen, denn eine kreative Antwort auf eine Formatieraufgabe ist schlicht eine falsche Antwort. Höhere Werte steigern die Vielfalt und damit das Risiko, in Unsinn abzudriften, weil jedes unwahrscheinliche Wort das nächste unwahrscheinliche wahrscheinlicher macht. Der Name stammt aus der Physik, wo Wärme die Teilchen aus ihren stabilsten Positionen rüttelt.

Die Mittagsbestellung im Büro. Geh auf Nummer sicher und alle bekommen einfach den Bestseller des Restaurants, identisch und verlässlich, jeden Tag. Dreh den Regler hoch und der Praktikant wählt per Dartwurf auf die Karte: an manchen Tagen eine Entdeckung, an anderen frittierte Reue.