Was ist ein Wissensstichtag?

Ein Wissensstichtag ist das letzte Datum, das vom Trainingsmaterial eines Modells abgedeckt wird. Er begrenzt genau eines: was das Modell ohne Hilfe abrufen kann. Reiche ihm ein Suchergebnis, eine hochgeladene Datei oder eingefügten Text, und es liest das einwandfrei. Spätere Feinabstimmung kann ebenfalls Wissen hinzufügen, ein feinabgestimmtes Modell kann also Dinge kennen, die das Basismodell nie gesehen hat.

Das Material, aus dem ein Modell gebaut wird, wird bis zu einem bestimmten Punkt gesammelt und nicht weiter, und diese Grenze ist der Stichtag. Frage ein Modell nach einer Wahl danach, und es ist nichts gespeichert, worauf es zurückgreifen könnte. Unangenehm daran ist, dass es die Lücke nicht als Lücke erlebt, also statt aufzuhören eine überzeugte Antwort aus dem zusammensetzt, was es gelesen hat. Warum es nicht einfach weitertrainieren, während Dinge geschehen? Weil Training ein einziger enormer Durchlauf ist, der ein Vermögen kostet, das Wissen eines Modells also eine Fotografie ist und kein laufender Kanal. Genau dafür gibt es Websuche und abrufgestützte Generierung. Beide holen aktuelles Material und legen es dem Modell im Moment der Frage vor, was den Stichtag vollständig umgeht. Ein Modell mit aktivierter Suche kann die Nachrichten von heute Morgen besprechen. Dasselbe Modell ohne sie rät aus einem Jahr Abstand, und der Unterschied liegt darin, was man ihm gereicht hat, nicht darin, was es ist.

Jemand zurück von einem Jahr auf See. Was auch immer in der Zeit passiert ist, dabei war die Person bei nichts davon. Reiche ihr die heutige Zeitung, und sie bespricht sie so gut wie jeder andere, denn mit dem Denken ist alles in Ordnung. Das Problem entsteht erst, wenn ihr niemand die Zeitung reicht und sie trotzdem antwortet, nach dem Stand bei der Abfahrt.