O que é a data de corte de conhecimento?

A data de corte de conhecimento é a última data coberta pelo material com que um modelo foi treinado. Ela limita uma coisa só: o que o modelo consegue recordar sem ajuda. Entregue-lhe um resultado de busca, um arquivo enviado ou um texto colado, e ele lê tudo isso perfeitamente. Um ajuste fino posterior também pode adicionar conhecimento, então um modelo ajustado pode saber coisas que o modelo base nunca viu.

O material usado para construir um modelo é coletado até certo ponto e não além, e essa fronteira é o corte. Pergunte a um modelo sobre uma eleição realizada depois dele e não há nada armazenado de onde puxar. A parte incômoda é que ele não experimenta a lacuna como lacuna, então em vez de parar ele pode montar uma resposta confiante a partir do que leu. Por que não continuar treinando conforme os eventos acontecem? Porque o treinamento é uma rodada enorme que custa uma fortuna, então o que um modelo sabe é uma fotografia, não uma transmissão ao vivo. É exatamente por isso que a busca na web e a geração aumentada por recuperação existem. As duas funcionam buscando material atual e colocando-o diante do modelo no momento em que você pergunta, o que contorna o corte por completo. Um modelo com busca ligada consegue discutir as notícias desta manhã. O mesmo modelo sem ela está chutando a partir de um ano atrás. A diferença é o que lhe foi entregue, não o que ele é. Os modelos também são pouco confiáveis sobre a própria data de corte, já que essa data é só mais um fato que alguém teve que escrever no material de treinamento.

Alguém voltando de um ano no mar. O que quer que tenha acontecido enquanto estava fora, a pessoa não estava lá para nada. Entregue-lhe o jornal de hoje e ela o discute tão bem quanto qualquer um, porque não há nada de errado com o raciocínio dela. O problema só aparece quando ninguém entrega o jornal e ela responde mesmo assim, a partir de como as coisas pareciam quando partiu.