Clicked Gallery
知識のカットオフとは？
実際の技術ドキュメントでハイライトされた言葉を、Clickedが解説します。
例文
Engineering Notes · AI Systems
The model's knowledge cutoff means nothing published after that date is stored in what it learned.
読者がドキュメント内の単語をハイライトすると、Clickedが技術用語「knowledge cutoff」をシンプルに解説しました：
3段階での解説
●○○
Overview
知識のカットオフとは、モデルの学習に使われた材料が覆う最後の日付のことをいう。これが縛るのはただひとつ、モデルが何も助けなしに思い出せる範囲だけだ。検索結果でも、アップロードしたファイルでも、貼り付けた文章でも、渡せばきちんと読んでくれる。あとからの微調整でも知識は足せるので、微調整されたモデルは元のモデルが一度も見ていないことを知っている場合がある。
●●○
Detail
モデルを作るための材料はある時点まで集められ、そこから先は集められない。その境目がカットオフになる。その後に行われた選挙について聞いても、引き出せるものが何も入っていない。厄介なのは、本人が空白を空白として感じないことで、そこで止まる代わりに、読んだ範囲の材料から自信のある答えを組み立ててしまう。では出来事が起きるたびに学習させ続ければいいのでは。学習は莫大な費用のかかる一度きりの大仕事なので、モデルの中にあるのは生中継ではなく一枚の写真だからだ。ウェブ検索や検索拡張生成があるのは、まさにそのためになる。どちらも最新の材料を取ってきて、あなたが聞いた瞬間にモデルの前へ置くので、カットオフを丸ごと迂回できる。検索が有効なモデルは今朝のニュースを語れる。同じモデルでも検索がなければ一年前から当てずっぽうを言うことになり、その差はモデルの性能ではなく何を手渡されたかにある。
●●●
Analogy
一年間航海に出ていた人が戻ってきたと思えばいい。留守のあいだに何があったにせよ、その人はどれにも居合わせていない。今日の新聞を渡せば誰とも変わらず語れる。考える力のほうは何も傷んでいないからだ。困るのは、誰も新聞を渡さないまま質問され、出港したときの世界のまま答えてしまう場合だけになる。
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
事実はそのまま、ノリだけ変えて — スラングモード 😎
●○○
Overview
知識のカットオフは、モデルが読むのをやめた日のことだ。それ以降に出たものは、自力で思い出せる範囲には入っていない。学習は一度きりで、そこで止まったからだ。新しい記事を見せればきちんと読むし、ブラウジング機能が存在する理由もそこにある。微調整であとから事実を押し込むこともできるので、この日付は天井ではなく床にあたる。😎
●●○
Detail
誰かがある日付まで学習用の材料を集めて、そこで手を止めた。その日付がカットオフになる。それ以降のものは、モデルが自力で思い出せる範囲から丸ごと抜けている。だから検索を切った状態で先週のことを聞けば、作り話が絶対の自信とともに返ってくることがある。嘘をついているわけではない。空白があること自体に気づいていないので、手持ちのもので埋めてしまう。検索を入れれば同じ質問が通る。思い出せと言われる代わりに、記事を手渡されているからだ。微調整であとから事実を入れることもできるが、確実なのは検索のほうになる。ついでに言うと、モデルは自分のカットオフがいつなのかもよく間違える。その日付もまた、誰かが打ち込まねばならなかった一行にすぎないと気づくまでは、妙な盲点に見える。😎
●●●
Analogy
十日間の沈黙の修行から戻ってきた人を思えばいい。携帯もニュースも何もない。自分自身についてはたぶん相当学んだのだろうが、ベルボトムがまた流行っていることは何ひとつ知らない。見出しをひとつ見せれば数秒で追いつく。ややこしくなるのは、誰も何も見せないまま質問して、携帯を預けた日の世界のまま答えてしまう場合だけだ。😎
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
正式な定義 — 同じ用語の、よくある説明
知識のカットオフとは、モデルの学習に用いられたコーパスに含まれる最も新しい日付であり、それ以降の情報はパラメータに符号化されていない。学習が連続的ではなく離散的な工程であることから生じるものであり、制約を受けるのはパラメータに宿る知識だけである。その後の微調整によってこの知識は拡張されうるが、事実の新しさを保つ手段としては検索のほうが依然として信頼できる。推論時に与えられる情報は、検索であれウェブ検索であれ貼り付けた文書であれ、カットオフの影響を受けない。
「knowledge cutoff」のような言葉を、ブラウザ上でそのままClickedに解説させませんか？PDFにも対応。
Chromeに追加 — 無料無料で50回の解説 · クレジットカード不要
ギャラリーの他の記事
AIにおける学習（トレーニング）とは？
例からモデルを作り上げる工程。あとから話しかけても何も変わらない。
「RAG（検索拡張生成）」とは？
AIを自分の文書から答えさせる — まず検索、次に生成、出典つき。
大規模言語モデル（LLM）とは？
次に来る文章を予測するプログラム。そのあとで、だらだら続けずに答えるよう仕込まれている。
「AIのハルシネーション（幻覚）」とは？
AIが作り話を完全な自信で語る理由。そしてそれが聞き分けられない理由も。
「推論（インファレンス）」とは？
モデルが実際の仕事をしている状態。安いほうの半分が最も高くつく理由も。
「コンテキストウィンドウ」とは？
AIが一度に頭に置けるテキスト量——長いチャットが冒頭を忘れる理由。