Clicked Gallery
AIにおける学習（トレーニング）とは？
実際の技術ドキュメントでハイライトされた言葉を、Clickedが解説します。
例文
Engineering Notes · AI Systems
Training the model consumed several months of compute before a single question was ever asked of it.
読者がドキュメント内の単語をハイライトすると、Clickedが技術用語「training」をシンプルに解説しました：
3段階での解説
●○○
Overview
学習とは、モデルが作られる工程のことをいう。膨大な量の材料、たいていは文章、しばしば画像やコードも見せられ、予測がそれ以上よくならなくなるまで内部の設定が調整されていく。そのあとの段階は、知っていることよりも答え方のほうを整えていく。設定が公開向けに凍結されるのはそのすべてが終わったあとで、会話であなたが何を打ち込んでもそこは動かない。
●●○
Detail
モデルはまず、でたらめに置かれた何百万もの数値として始まり、その時点では意味のない出力しか出さない。学習では文章の次の単語を隠し、モデルの予測を正解と突き合わせ、間違いが減る方向へ数値をわずかに寄せていく。この方法を確率的勾配降下法という。それを何兆回と繰り返すうちに、数値は言語をうまく予測する形に落ち着いていく。では言語の規則を直接プログラムすればいいのではないか。誰にもその規則を言い切れないからだ。「濃いお茶」は自然で「強力なお茶」が不自然な理由を説明するだけで一生かかるうえ、それは何百万とある言い回しのひとつでしかない。例から学ぶ方式なら、規則をひとつも書き出さずに済む。段階は三つ続く。材料の大半を使う事前学習、より狭い例で行う微調整、そして人が回答に順位をつける人間のフィードバックによる強化学習だ。費用がかかるのは事前学習で、公開のはるか前に終わる。だからどのモデルにも知識のカットオフがある。
●●●
Analogy
ボールを捕れるようになる過程と同じだ。放物線の方程式を渡してくれる人はいないし、読んだところで大して役にも立たない。手を出して、取り損ねて、体の何かがほんの少し修正される。数千回も捕るころには上手くなっているのに、自分が覚えた規則を書き出すことは相変わらずできない。
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
事実はそのまま、ノリだけ変えて — スラングモード 😎
●○○
Overview
あなたが使ってきたモデルは、どれも焼き上がった状態で届いている。出力が意味のない羅列でなくなるまで、内部を一本ずつずらすのに何か月ぶんもの電力が費やされ、それから世に出た。研究所はあとから戻って調整できるし、公開されている重みのモデルなら本格的な機材を持つ人なら誰でもできる。まず動かないのは、あなたが文字を打つことだ。😎
●●○
Detail
学習はこの機械が実際に作られる工程で、仕組み自体は十分に単純だ。単語をひとつ隠し、当てさせ、どれだけ外したか見て、数値をすべて良い方向へ髪の毛ほどずらす。データセンターと何か月ぶんの電力を使ってそれを何兆回か繰り返すと、意味のない羅列が流暢な言語になる。文法を渡してこの工程を省けばいいのでは。「ちょっと軽い散歩」は通るのに「軽いちょっとした散歩」が通らない理由を言葉にしてみて、それを各言語で何百万回か繰り返してほしい。その一覧を完成させた人は誰もいないので、機械のほうが自力で規則を見つけにいく。だから「ChatGPTに自分の文体を学習させた」も、起きたこととは少し違う。あなたが渡したのは指示だ。アプリが次回のために保存することはあっても、モデル本体には指一本触れていない。😎
●●●
Analogy
ゲームがうまくなる過程と同じだ。物理エンジンの仕様書など読んでいない。操作するキャラが二百回死に、手のほうが黙って要領を掴んだ。あとから何を覚えたのか聞かれても言葉にできない。それはパーティーでは気まずいが、この仕組みそのものでもある。😎
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
正式な定義 — 同じ用語の、よくある説明
学習とは、データセット上で計算される損失関数を最小化するようモデルのパラメータを反復的に調整する工程であり、通常は誤差逆伝播法を伴う確率的勾配降下法によって行われる。実運用されるシステムの多くでは、事前学習に続いて指示調整や人間のフィードバックによる強化学習といった段階が置かれ、いずれも配備の前に完了する。これに対して推論は、確定したパラメータを新しい入力へ適用するだけで、それらを変更することはない。
「training」のような言葉を、ブラウザ上でそのままClickedに解説させませんか？PDFにも対応。
Chromeに追加 — 無料無料で50回の解説 · クレジットカード不要
ギャラリーの他の記事
「推論（インファレンス）」とは？
モデルが実際の仕事をしている状態。安いほうの半分が最も高くつく理由も。
「ファインチューニング」とは？
完成済みモデルを自分のデータで追加訓練すること。RAGとの違いも。
「誤差逆伝播法（バックプロパゲーション）」とは？
ひとつの最終誤差が、何百万の設定への正確な調整に変わる仕組み — ゴールシークの超巨大版。
「ニューラルネットワーク」とは？
ルールを書いてもらう代わりに、例からルールを学ぶ数学。それが勝つ理由も。
「確率的勾配降下法（SGD）」とは？
無数のダイヤル、ひとつの間違い度スコア — モデルが実際に学ぶ仕組み、小さな一歩ずつ。
知識のカットオフとは？
モデルが学ぶのをやめた日付。知っていることを縛るだけで、伝えられることは縛らない。