Clicked Gallery
GPU(画像処理装置)とは?
実際の技術ドキュメントでハイライトされた言葉を、Clickedが解説します。
例文
Engineering Notes · AI Systems
The startup had spent most of its new funding renting GPU clusters to train its models.
読者がドキュメント内の単語をハイライトすると、Clickedが技術用語「GPU」をシンプルに解説しました:
3段階での解説
●○○
Overview
GPU(graphics processing unit)とは、同じ単純な演算を何千もの数に一度に適用するチップです。CPUは深さで働き、一つの作業を多様な手順で進めます。GPUは幅で働き、一つの手順を全データに同時に走らせます。画面を描くのは幅の仕事で、だからこのチップはグラフィックスのために作られました。AIの訓練ははるかに大規模な幅の仕事で、だから同じチップが今、AIの中心にあるのです。
●●○
Detail
GPUは、何千ものことを同時に行うことでコンピュータを速くするチップです。CPUには強力なコアが少数あり、一つの作業を多様な手順で順番に進めます。GPUには単純なコアが何千もあり、全員が同じ手順を同時に、それぞれ自分の担当データに対して実行します。この設計は画面の要求から生まれました。画像は何百万ものピクセルで、どれも毎フレーム同じ計算が要り、一つのコアの順繰りでは間に合わない。だからグラフィックスチップは何千ものコアを育て、束をまとめて片付けるようになりました。数十年後、AIの訓練が同じ形の仕事だと判明します。ニューラルネットワークの中身はほぼ、巨大な数の格子の掛け算。同じ演算の数十億回の繰り返しで、グラフィックス用チップは最初から適任だったのです。この設計は年々重要になっています。個々のコアは何年も前からほとんど速くならず、追加の速度は「同時にもっとやる」ことから来るしかない。限界もあります。恩恵があるのは、同一で独立した断片に割れる仕事だけ。各手順が前を待つ仕事、税務申告書を一行ずつ埋める作業は、隣でGPUのコアが何千個遊んでいてもCPUに残ります。大規模モデルの訓練は極端な例です。データセンターのGPU数千基が数か月ふさがり、ニュースが「計算資源(コンピュート)」と言うとき、数えているのはこのチップです。
●●●
Analogy
試験の採点がこの分業を示しています。千枚のマークシートには、同じ解答用テンプレートを千回当てる必要があります。教授が一枚ずつ確認すれば徹夜です。五百人の助手に、テンプレートと二枚ずつ配れば数分で終わる。助手に専門知識は要りません。判断はすべてテンプレートが担っている。それがGPUです。単純な手が大勢、共有される指示がひとつ。記述問題は別種の仕事です。最初から最後まで追うべき一つの論証なので、教授が一人で担当します。それがCPUです。コンピュータも仕事を同じように分けます。千件の同一チェックはGPUへ、順番に読むべき一つの論証はCPUへ。
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
事実はそのまま、ノリだけ変えて — スラングモード 😎
●○○
Overview
GPUはAI業界全体が行列を作るチップで、笑えるのは、ビデオゲームを綺麗に見せるために作られたということ。技は一度も変わっていない。同じ極小の計算を、あらゆる場所で、全部一度に。爆発のレンダリングとは、その計算を百万ピクセルで同時に走らせることで、ゲーマーたちが二十年分の開発費を出してくれた。するとチャットボットが、まったく同じ技を千倍の量で必要とすると判明し、ゲーム用チップはAIブームを回す側になった。😎
●●○
Detail
GPUはとんでもない数の小さな計算を同時にこなし、その一芸が今や市場を動かしている。AIの記事を読めば「計算資源(コンピュート)」という言葉が出てくる。コンピュートとはGPUのことだ。スタートアップは大金を集め、このチップの時間貸しに溶かす。データセンター向けの一基はそこそこの車より高く、クラスタは数万基に達し、企業は海軍が艦艇を数えるようにGPUの保有数を誇る。それもこれも、名前がいまだに「画像処理装置」の部品のためだ。笑いどころはここで、AI仕事をしている個体はグラフィックスに一切触れない。ラックに収まり、画面もつながず、純粋な数学だけをやっていて、名前を更新する者が誰もいなかった。あなたのノートPCの小さいやつは今も本来の仕事をして、画面へピクセルを押し出している。見出しが省く注意点をひとつ。GPUが値段分working働くのは、仕事が同一の断片に割れて、データが餌切れしない速さで届くときだけ。どちらかをしくじれば、世界一高価な「待つための機械」の出来上がりだ。😎
●●●
Analogy
GPUは、木一本につき一人のボランティア軍団で挑むリンゴ収穫の日。スター収穫人、この話のCPUは、誰よりも速く一本を丸裸にできるが、それでも一人では一週間かかる。ボランティアにはルールを一つだけ配る。赤いものを全部摘め。すると昼までに果樹園は空になる。ボランティアの誰一人、スターの半分の腕もない。速さは仕事を割ったことから来たのであって、才能からではない。細則もそこに住んでいる。あれだけの人数をバスで運ぶには段取りが要るし、木箱の到着が遅れれば、数百人の収穫人がトラック一台を眺めて突っ立つことになる。そして接ぎ木は、一刀一刀が前の一刀に依存する仕事で、群衆の出る幕ではない。その仕事はスター収穫人、CPUに戻る。ノートPCに今も必ず一つ載っている理由だ。😎
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
正式な定義 — 同じ用語の、よくある説明
画像処理装置(GPU)とは、同一の命令を大きなデータブロックに対して並列に実行する数千の演算コアを備えた特化型プロセッサである。元来はリアルタイムグラフィックスの描画のために開発されたが、このアーキテクチャは、科学シミュレーションやニューラルネットワークの訓練・推論を含む、密な線形代数が支配的なあらゆる作業負荷に効率的であることが判明した。逐次処理と制御の仕事を担う中央処理装置を置き換えるのではなく補完し、データセンター向けの派生型は広帯域メモリと高速相互接続を加えて数千チップのクラスタで動作する。
「GPU」のような言葉を、ブラウザ上でそのままClickedに解説させませんか?PDFにも対応。
Chromeに追加 — 無料無料で50回の解説 · クレジットカード不要
ギャラリーの他の記事
「ニューラルネットワーク」とは?
ルールを書いてもらう代わりに、例からルールを学ぶ数学。それが勝つ理由も。
AIにおける学習(トレーニング)とは?
例からモデルを作り上げる工程。あとから話しかけても何も変わらない。
「推論(インファレンス)」とは?
モデルが実際の仕事をしている状態。安いほうの半分が最も高くつく理由も。
「量子化」とは?
モデルの数値を粗く保存する——メモリ半分、損失ほぼなし。
大規模言語モデル(LLM)とは?
次に来る文章を予測するプログラム。そのあとで、だらだら続けずに答えるよう仕込まれている。
「エッジコンピューティング」とは?
データセンターではなく機器の上で処理すること。それを必要とする3つの場面。