CUDAとは？

CUDAとは、プログラマがNvidiaの画像処理チップを、画像を描くためではなく一般的な計算に使うためのソフトウェアです。物理シミュレーションからAI模型の訓練まで、用途は幅広くあります。プログラマはC++やPythonといった普通の言語で書き、CUDAがその計画をチップの何千ものコアが一緒に片づけられる仕事へと変えます。Nvidiaは2007年にこれを出しました。それを動かせた最初のカードは2006年のもので、128個のコアを積んでいました。チップを速くするのではありません。チップに手が届くようにするのです。

CUDAとは、Nvidiaが自社の画像処理チップをプログラミングするために用意した基盤です。言語の拡張、道具類、そして出来合いの部品集であり、ほとんどのソフトウェアはこれを通してGPUの何千ものコアに届きます。GPUは決まった形でしか仕事を受け取らず、2007年より前に現実的だった入口は画像処理のソフトウェアでした。だから別の問題は、画像の仕事として書き直すしかなかったのです。CUDAは一般の計画に直接の入口を与え、それ以来この分野のコード、部品集、訓練を受けた人材がその上に積み上がってきました。ここには取り違えやすいものが二つあります。チップのほうは開かれています。他社もこれらのGPUと話すための独自のソフトウェアを書いていて、それは動きます。コードのほうは開かれていません。CUDAの上に書かれた計画はNvidiaのチップで動き、事実上ほかのどこでも動きません。移すとなれば、別の製造元のチップ向けにCUDAの部品集を作り直すことになります。版が変わるたびに中身が動き、しかもNvidiaの持ち物である、膨大な量のソフトウェアです。試みは存在しますが、何年も後ろを走り続けています。ソフトウェアの層はふつう、下にあるものは取り替えられると約束しますが、CUDAが決してしないのがまさにその約束です。だから新しいAIの仕事は、既存のコードがすでに動く場所へ向かい、ソフトウェアを選んだ時点でハードウェアも選ばれてしまいます。2024年11月時点で、世界の上位500台の超高速計算機のうち三分の一以上がNvidiaのGPUで動いていました。

CUDAは楽譜であり、GPUは管弦楽団です。100人の奏者が構えて座っていますが、作曲家が客席を歩き回って一人ずつに指示を出したりはしません。それでは一晩かかり、曲も台無しです。楽譜は全員に同時に語りかける形式です。一度書かれ、同時に読まれ、奏者はそれぞれ自分の段を見つけます。管弦楽のために書けるようになるとは、その形式で書けるようになることです。同じ100人に散文の随筆を渡しても、どれほど見事な随筆でも何も起こりません。奏者にその気はあるのに、形式が違うからです。それがCUDAです。奏者でも音楽でもなく、百の手に同時に届くために仕事が取らねばならない形式のことです。