¿Qué es CUDA?

CUDA es el software mediante el cual los programadores usan los chips gráficos de Nvidia para computación general, desde simulaciones de física hasta el entrenamiento de modelos de IA, y no para dibujar gráficos. Un programador escribe en un lenguaje corriente como C++ o Python, y CUDA convierte ese programa en trabajo que los miles de núcleos del chip pueden realizar juntos. Nvidia lo lanzó en 2007; la primera tarjeta capaz de ejecutarlo, de 2006, llevaba 128 núcleos. No hace que el chip sea más rápido. Hace que el chip sea alcanzable.

CUDA es la plataforma de Nvidia para programar sus chips gráficos: las extensiones de lenguaje, las herramientas y las bibliotecas ya hechas a través de las cuales casi todo el software llega a los miles de núcleos de una GPU. Una GPU recibe su trabajo con una forma concreta, y antes de 2007 la vía práctica de entrada era el software de gráficos, así que otros problemas había que reescribirlos como trabajo gráfico. CUDA dio a los programas generales una vía de entrada directa, y desde entonces el código, las bibliotecas y las personas formadas del campo se han acumulado sobre ella. Aquí hay dos cosas fáciles de confundir. El chip está abierto: otras empresas escriben su propio software para hablar con estas GPU, y funciona. El código no: un programa escrito sobre CUDA se ejecuta en los chips de Nvidia y, en la práctica, en ningún otro sitio. Moverlo significaría reconstruir las bibliotecas de CUDA para los chips de otro fabricante, una cantidad enorme de software que cambia con cada versión y pertenece a Nvidia. Los intentos existen y siguen años por detrás. Una capa de software suele prometer que lo de debajo se puede cambiar, y esa es justo la promesa que CUDA no hace. Así que el trabajo nuevo de IA va donde ya corre el código existente, y elegir el software ha elegido el hardware. De los 500 superordenadores más rápidos del mundo en noviembre de 2024, más de un tercio funcionaban con GPU de Nvidia.

CUDA es la partitura, y la GPU es la orquesta. Sus 100 músicos están sentados y listos, y ningún compositor recorre la sala diciéndole a cada uno lo que debe hacer; eso llevaría toda la noche y arruinaría la pieza. La partitura es la forma que se dirige a todos a la vez: escrita una sola vez, leída en paralelo, cada músico encontrando su propia línea. Aprender a escribir para orquesta es aprender a escribir en esa forma. Dale a esos mismos 100 músicos un ensayo en prosa y no pasará nada, por brillante que sea el ensayo: los músicos están dispuestos, pero la forma es la equivocada. Eso es CUDA: ni los músicos, ni la música, sino la forma que debe tomar el trabajo para llegar a cien manos a la vez.