¿Qué es un clúster de cómputo?

Un clúster de cómputo es un grupo grande de ordenadores independientes, unidos por enlaces rápidos para que un mismo trabajo se ejecute en todos a la vez. Cada ordenador es una máquina completa, con sus propios chips de procesamiento y su propia memoria. Como esa memoria es suya y de nadie más, lo que una máquina calcula tiene que enviarse por los enlaces antes de que las demás puedan usarlo. Un trabajo repartido entre mil máquinas se detiene después de cada paso para que intercambien lo que han obtenido, y el siguiente paso espera a que informe la más lenta. El tamaño se mide en chips y no en máquinas, porque cada máquina suele llevar varios: en 2026 los mayores clústeres de entrenamiento de IA se anunciaban con 100.000 chips o más.

Un clúster de cómputo es lo que se construye cuando un trabajo desborda a cualquier máquina: cientos o miles de ordenadores cableados entre sí para resolver un mismo problema. Repartir un trabajo entre varias máquinas debería dividir el tiempo en la misma proporción, así que diez máquinas terminarían en una décima parte. No ocurre así. Una parte de cada trabajo no se puede repartir: la preparación que necesita cada máquina antes de que ninguna arranque, y esa parte fija no cambia por muchas máquinas que se sumen. Supongamos un trabajo de 100 días en solitario: 5 de esos días son la preparación fija y los otros 95 son trabajo repartible. Diez máquinas reducen esos 95 días a 9,5, así que el trabajo termina en 14,5 días y no en 10. Cien máquinas dejan esos mismos 95 días en menos de uno, y aun así el trabajo tarda unos 6, porque los 5 días fijos no se mueven. Esos 5 días son un suelo por debajo del cual no baja ningún número de máquinas, y la regla que hay detrás tiene nombre: la ley de Amdahl. La preparación, eso sí, es un coste de una sola vez. Una vez en marcha, las máquinas tienen que comparar lo que han obtenido, normalmente al final de cada paso, y el paso siguiente no empieza hasta que informa la más lenta. Cada uno de esos intercambios cruza el cableado, y por eso los enlaces entre máquinas se diseñan y se pagan con tanto cuidado como las máquinas. No todos los clústeres pagan ese precio: mil trabajos sin relación entre sí, ejecutados en paralelo y sin nada que comparar, se apañan con redes corrientes. Las máquinas también se averían, y cada una guarda una pieza del trabajo, así que una avería detiene la ejecución en lugar de ralentizarla. Repartido entre miles de máquinas durante un mes eso es rutina, así que los trabajos largos guardan su avance a intervalos y continúan desde la última copia en vez de empezar de nuevo.

Un clúster de cómputo es como una cuadrilla que levanta una torre planta por planta. El trabajo es demasiado grande para un solo albañil, así que cuarenta se reparten la planta y cada uno toma un tramo. Nadie puede empezar la planta de arriba hasta que todos los tramos de esta estén terminados. Así que la cuadrilla avanza al ritmo del que acaba el último, y al albañil rápido no le sirve de nada terminar antes. Antes de subir, además, los tramos tienen que comprobarse entre sí para que el nivel cuadre, y esa comprobación lleva su tiempo. Añade más albañiles y cada tramo se hace menor, pero la comprobación y la espera crecen. Un clúster funciona igual. Cada máquina toma un tramo de cada paso, ninguna sigue hasta que todas han comparado resultados, y cuantas más máquinas hay, más parte de cada paso se va en comparar en lugar de en trabajar.