Clicked Gallery
Was ist eine GPU (Grafikprozessor)?
Markiert in einem echten Engineering-Dokument. Erklärt von Clicked.
Im Satz verwendet
Engineering Notes · AI Systems
The startup had spent most of its new funding renting GPU clusters to train its models.
Der Leser markierte ein Wort in der Dokumentation. Clicked erklärte den Fachbegriff „GPU“ ganz einfach:
In drei Stufen erklärt
●○○
Overview
Eine GPU, kurz für Grafikprozessor (graphics processing unit), ist ein Computerchip, der ein und dieselbe einfache Operation auf Tausende Zahlen gleichzeitig anwendet. Eine CPU arbeitet in die Tiefe und führt eine Aufgabe durch viele verschiedene Schritte. Eine GPU arbeitet in die Breite: ein Schritt, ausgeführt über alle Daten zugleich. Einen Bildschirm zu zeichnen ist Breitenarbeit, dafür wurde der Chip gebaut. KI zu trainieren ist Breitenarbeit in weit größerem Maßstab, und darum steht derselbe Chip heute im Zentrum der KI.
●●○
Detail
Eine GPU ist ein Chip, der Computer schneller macht, indem er Tausende Dinge gleichzeitig tut. Eine CPU hat wenige starke Kerne, die eine Aufgabe der Reihe nach durch verschiedene Schritte führen; eine GPU hat Tausende einfache Kerne, die alle denselben Schritt zugleich ausführen, jeder auf seinem Stück der Daten. Das Design stammt von dem, was Bildschirme verlangen. Ein Bild sind Millionen Pixel mit derselben Arithmetik in jedem Einzelbild, und ein Kern der Reihe nach käme nie hinterher, also wuchsen Grafikchips Tausende Kerne für den ganzen Stapel auf einmal. Jahrzehnte später erwies sich KI-Training als Arbeit derselben Form. Ein neuronales Netz ist überwiegend Multiplikation über riesige Zahlenraster, dieselbe Operation milliardenfach wiederholt, also war der Grafikchip bereits das richtige Werkzeug. Das Design zählt jedes Jahr mehr. Einzelne Kerne wurden vor Jahren kaum noch schneller, also muss zusätzliches Tempo daher kommen, mehr auf einmal zu tun. Die Grenze: Nur Arbeit, die in identische, unabhängige Stücke zerfällt, lässt sich so verteilen. Wo jeder Schritt auf den vorigen wartet, ein Steuerformular Zeile für Zeile, bleibt alles auf der CPU, egal wie viele GPU-Kerne daneben leerlaufen. Ein großes Modell zu trainieren ist der Extremfall: Tausende Rechenzentrums-GPUs sind monatelang beschäftigt, und wenn die Nachrichten sagen, ein Labor habe „Compute“, sind diese Chips gemeint.
●●●
Analogy
Klausuren korrigieren zeigt die Teilung. Tausend Multiple-Choice-Bögen brauchen dieselbe Lösungsschablone, tausendfach angewandt. Ein Professor, der Bogen um Bogen prüft, braucht die ganze Nacht. Fünfhundert Helfer, jeder mit der Schablone und zwei Bögen, sind in Minuten fertig. Die Helfer müssen nichts können; die Schablone trägt das ganze Urteil, und das ist die GPU: viele einfache Hände, eine geteilte Anweisung. Der Aufsatz ist die andere Art Arbeit. Er ist ein Argument, dem man von Anfang bis Ende folgen muss, also geht er allein an den Professor, und das ist die CPU. Ein Computer teilt seine Arbeit genauso: die tausend identischen Prüfungen gehen an die GPU, das eine Argument, das der Reihe nach gelesen werden muss, an die CPU.
KI-Erklärungen können Fehler enthalten · Keine professionelle Beratung
Gleiche Fakten, anderer Vibe — Slang-Modus 😎
●○○
Overview
Die GPU ist der Chip, für den die ganze KI-Branche Schlange steht, und gebaut wurde er, damit Videospiele gut aussehen. Der Trick blieb derselbe: dieselbe winzige Rechnung, überall, alles auf einmal. Eine Explosion zu rendern heißt, diese Rechnung über eine Million Pixel gleichzeitig laufen zu lassen, also finanzierten Gamer zwanzig Jahre seiner Entwicklung. Dann brauchten Chatbots exakt denselben Trick in tausendfacher Dosis, und der Spielechip fand sich an der Spitze des KI-Booms wieder. 😎
●●○
Detail
Eine GPU macht eine absurde Zahl kleiner Rechnungen auf einmal, und diese eine Fähigkeit bewegt inzwischen Märkte. Lies irgendeine KI-Meldung, und das Wort „Compute“ taucht auf. Compute heißt GPUs. Start-ups sammeln Vermögen ein und verbrennen sie beim stundenweisen Mieten dieser Chips. Eine einzelne Rechenzentrumseinheit kostet mehr als ein ordentliches Auto, Cluster erreichen Zehntausende Einheiten, und Firmen zählen ihre GPU-Bestände auf wie Marinen ihre Schiffe. All das für ein Teil, dessen Name immer noch Grafikprozessor lautet. Der Witz: Die KI-Versionen berühren nie Grafik. Sie stecken in Racks und rechnen pure Mathematik, ohne angeschlossenen Bildschirm, und den Namen hat schlicht niemand aktualisiert. Die kleine in deinem Laptop macht noch den Originaljob und schiebt Pixel auf dein Display. Und ein Haken, den die Schlagzeilen auslassen: Eine GPU verdient ihren Preis nur, wenn die Arbeit in identische Stücke zerfällt und die Daten schnell genug ankommen, um sie zu füttern. Verpatz eines von beidem, und du besitzt die teuerste Art der Welt, zu warten. 😎
●●●
Analogy
Eine GPU ist Apfelerntetag mit einer Armee Freiwilliger, einer pro Baum. Der Starpflücker, die CPU dieser Geschichte, leert einen Baum schneller als jeder andere, und bräuchte allein auf sich gestellt trotzdem eine Woche. Die Freiwilligen bekommen eine einzige Regel, alles Rote pflücken, und der Hang ist bis zum Mittag leer. Kein Freiwilliger ist halb so gut wie der Star. Das Tempo kam vom Aufteilen der Arbeit, nicht vom Talent. Das Kleingedruckte wohnt auch dort. Eine solche Menge heranzukarren braucht Organisation, und kommen die Kisten zu spät, stehen Hunderte Pflücker herum und schauen einem Lastwagen zu. Und das Veredeln, wo jeder Schnitt vom vorigen abhängt, ist kein Job für eine Menge. Diese Aufgabe geht zurück an den Starpflücker, die CPU, und darum steckt in jedem Laptop noch einer. 😎
KI-Erklärungen können Fehler enthalten · Keine professionelle Beratung
Formale Definition — Derselbe Begriff, wie er sonst erklärt wird
Ein Grafikprozessor ist ein spezialisierter Prozessor mit Tausenden Arithmetikkernen, die dieselbe Instruktion parallel über große Datenblöcke ausführen. Ursprünglich für Echtzeitgrafik entwickelt, erwies sich die Architektur als effizient für jede von dichter linearer Algebra dominierte Last, einschließlich wissenschaftlicher Simulation sowie Training und Inferenz neuronaler Netze. Sie ergänzt die Zentraleinheit, statt sie zu ersetzen; diese behält sequenzielle und Steuerungsarbeit. Rechenzentrumsvarianten fügen Speicher mit hoher Bandbreite und schnelle Verbindungen hinzu, um in Clustern aus Tausenden Chips zu arbeiten.
Soll Clicked Begriffe wie „GPU“ direkt in deinem Browser erklären – auch in PDFs?
Zu Chrome hinzufügen — Kostenlos50 kostenlose Erklärungen · Keine Kreditkarte nötig
Mehr aus der Galerie
Was ist ein neuronales Netz?
Mathematik, die Regeln aus Beispielen lernt, statt sie geschrieben zu bekommen, und warum das gewinnt.
Was ist Training in der KI?
Der Vorgang, der ein Modell aus Beispielen baut. Später mit ihm zu chatten ändert daran nichts.
Was ist Inferenz (in der KI)?
Das Modell bei seiner eigentlichen Arbeit, und warum die billige Hälfte am Ende am meisten kostet.
Was ist Quantisierung?
Die Zahlen eines Modells ungenauer speichern — halber Speicher, kaum Verlust.
Was ist ein großes Sprachmodell (LLM)?
Ein Programm, das den nächsten Text vorhersagt und dem man danach beigebracht hat zu antworten statt weiterzuschreiben.
Was ist Edge Computing?
Die Arbeit auf dem Gerät statt im Rechenzentrum, und die drei Situationen, die das erfordern.