KI, GPUs und NVIDIA: Warum plötzlich alle über Grafikkarten reden

Samstag, 29. August 2026

Wer sich auch nur halbwegs mit Künstlicher Intelligenz beschäftigt, stolpert inzwischen ständig über drei Buchstaben: GPU.

NVIDIA baut GPUs, Microsoft kauft GPUs, Google braucht GPUs, OpenAI braucht GPUs, Rechenzentren werden wegen GPUs gebaut, und zwischendurch stellt irgendjemand erschrocken fest, wie viel Strom der ganze Spaß benötigt.

Aber was ist eigentlich eine GPU und warum braucht Künstliche Intelligenz ausgerechnet etwas, das ursprünglich einmal für Computergrafik entwickelt wurde? Tatsächlich habe ich das technisch noch nie verstanden. Trotz privater und beruflicher IT-Affinität kreuzten sich die Wege bisher nicht. Ich habe immer nur Nachrichten bekommen, dass der Kurs der Aktie durch die Decke geht. Jetzt hatte ich doch mal die Muße, die Sache zu beleuchten.

GPU steht für „Graphics Processing Unit“, auf Deutsch Grafikprozessor. Ursprünglich wurden diese Prozessoren entwickelt, um Grafiken möglichst schnell zu berechnen. Computerspiele, dreidimensionale Welten, Licht, Schatten, Texturen und Millionen von Bildpunkten müssen schließlich ständig neu berechnet werden. Irgendwann stellte sich dann heraus, dass genau die Architektur, die dafür sorgt, dass Computerspielfiguren immer realistischer durch die Gegend laufen, auch hervorragend dazu geeignet ist, Künstliche Intelligenz zu berechnen.

CPU gegen GPU

In einem normalen Computer sitzt zunächst einmal eine CPU, die „Central Processing Unit“. Das ist der klassische Hauptprozessor. Eine CPU besitzt vergleichsweise wenige, dafür sehr leistungsfähige Rechenkerne und ist hervorragend darin, unterschiedliche und komplizierte Aufgaben abzuarbeiten.

Eine GPU funktioniert anders. Sie besitzt sehr viele kleinere Recheneinheiten, die gleichzeitig arbeiten können. Vereinfacht könnte man sagen: Die CPU sagt: „Gib mir eine komplizierte Aufgabe, ich löse sie.“ Die GPU sagt dagegen: „Gib mir 10.000 ähnliche kleine Aufgaben, dann erledige ich die gleichzeitig.“

Und genau das ist der Punkt, an dem Künstliche Intelligenz ins Spiel kommt.

KI ist am Ende erstaunlich viel Mathematik

So beeindruckend es aussieht, wenn ChatGPT einen Text schreibt, ein KI-System ein Foto erzeugt oder ein Sprachmodell eine komplizierte Frage beantwortet: Unter der Haube findet keine Magie statt. Dort wird gerechnet. Und zwar in einem Umfang, den man sich nicht mehr vorstellen kann.

Neuronale Netze arbeiten mit riesigen Mengen von Zahlen. Vereinfacht gesagt werden dabei fortwährend Zahlen miteinander multipliziert, addiert und durch große mathematische Strukturen geschoben. Besonders wichtig sind sogenannte Matrix- und Vektorrechnungen. Moderne Sprachmodelle besitzen Milliarden von Parametern. Beim Training müssen diese Parameter immer wieder angepasst werden. Dafür sind gigantische Mengen relativ ähnlicher mathematischer Operationen notwendig. Und genau darin sind GPUs hervorragend.

Während eine CPU komplizierte Aufgaben sehr flexibel erledigen kann, kann eine GPU gewaltige Mengen ähnlicher Berechnungen parallel durchführen. Für neuronale Netze ist das geradezu ideal.

Stellen wir uns 10.000 Pakete vor

Vielleicht wird der Unterschied mit einem etwas profanen Beispiel verständlicher. Stellen wir uns vor, in einer Halle müssen 10.000 identische Pakete etikettiert werden. Eine CPU wäre – bildlich gesprochen – ein extrem qualifizierter Mitarbeiter. Er arbeitet schnell, bedient nebenbei das Warenwirtschaftssystem, beantwortet das Telefon und merkt auch noch, wenn bei Paket Nummer 4.738 die Postleitzahl nicht stimmt.

Eine GPU wäre dagegen eine Halle mit Tausenden etwas einfacheren Mitarbeitern. Jeder bekommt eine kleine, klar definierte Aufgabe und alle arbeiten gleichzeitig. Für KI braucht man erschreckend oft genau die zweite Halle.

Wenn also Milliarden mathematischer Operationen nach ähnlichen Mustern durchgeführt werden müssen, ist es wesentlich effizienter, sehr viele Berechnungen gleichzeitig auszuführen, anstatt einen einzelnen extrem leistungsfähigen Prozessor eine Rechnung nach der anderen erledigen zu lassen.

Jetzt kommt die Frage aller Fragen: Hat nicht auch ein Prozessor mehrere Cores, also Kerne, um ebenso gleichzeitig zu arbeiten wie eine GPU?

Der Unterschied liegt in der Größenordnung

Nehmen wir eine CPU mit beispielsweise 16 leistungsfähigen Kernen. Die kann tatsächlich 16 beziehungsweise durch zusätzliche Threads noch mehr Aufgaben parallel bearbeiten.

Eine GPU besitzt dagegen je nach Architektur Tausende Recheneinheiten. Bei NVIDIA heißen diese beispielsweise CUDA Cores. Dazu kommen bei modernen KI-GPUs spezialisierte Tensor Cores, die gerade für die bei KI wichtigen Matrixberechnungen optimiert sind.

Die CPU ist somit nicht ein einziger hochqualifizierter Mitarbeiter, sondern vielleicht eine kleine Mannschaft aus 16 oder 32 extrem gut ausgebildeten Mitarbeitern. Jeder davon kann komplizierte Entscheidungen treffen, unterschiedliche Aufgaben übernehmen und flexibel reagieren.

Die GPU wäre dagegen eine riesige Halle mit Tausenden Mitarbeitern, die gleichzeitig sehr ähnliche, relativ einfache Rechenschritte durchführen.

Warum baut man dann CPUs nicht einfach mit Tausenden Kernen?

Weil ein CPU-Kern erheblich komplexer ist. Er muss mit unterschiedlichsten Programmbefehlen umgehen können, Verzweigungen beherrschen, Betriebssystemaufgaben erledigen, Programme steuern und möglichst schnell auf ständig wechselnde Anforderungen reagieren. Dafür benötigt er unter anderem aufwendige Steuerlogik und große Caches.

Bei einer GPU wird viel mehr Chipfläche dafür verwendet, möglichst viele mathematische Recheneinheiten unterzubringen. Sie ist darauf optimiert, dieselbe oder eine ähnliche Operation auf sehr viele Daten gleichzeitig loszulassen.

Und plötzlich sitzt NVIDIA auf einer Goldmine

Damit versteht man auch, warum NVIDIA innerhalb weniger Jahre zu einem der wichtigsten Unternehmen der Welt geworden ist. NVIDIA war jahrzehntelang vor allem denjenigen ein Begriff, die sich mit Computern und insbesondere Computerspielen beschäftigten. Wer eine schnelle Grafikkarte wollte, landete ziemlich schnell bei NVIDIA. Dann kam der KI-Boom.

Dabei hatte NVIDIA einen entscheidenden Vorteil. Das Unternehmen stellte nicht einfach nur schnelle Grafikprozessoren her, sondern hatte mit CUDA bereits eine Softwareplattform geschaffen, über die Entwickler die enorme parallele Rechenleistung der GPUs für andere Aufgaben nutzen konnten. Als neuronale Netze immer wichtiger wurden, war also nicht nur passende Hardware vorhanden, sondern gleich ein komplettes Software-Ökosystem dazu.

Das Ergebnis kennen wir inzwischen. NVIDIA-GPUs wurden zu einem der wichtigsten Rohstoffe des KI-Zeitalters. Nur dass dieser Rohstoff nicht aus der Erde gebuddelt wird, sondern aus hochkomplexen Halbleiterfabriken kommt.

Die Grafikkarte im Rechenzentrum

Nun darf man sich allerdings nicht vorstellen, dass OpenAI oder Microsoft einfach in den nächsten Elektronikmarkt fahren und dort 20.000 Gaming-Grafikkarten aus dem Regal räumen. In großen KI-Rechenzentren kommen spezialisierte Rechenzentrums-GPUs beziehungsweise KI-Beschleuniger zum Einsatz.

Ein einzelner KI-Server kann mehrere dieser Hochleistungsprozessoren enthalten. Große KI-Rechenzentren bestehen wiederum aus Tausenden oder sogar Zehntausenden solcher GPUs. Damit diese gemeinsam an einem Modell rechnen können, müssen sie zusätzlich über extrem schnelle Netzwerke miteinander verbunden werden.

Und plötzlich versteht man, warum KI-Rechenzentren derartige Dimensionen erreichen. Es reicht eben nicht, einen gigantischen Computer irgendwo in eine Halle zu stellen. Man baut vielmehr riesige Verbünde aus Rechnern, GPUs, Speicher und Netzwerktechnik, die gemeinsam an denselben mathematischen Problemen arbeiten.

Training und Benutzung sind zwei verschiedene Dinge

Besonders gewaltig ist der Rechenaufwand beim Training eines KI-Modells. Dabei wird das neuronale Netz mit riesigen Datenmengen gefüttert und seine Milliarden Parameter werden immer wieder verändert, bis das Modell brauchbare Ergebnisse produziert.

Aber auch danach ist die Arbeit nicht vorbei. Wenn ich ChatGPT eine Frage stelle, muss das fertige Modell meine Eingabe verarbeiten und anschließend Wort für Wort beziehungsweise Token für Token die Antwort berechnen. Auch dafür wird Rechenleistung benötigt. Diesen Vorgang bezeichnet man als „Inference“.

Das bedeutet: Die GPUs werden nicht nur einmal benötigt, um ein Modell zu erschaffen. Sie werden anschließend weiterhin gebraucht, wenn Millionen Menschen dieses Modell benutzen.

Deshalb geht es plötzlich um Strom, Rechenzentren und Milliarden

Damit schließt sich der Kreis. Wer heute über Künstliche Intelligenz spricht, spricht zwangsläufig irgendwann über GPUs. Und wer über GPUs spricht, landet ziemlich schnell bei Rechenzentren, Stromversorgung, Kühlung, Halbleiterproduktion, gigantischen Investitionen und – Achtung – Wafern. Ich sprach darüber hier und hier, weil sich eine Spezialfirma in Neumarkt-Sankt Veit im stillgelegten Gebäude des ehemaligen Fitnesscenters ansiedeln möchte/wird.

Die beeindruckenden Fähigkeiten moderner KI beruhen nicht allein auf genialer Software. Dahinter steht eine gewaltige physische Infrastruktur. Fabriken produzieren die Chips, Rechenzentren beherbergen sie, Stromnetze versorgen sie und Kühlsysteme sorgen dafür, dass die ganze Veranstaltung nicht innerhalb kürzester Zeit zur teuersten Elektroheizung der Menschheitsgeschichte wird. Wobei es beim Versuch bleibt. Entstandene Wärme lässt sich nicht einfach in Luft auflösen. Entweder sie wird an die Luft abgegeben, oder man macht mit der Wärme noch irgendwas Vernünftiges – vielleicht das nächste Freibad beheizen. Aber auch dort ist die Wärme nicht einfach weg. Sie ist dann halt nur noch wo anders. Siehe auch Energieerhaltungssatz: Energie kann nicht vernichtet werden. Die Physik ist bei solchen Dingen leider kleinlich.

Ausgerechnet die gute alte Grafikkarte ist zu einer der Schlüsseltechnologien der Künstlichen Intelligenz geworden. Nicht weil KI besonders schöne Bilder braucht, sondern weil GPUs etwas können, was neuronale Netze dringend benötigen: eine ungeheure Zahl ähnlicher mathematischer Berechnungen gleichzeitig durchführen.

Und wenn beim nächsten KI-Artikel wieder von GPUs, NVIDIA und gigantischen Rechenzentren die Rede ist, weiß man zumindest, worum es eigentlich geht: um sehr, sehr viele kleine Rechnungen. Gleichzeitig. Verdammt schnell.

Ich finde schon, dass das Bloggen bildet. Es zwingt einen, sich mit Themen zu beschäftigen, die viele Menschen als uninteressant empfinden. Ich finde das alles hochspannend. Wer noch?