Der optimale KI-Rechner ist für die meisten Leute der, den sie schon besitzen. Wer ChatGPT, Claude oder Gemini im Browser benutzt, lässt die KI gar nicht auf dem eigenen Gerät rechnen. Sie arbeitet in einem Rechenzentrum, der Laptop schickt bloß Text hin und her. Dafür reicht eine Maschine, die auch ein YouTube-Video abspielt.
Spannend wird die Frage erst, wenn die KI wirklich auf dem eigenen Rechner laufen soll. Lokal, offline, ohne dass Daten das Haus verlassen. Dann zählt plötzlich Hardware, und da vor allem eine einzige Zahl.
Inhaltsverzeichnis
Brauchst du überhaupt einen eigenen KI-Rechner?
Zwei Situationen, zwei völlig verschiedene Antworten. Nutzt du KI über die großen Anbieter im Browser oder in der App, brauchst du nichts Besonderes. Die Rechenarbeit passiert in der Cloud, dein Gerät ist nur Fenster und Tastatur. Selbst ein sechs Jahre alter Laptop kommt damit klar.
Willst du dagegen ein Sprachmodell selbst auf der Platte haben und offline betreiben, wird es ernst. Das geht mit ganz normaler Consumer-Hardware, ein Supercomputer ist nicht nötig. Wie das praktisch aussieht, steht ausführlich im Artikel über die eigene KI auf dem Rechner. Hier geht es um die Frage davor. Welche Maschine dafür taugt.
Der Unterschied ist grundlegend. Für Cloud-KI wie ChatGPT braucht es keinen speziellen KI-Rechner. Erst der lokale Betrieb eines Modells stellt echte Anforderungen an die Hardware.
Was die NPU auf dem Werbeaufkleber wirklich kann
Seit 2024 klebt auf vielen neuen Laptops das Etikett »AI PC« oder »Copilot+ PC«. Dahinter steckt ein zusätzlicher Chip, die NPU. Microsoft verlangt für das Copilot+ Siegel eine NPU mit mindestens 40 TOPS, dazu 16 GB Arbeitsspeicher, eine SSD ab 256 GB und Windows 11 in Version 24H2 oder neuer. Qualifiziert sind derzeit Snapdragon X, Intel Core Ultra der 200V-Reihe und AMD Ryzen AI 300.
Eine NPU (Neural Processing Unit) ist ein Spezialchip für KI-Berechnungen, der neben Prozessor und Grafikkarte sitzt. Sie ist auf kleine, dauerhaft laufende KI-Funktionen ausgelegt und dabei sehr sparsam. Für große Sprachmodelle ist sie kaum geeignet.
Klingt nach Zukunft. Im Alltag ist die NPU aber vor allem für kleine, dauerhaft laufende Dinge zuständig. Untertitel in Echtzeit, Bildeffekte in Videocalls, ein paar Windows-Funktionen. Für das, was die meisten unter KI verstehen, also ein großes Sprachmodell flüssig laufen zu lassen, ist sie kaum gebaut.
Die 40-TOPS-Marke ist eine Zertifizierungshürde, kein Leistungsversprechen. Jeder Copilot+ Rechner reißt sie, und trotzdem sagt die Zahl fast nichts darüber, wie schnell ein lokales Modell antwortet. Wer sich davon einen KI-Rechner verspricht, kauft womöglich vor allem ein Etikett. Die genauen Vorgaben stehen in Microsofts eigener Entwicklerdokumentation.
Und das Handy? Ein modernes iPhone oder Android-Gerät hat längst eine eigene NPU und fährt kleine Modelle tatsächlich lokal, Apple Intelligence auf der einen, Gemini Nano auf der anderen Seite. Nur reden wir hier von Winzlingen mit ein bis drei Milliarden Parametern, kurzem Kontext und einem Akku, der solche Rechnerei nicht lange mitmacht. Für eine schnelle Zusammenfassung reicht das. Ein vollwertiges Sprachmodell ersetzt das Telefon nicht, und der KI-Rechner in der Hosentasche bleibt vorerst ein Versprechen.
VRAM ist die Zahl, auf die es ankommt
Läuft ein Modell wirklich auf dem eigenen Rechner, entscheidet der Grafikspeicher fast alles. VRAM heißt dieser Speicher, und er sitzt auf der Grafikkarte, getrennt vom normalen Arbeitsspeicher. Ein Modell muss möglichst komplett hineinpassen. Tut es das, antwortet es zügig, unter guten Bedingungen mit mehreren Dutzend Token pro Sekunde, je nach Modell und Karte. Passt es nicht, lagert die Software Teile in den langsameren Arbeitsspeicher aus, und das Tempo bricht um das Fünf- bis Zehnfache ein.
VRAM ist der Speicher direkt auf der Grafikkarte, getrennt vom normalen Arbeitsspeicher. Ein KI-Modell muss möglichst vollständig hineinpassen, um schnell zu antworten. Wie viel VRAM eine Karte hat, entscheidet über die Größe des Modells, das flüssig läuft.
Wie viel Speicher ein Modell frisst, hängt an seiner Größe und an der Quantisierung, also der Art, wie stark die Zahlen im Modell zusammengestaucht werden. Als grobe Faustregel gelten rund 0,6 Gigabyte pro Milliarde Parameter bei der gängigen Q4-Kompression. Ein 7B-Modell kommt so mit etwa fünf Gigabyte aus, ein 70B-Modell braucht rund vierzig.
Das erklärt, warum kleine Modelle so beliebt sind. Ein 7B- oder 14B-Modell wie Google Gemma läuft auf bescheidener Hardware und antwortet flott. Der Haken sitzt woanders. Kleine Modelle sind bei seltenen, speziellen Fragen schwächer, wie eine Untersuchung mehrerer Universitäten gezeigt hat. Mehr VRAM heißt größeres Modell, und das heißt in der Regel bessere Antworten.
Welche Grafikkarte sich lohnt
Bei der Grafikkarte gilt eine simple Regel. Nimm so viel VRAM, wie das Budget hergibt, der Rest ist zweitrangig. Eine Einstiegskarte mit acht Gigabyte lässt 7B-Modelle flüssig laufen. Sechzehn Gigabyte bringen 14B-Modelle bequem unter und 32B mit Abstrichen.
Ganz oben steht seit Jahren Nvidia. Die RTX 4090 mit 24 GB war lange die beste Einzelkarte für lokale KI. Die RTX 5090 legte Anfang 2025 nach, mit 32 GB Speicher und rund 1.792 Gigabyte pro Sekunde Bandbreite, fast achtzig Prozent mehr als beim Vorgänger. Zum Marktstart rief Nvidia 1.999 Dollar auf, in der Praxis liegt der Preis darüber. Wie stark der Konzern den Markt beherrscht, steht im Artikel darüber, wie Nvidia die halbe KI-Welt kontrolliert. Die technischen Daten der 5090 stehen auf Nvidias Produktseite.
| Grafikspeicher | Beispiel | Wofür es reicht |
|---|---|---|
| 8 GB | Einstiegskarte, Copilot+ Laptop | 3B bis 7B, flüssig |
| 16 GB | gehobene Mittelklasse | bis 14B, 32B mit Abstrichen |
| 24 GB | RTX 4090 | 32B komfortabel |
| 32 GB | RTX 5090 | 32B locker, 70B in Reichweite |
Der Apple-Weg mit Unified Memory
Wer keinen Windows-Turm mit dicker Grafikkarte will, hat mit Apple eine ungewöhnliche Alternative. Die aktuellen M-Chips teilen sich Arbeitsspeicher und Grafikspeicher, das nennt sich Unified Memory. Praktisch heißt das, der gesamte RAM kann als VRAM dienen.
Ein MacBook mit 32 oder 64 Gigabyte Unified Memory bringt damit Modelle unter, an denen ein vergleichbarer Windows-Laptop scheitert, weil dessen Grafikspeicher fest und knapp bemessen ist. Der Nachteil ist der Preis, viel Unified Memory kostet bei Apple spürbar Aufschlag. Und die Speicherbandbreite liegt trotz allem unter der einer dedizierten High-End-Grafikkarte, ein MacBook ist also eher solider Kompromiss als Geheimtipp. Dafür bleibt die Maschine leise und sparsam.
Was in einen KI-Rechner gehört
Das Grundgerüst ist überschaubar. Eine Grafikkarte mit möglichst viel VRAM, mindestens 16, besser 32 Gigabyte normaler Arbeitsspeicher, und eine schnelle SSD mit Platz. Modelle sind große Downloads, ein einzelnes 70B-Modell belegt gut vierzig Gigabyte auf der Platte. Der Prozessor darf ruhig schwach sein, ganz ohne geht es aber nicht. Die Grafikkarte rechnet zwar das Modell, doch booten, Modelle laden und die Ausgabe steuern muss weiterhin die CPU. Ein reiner Grafikkarten-Rechner ohne Prozessor existiert nicht.
Wer sich das Zusammenbauen sparen will, findet fertige KI-Workstations bei Systemhäusern, und Nvidia verkauft mit dem DGX Spark inzwischen einen eigenen Kleincomputer für lokale KI. Beides ist Nische und teuer. Für die meisten reicht ein normaler Rechner mit der passenden Grafikkarte.
Ein Wermutstropfen zum Schluss. Ausgerechnet der Arbeitsspeicher ist derzeit teuer wie selten. Ein 32-GB-DDR5-Kit kostete im Mai 2026 zwischen 400 und 450 Euro, ein Jahr zuvor lag dasselbe Kit bei 70 bis 90 Euro, wie die PC Games Hardware vorrechnet. Schuld ist die KI selbst. Samsung, SK Hynix und Micron lenken ihre Kapazitäten zum margenstarken Speicher für KI-Rechenzentren um, für normalen RAM bleibt weniger übrig. Wer bauen will, sollte den RAM-Preis also im Blick behalten. Eine Entspannung erwarten Analysten frühestens 2027.
Welche Modelle sich zum Herunterladen lohnen, ist eine eigene Frage. Neben Gemma sind vor allem die offenen chinesischen Modelle wie DeepSeek und Qwen einen Blick wert, weil sie stark und frei verfügbar sind. Programme wie Ollama laden das gewählte Modell dann in den Grafikspeicher und lagern nur aus, wenn es nicht passt.
Drei KI-Rechner im Vergleich
| Einsteiger | Solide | Kompromisslos | |
|---|---|---|---|
| Grafikspeicher | 8 GB | 16 GB | 24 bis 32 GB |
| Modellgröße | bis 7B | bis 14B | 32B bis 70B |
| Arbeitsspeicher | 16 GB | 32 GB | 64 GB |
| Wofür | Ausprobieren, Chatten | Täglicher Einsatz | Große Modelle, Dauerbetrieb |
Fünf Begriffe, die beim KI-Rechner ständig fallen
Quantisierung. Die Zahlen im Modell werden zusammengestaucht, etwa auf 4 Bit (Q4). Das spart Speicher und kostet nur wenig Qualität.
Token pro Sekunde. Das Tempo der Ausgabe. Ein Token ist grob ein Wortteil. Ab etwa 20 Token pro Sekunde liest es sich flüssig.
TOPS. Billionen Rechenoperationen pro Sekunde, das Werbemaß für NPUs. Sagt wenig über die echte Modellgeschwindigkeit.
Unified Memory. Bei Apple geteilter Speicher für Prozessor und Grafik. Der ganze Arbeitsspeicher kann als VRAM dienen.
Offloading. Passt ein Modell nicht in den VRAM, wandern Teile in den langsameren Arbeitsspeicher. Das Tempo bricht dann stark ein.
Der beste KI-Rechner ist am Ende der, dessen Grafikspeicher zu dem passt, was du wirklich vorhast. Wer nur mit der Cloud arbeitet, spart sich die ganze Frage. Alles andere steht meistens nur auf dem Aufkleber. (lk)
