{"id":31898,"date":"2026-07-14T17:36:01","date_gmt":"2026-07-14T15:36:01","guid":{"rendered":"https:\/\/pi3g.com\/?p=31898"},"modified":"2026-07-14T17:37:29","modified_gmt":"2026-07-14T15:37:29","slug":"nvidia-gb300-specifications-including-memory-bandwidth-and-llm-benchmarks-based-on-2026-systems","status":"publish","type":"post","link":"https:\/\/pi3g.com\/de\/nvidia-gb300-specifications-including-memory-bandwidth-and-llm-benchmarks-based-on-2026-systems\/","title":{"rendered":"Technische Daten der Nvidia GB300 (einschlie\u00dflich Speicherbandbreite und LLM-Benchmarks) auf Basis von Systemen aus dem Jahr 2026"},"content":{"rendered":"<p class=\"wp-block-paragraph\">Die Markteinf\u00fchrung der auf dem GB300 von Nvidia basierenden <a href=\"https:\/\/pi3g.com\/de\/nvidia-dgx-station-available-now-for-purchase-from-us\/\">DGX-Station<\/a> bietet Unternehmenskunden die M\u00f6glichkeit, direkt innerhalb ihrer eigenen Infrastruktur von bisher unerreichten Leistungsniveaus im Bereich der k\u00fcnstlichen Intelligenz zu profitieren.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Nvidia-GB300-Systeme wie das ASUS ExpertCenter Pro ET900N G3 (das ich in einem kommenden Artikel testen werde) \u00fcbertragen Spezifikationen der Rechenzentrums-Klasse in praktikable Desktop-Formate und erm\u00f6glichen es Technikern und Teams, bestehende Modelle ohne Abh\u00e4ngigkeiten von externen Cloud-Diensten oder damit verbundene Abonnements und mit minimalem Integrationsaufwand zu testen.\u00a0<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00dcber Leistungsvergleiche, die Speicherung sensibler Daten und den Schutz geistigen Eigentums ausschlie\u00dflich vor Ort hinaus k\u00f6nnen Unternehmen sichere Bereitstellungsstrategien pr\u00fcfen, die mit den Zielen ihres Unternehmens hinsichtlich der Datenhoheit im Einklang stehen.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Was die Bereitstellung betrifft, ist die DGX Station im Vergleich zu anderen L\u00f6sungen besonders attraktiv, da sie eine geringere betriebliche Komplexit\u00e4t aufweist und \u00fcber einen professionellen Enterprise-Stack verf\u00fcgt, der zahlreiche Rechenzentrumsfunktionen bietet, ohne den Aufwand einer Rechenzentrumsinfrastruktur mit sich zu bringen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Die Modelle, die derzeit vorbestellt werden k\u00f6nnen, werden vom \u201cNvidia GB300 Grace Blackwell Ultra Desktop Superchip\u201d angetrieben. Dieser vereint eine ARM-basierte Grace-CPU mit 72 Kernen und eine Blackwell Ultra-GPU in einem (typischerweise recht gro\u00dfen) Desktop-Tower-Geh\u00e4use. Ein Standard-System kann bis zu ca. 20 FP4-PFLOPS liefern (ohne Ber\u00fccksichtigung zus\u00e4tzlicher GPUs und thermischer Einschr\u00e4nkungen).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<div class=\"wp-block-buttons is-content-justification-center is-layout-flex wp-container-core-buttons-is-layout-fe48e5de wp-block-buttons-is-layout-flex\">\n<div class=\"wp-block-button\"><a class=\"wp-block-button__link wp-element-button\" href=\"https:\/\/pi3g.com\/de\/kontakt\/\">Erfahren Sie mehr \u00fcber die NVIDIA DGX Station-L\u00f6sungen<\/a><\/div>\n<\/div>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<h2 class=\"wp-block-heading\">GB300 \u2013 Technische Daten der Hardware<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Der Kern des oben genannten Nvidia-GB300-Pakets ist mit einem 748 GB gro\u00dfen koh\u00e4renten Speicherpool ausgestattet, der zwischen den GPU- und CPU-Kernen aufgeteilt ist (siehe unten). <strong>Derzeit ist dies bei allen Modellen und Anbietern identisch.<\/strong> Originalger\u00e4tehersteller (OEMs) unterscheiden ihre Artikelnummern (SKUs) jedoch durch die Integration verschiedener Komponenten. Beispiele hierf\u00fcr sind: Betriebssystem, Geh\u00e4useakustik\/-k\u00fchlung, Netzwerkanschl\u00fcsse und zus\u00e4tzliche Grafikkarten.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Prozessorarchitektur:<\/strong> GB300 Grace Blackwell Ultra Desktop Superchip<\/li>\n\n\n\n<li><strong>Maximale Modellgr\u00f6\u00dfe (Inferenz):<\/strong> Bis zu 1 Billion Parameter (bei Verwendung von FP4 oder quantisierten Formaten)<\/li>\n\n\n\n<li><strong>Maximale Modellgr\u00f6\u00dfe (Feinabstimmung):<\/strong> 200 bis 400 Milliarden Parameter (unter Verwendung von LoRA\/QLoRA)<\/li>\n\n\n\n<li><strong>Gesamtkapazit\u00e4t des koh\u00e4renten Speicherpools:<\/strong> 748 GB (integrierter CPU- und GPU-Speicherplatz)<\/li>\n\n\n\n<li><strong>GPU-Speicher (VRAM):<\/strong> 252 GB HBM3e<\/li>\n\n\n\n<li><strong>GPU-Speicherbandbreite:<\/strong> 7,1 TB\/s<\/li>\n\n\n\n<li><strong>CPU-Speicher (System-RAM):<\/strong> 496 GB LPDDR5X<\/li>\n\n\n\n<li><strong>Verbindungstechnik:<\/strong> NVLink-C2C (Chip-zu-Chip)<\/li>\n\n\n\n<li><strong>Verbindungsbandbreite:<\/strong> 900 GB\/s bidirektional<\/li>\n\n\n\n<li><strong>Formfaktor:<\/strong> Desktop-Workstation<\/li>\n<\/ul>\n\n\n\n<h3 class=\"wp-block-heading\">GB300-Leistungsmatrix bei 1600 Watt<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Angesichts der Integrationsbeschr\u00e4nkungen d\u00fcrfte die theoretische Spitzenleistung bei allen OEM-Ger\u00e4ten \u00e4hnlich ausfallen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>FP4-Tensor-Core:<\/strong> 20 PFLOPS (sp\u00e4rlich) \/ 15 PFLOPS (dicht)<br><strong>INT8-Tensor-Core:<\/strong> 330 Oberteile<br><strong>FP8 \/ FP6 Tensor-Core:<\/strong> 10 PFLOPS<br><strong>FP16-\/BF16-Tensor-Core:<\/strong> 5 PFLOPS<br><strong>TF32-Tensor-Core:<\/strong> 2,5 PFLOPS<br><strong>FP32:<\/strong> 80 TFLOPS<br><strong>FP64 \/ FP64-Tensor-Core:<\/strong> 1,3 TFLOPS<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">GB300-Benchmarks bei gro\u00dfen LLMs<\/h3>\n\n\n\n<figure class=\"wp-block-table\"><table class=\"has-fixed-layout\"><tbody><tr><td><strong>Modell \/ Arbeitslast<\/strong><\/td><td><strong>Tok\/Sek.<\/strong><\/td><\/tr><tr><td>Kimi 2,5, 1,1 T<\/td><td>40\u201350 (Gesamtzahl der Bahnh\u00f6fe)<\/td><\/tr><tr><td>Nemotron Ultra, 550B<\/td><td>~35 \/ einzelne Anfrage.  Skalierbar auf 4\u20135.<\/td><\/tr><tr><td>GLM-5.2-REAP 504B<\/td><td>~60<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Die GB300-Speicherarchitektur im Detail<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Das vielleicht charakteristischste Merkmal des GB300 ist die \u201czweistufige einheitliche Speicherarchitektur\u201d, die zwar riesige Modelle ausf\u00fchren kann, jedoch je nach Modellgr\u00f6\u00dfe (Gewichte + Kontext) zu Leistungseinbu\u00dfen f\u00fchren kann. Auf der prim\u00e4ren Ebene verf\u00fcgt das System \u00fcber HBM3e-GPU-Speicher mit einer Bandbreite von 7,1 TB\/s \u2013 ein Hochleistungs-Chip f\u00fcr Aufgaben wie Einbettung, Inferenz usw. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dar\u00fcber hinaus nutzt es eine koh\u00e4rente NVLink-C2C-Br\u00fccke, um mit einer Geschwindigkeit von 900 GB\/s auf standardm\u00e4\u00dfigen bzw. langsameren LPDDR5X-Speicher zuzugreifen, wodurch ein \u00dcberlaufpool f\u00fcr gro\u00dfe Arbeitslasten geschaffen wird. Wenn ein quantisiertes Modell \u2013 beispielsweise ein 100B-Modell mit FP4- oder FP8-Genauigkeit \u2013 vollst\u00e4ndig in den GPU-Pool passt, nutzt es die maximale Bandbreite von 7,1 TB\/s, um Token in atemberaubendem Tempo zu generieren. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Wenn jedoch die Gr\u00f6\u00dfe eines Modells diesen Schwellenwert \u00fcberschreitet (z. B. ein nicht quantisiertes FP32-Modell mit 100B oder Llama 3.1 mit 405B), greift das System \u00fcber die Koh\u00e4renzbr\u00fccke auf die \u00dcberlaufdaten zu; Dies kann sich negativ auf die Token-Generierung f\u00fcr jene Gewichte auswirken, die der 900-GB\/s-Grenze unterliegen, was zu einem R\u00fcckgang der (z. B. Inferenz-)Geschwindigkeiten bei Parametern f\u00fchrt, die au\u00dferhalb des reinen GPU-RAMs gespeichert sind. Positiv zu vermerken ist jedoch, dass bei richtiger Konfiguration die Optimierung von MoE-Modellen die Ausf\u00fchrung bisher unerreichbarer Workloads mit minimalen Einbu\u00dfen erm\u00f6glichen kann, sofern aktive und inaktive Experten (m\u00f6glicherweise mit unterschiedlichen Quantisierungen) innerhalb ihrer jeweiligen (HBM3e\/LPDDR5X-)RAM-Grenzen liegen.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">DGX Station-Produkte nach OEM<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Zum Zeitpunkt der Erstellung dieses Artikels sind dies die derzeit verf\u00fcgbaren Varianten:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>ASUS \u2013 ExpertCenter Pro ET900N G3<\/li>\n\n\n\n<li>Dell \u2013 Dell Pro Max mit GB300<\/li>\n\n\n\n<li>Exxact \u2013 Valence-\/TensorEX-Stationen<\/li>\n\n\n\n<li>Gigabyte \u2013 W775-V10-L01<\/li>\n\n\n\n<li>HP \u2013 ZGX Fury<\/li>\n\n\n\n<li>MSI \u2013 XpertStation WS300<\/li>\n\n\n\n<li>Supermicro \u2013 Super AI Station<\/li>\n<\/ul>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<div class=\"wp-block-buttons is-content-justification-center is-layout-flex wp-container-core-buttons-is-layout-fe48e5de wp-block-buttons-is-layout-flex\">\n<div class=\"wp-block-button\"><a class=\"wp-block-button__link wp-element-button\" href=\"https:\/\/pi3g.com\/de\/kontakt\/\">Fordern Sie ein Angebot an oder erfahren Sie mehr \u00fcber unsere verf\u00fcgbaren NVIDIA DGX Station-Systeme<\/a><\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"<p>The market entry this past March of Nvidia&#8217;s GB300 based DGX Station offers enterprise customers an opportunity to engage with previously unavailable levels of AI performance directly within their own infrastructure.\u00a0 Nvidia GB300 systems like the ASUS ExpertCenter Pro ET900N G3 (which I will be testing in a coming article) bring data-center class specifications into&hellip;<\/p>","protected":false},"author":865,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_links_to":"","_links_to_target":""},"categories":[1047,1067],"tags":[],"class_list":["post-31898","post","type-post","status-publish","format-standard","hentry","category-ai-hardware","category-nvidia-ai-hardware"],"_links":{"self":[{"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/posts\/31898","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/users\/865"}],"replies":[{"embeddable":true,"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/comments?post=31898"}],"version-history":[{"count":8,"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/posts\/31898\/revisions"}],"predecessor-version":[{"id":31945,"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/posts\/31898\/revisions\/31945"}],"wp:attachment":[{"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/media?parent=31898"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/categories?post=31898"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pi3g.com\/de\/wp-json\/wp\/v2\/tags?post=31898"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}