DGX Station GB300 Benchmarking: 15 kleine und mittlere Modelle mit bis zu 256 gleichzeitig anfragenden Computern
Die DGX Station GB300 verfügt über 288 GB GPU-Speicher, und jeder der 15 Modelle in diesem Artikel passt problemlos hinein. Für diese Modelle zeigen die Benchmarks, wie viele Anfragen sie gleichzeitig verarbeiten, bevor die Antwort verlangsamt wird, und zu welchem Zeitpunkt eine höhere Belastung nicht mehr zu einer höheren Durchsatzleistung führt. Dies…
WeiterlesenDGX Spark-Benchmarking der Schlussfolgerungsverarbeitungsleistung von 14 offenen Gewichtsmodellen
Der DGX Spark verfügt über 128 GB Speicher, den die CPU und die GPU gemeinsam nutzen. Das reicht aus, um ein Modell mit 120 Milliarden Parametern in 4-Bit-Auflösung zu speichern. Was diese Speicher nicht verraten, ist jedoch, wie schnell diese Modelle antworten und wie sich das verändert, wenn gleichzeitig mehr als eine Anfrage eingeht. Um den DGX Spark zu benchmarken…
WeiterlesenLLM-Intelligenz auf der Benchmark-Serie DGX Spark und DGX Station GB300 von NVIDIA
Wie schnell ein lokaler LLM läuft, hängt von der Hardware, dem Modell und der Anzahl der gleichzeitig verarbeiteten Anfragen ab. Um dies zu messen, habe ich 20 aktuelle Open-Weight-Modelle auf einer NVIDIA DGX Station GB300 und 14 davon auf einer DGX Spark getestet. In dieser Serie werden die Ergebnisse vorgestellt – jeweils eine Maschine und eine…
WeiterlesenASUS ExpertCenter Pro ET900N G3 im Detail
Das ASUS ExpertCenter Pro ET900N G3 ist ein DGX Station GB300-System. Es ist eine hochmoderne Workstation, die für KI entwickelt wurde. Sie können große LLMs betreiben, KI-Modelle perfektionieren und die DGX Station GB300 für andere KI- und ML-Aufgaben verwenden. Es ist für Arbeitsgruppen konzipiert und ermöglicht es Ihnen, die Investition über mehrere Geräte zu verteilen…
WeiterlesenNVIDIA RTX PRO 6000 Workstation Edition jetzt ab Lager erhältlich – 2026
Wir haben eine begrenzte Menge an VCNRTXPRO6000B-BLK – NVIDIA RTX PRO™ 6000 Blackwell Workstation Edition beschafft, die wir ab 14.950 € nun an unsere Kunden in Europa und den USA anbieten. NVIDIA RTX PRO 6000 Preis (gültig solange der Vorrat reicht) – aktualisiert Oktober 2026: Besonderheiten und Anwendungsfälle für…
WeiterlesenDGX Spark-Käuferhandbuch 2026: Modelle, Preise und welche zu kaufen
Das Kauf eines NVIDIA DGX Spark kann kompliziert erscheinen, da NVIDIA zwar ihr eigenes Modell DGX Spark verkauft, gleichzeitig aber die gleiche Kernplattform GB10 Grace Blackwell an mehrere OEMs lizenziert, darunter ASUS, Dell, Gigabyte, HP, Lenovo, MSI und Acer, die jeweils unterschiedliche Spezifikationen und Preise anbieten. Dennoch ist das wichtigste…
WeiterlesenCM5 / Broadcom BCM54210PE Ethernet-Spannungsantriebsmodus und Center-Tap-Design
Wir arbeiten derzeit an einer CM5-PCB-Design. Für den Ethernet-Teil muss eine Entscheidung über die Auslegung des Mittelsteckanschlusses getroffen werden. Leider ist das Datenblatt des Broadcom BCM54210PE nicht öffentlich verfügbar. TL;DR Der Mittelsteckanschluss für eine CM5 / BCM54210PE-Konfiguration sollte mit keiner Spannung beaufschlagt werden. Verwenden Sie stattdessen einen 100n-Kondensator gegen GND…
WeiterlesenDGX Spark Rental: Kosten, Fernzugriff und Funktionsweise
Sie können eine NVIDIA DGX Spark entweder als physisches System, das Ihnen zugestellt wird, oder per Fernzugriff mieten. Die Kosten und Vorteile des DGX Spark-Mietservices: Mit dem Mietservice einer DGX Spark von Pi3g können Sie die NVIDIA Grace Blackwell-Hardware auf realen Workloads testen, ohne sofort eine Anlage kaufen zu müssen und…
WeiterlesenAI-Firewall soll KI-Bots aus dem Netzwerk Ihres Unternehmens fernhalten
Die Zahl der durch überheikle KI-Bots verursachten KI-bezogenen Vorfälle steigt stetig. Wir arbeiten an einem KI-Firewall, der KI-Bots zuverlässig von den Unternehmensnetzwerken fernhält, während normale Anfragen und die Nutzung von APIs ermöglicht werden. Hier sind einige unserer ersten Erkenntnisse: Stößt Ihr auf eine Zunahme der Anzahl von KI-Bots, die versuchen, in Ihr Unternehmen einzudringen?…
WeiterlesenNVIDIA DGX Spark Preis im Oktober 2026
Ab Oktober 2026 kostet das NVIDIA DGX Spark zwischen 3150 € (für das 64 GB-Modell) und 5.038 bis 8.096 € netto (etwa $5.660 bis $9.097 €) für das teuerste 128 GB-Modell je nach Hersteller und Speichergröße. Das günstigste 128 GB-Modell, das wir liefern können, ist das Lenovo ThinkStation PGX mit 1 TB und ohne…
Weiterlesen