DGX Station GB300 Benchmarking: 15 kleine und mittlere Modelle mit bis zu 256 gleichzeitig anfragenden Computern

Die DGX Station GB300 verfügt über 288 GB GPU-Speicher, und jeder der 15 Modelle in diesem Artikel passt problemlos hinein. Für diese Modelle zeigen die Benchmarks, wie viele Anfragen sie gleichzeitig verarbeiten, bevor die Antwort verlangsamt wird, und zu welchem Zeitpunkt eine höhere Belastung nicht mehr zu einer höheren Durchsatzleistung führt. Dies…

Weiterlesen

DGX Spark-Benchmarking der Schlussfolgerungsverarbeitungsleistung von 14 offenen Gewichtsmodellen

Der DGX Spark verfügt über 128 GB Speicher, den die CPU und die GPU gemeinsam nutzen. Das reicht aus, um ein Modell mit 120 Milliarden Parametern in 4-Bit-Auflösung zu speichern. Was diese Speicher nicht verraten, ist jedoch, wie schnell diese Modelle antworten und wie sich das verändert, wenn gleichzeitig mehr als eine Anfrage eingeht. Um den DGX Spark zu benchmarken…

Weiterlesen

ASUS ExpertCenter Pro ET900N G3 im Detail

Das ASUS ExpertCenter Pro ET900N G3 ist ein DGX Station GB300-System. Es ist eine hochmoderne Workstation, die für KI entwickelt wurde. Sie können große LLMs betreiben, KI-Modelle perfektionieren und die DGX Station GB300 für andere KI- und ML-Aufgaben verwenden. Es ist für Arbeitsgruppen konzipiert und ermöglicht es Ihnen, die Investition über mehrere Geräte zu verteilen…

Weiterlesen

CM5 / Broadcom BCM54210PE Ethernet-Spannungsantriebsmodus und Center-Tap-Design

Wir arbeiten derzeit an einer CM5-PCB-Design. Für den Ethernet-Teil muss eine Entscheidung über die Auslegung des Mittelsteckanschlusses getroffen werden. Leider ist das Datenblatt des Broadcom BCM54210PE nicht öffentlich verfügbar. TL;DR Der Mittelsteckanschluss für eine CM5 / BCM54210PE-Konfiguration sollte mit keiner Spannung beaufschlagt werden. Verwenden Sie stattdessen einen 100n-Kondensator gegen GND…

Weiterlesen

DGX Spark Rental: Kosten, Fernzugriff und Funktionsweise

Sie können eine NVIDIA DGX Spark entweder als physisches System, das Ihnen zugestellt wird, oder per Fernzugriff mieten. Die Kosten und Vorteile des DGX Spark-Mietservices: Mit dem Mietservice einer DGX Spark von Pi3g können Sie die NVIDIA Grace Blackwell-Hardware auf realen Workloads testen, ohne sofort eine Anlage kaufen zu müssen und…

Weiterlesen

AI-Firewall soll KI-Bots aus dem Netzwerk Ihres Unternehmens fernhalten

Die Zahl der durch überheikle KI-Bots verursachten KI-bezogenen Vorfälle steigt stetig. Wir arbeiten an einem KI-Firewall, der KI-Bots zuverlässig von den Unternehmensnetzwerken fernhält, während normale Anfragen und die Nutzung von APIs ermöglicht werden. Hier sind einige unserer ersten Erkenntnisse: Stößt Ihr auf eine Zunahme der Anzahl von KI-Bots, die versuchen, in Ihr Unternehmen einzudringen?…

Weiterlesen

NVIDIA DGX Spark Preis im Oktober 2026

Ab Oktober 2026 kostet das NVIDIA DGX Spark zwischen 3150 € (für das 64 GB-Modell) und 5.038 bis 8.096 € netto (etwa $5.660 bis $9.097 €) für das teuerste 128 GB-Modell je nach Hersteller und Speichergröße. Das günstigste 128 GB-Modell, das wir liefern können, ist das Lenovo ThinkStation PGX mit 1 TB und ohne…

Weiterlesen