NovaPod
Der Betrieb hochdichter GPU-Infrastruktur ist grundlegend eine Disziplin der Leistungs- und Wärmetechnik, bevor er ein Problem der Software ist.
Da moderne HGX-Knoten mit 8 Wegen der Generationen Hopper und Blackwell zwischen 10.2 kW und 14.8 kW pro Chassis verbrauchen, verlangen herkömmliche Colocation-Käfige eine strenge Versorgung mit Drehstrom von 480V, flüssigkeitsgekühlte Wärmetauscher an der Rücktür und redundante Fabrics mit 400Gb/s über InfiniBand oder RoCE.
In dieser Aufschlüsselung untersuchen wir die Ökonomie der Bereitstellung von Bare-Metal-Hardware auf der Plattform von NovaPod: PUE-Werte, Verwaltung außerhalb des Bandes über BMC, automatisierte Telemetrie zur Gesundheit der Hardware und wie der Knoten-Orchestrator von NovaPod eine Zuverlässigkeit der Plattform von 99.98% liefert.
Darüber hinaus untersuchen wir, wie Host-Betreiber von NovaPod die vollständige physische Souveränität über ihre Racks behalten und zugleich vom globalen Spot-Auftragsbuch in Echtzeit, von der automatisierten Bereitstellung von Docker-Pods und von sofortigen Krypto-Auszahlungen pro Sekunde profitieren.