Operar infraestructura de GPU de alta densidad es, antes que un problema de software, una disciplina de ingeniería de potencia y térmica.
Con los nodos modernos HGX Hopper y Blackwell de 8 vías, que consumen entre 10.2 kW y 14.8 kW por chasis, las jaulas tradicionales de coubicación exigen un suministro riguroso de energía trifásica de 480 V, intercambiadores de calor de puerta trasera con líquido y tejidos redundantes InfiniBand o RoCE de 400 Gb/s.
En este desglose examinamos la economía de desplegar hardware bare metal en la plataforma NovaPod: índices de PUE, gestión BMC fuera de banda, telemetría automatizada de la salud del hardware y el modo en que el orquestador de nodos de NovaPod entrega una confiabilidad de plataforma del 99.98%.
Además, exploramos cómo los operadores anfitriones de NovaPod conservan la soberanía física completa sobre sus racks y, al mismo tiempo, se benefician de nuestro libro de órdenes al contado global en tiempo real, del aprovisionamiento automatizado de pods de Docker y de pagos instantáneos de criptomonedas por segundo.