Parc matériel78+ modèles en ligne

Location de serveurs GPU

La location de serveurs GPU sur NovaPod va d'une RTX 4090 ou 5090 aux machines H100, H200 et Blackwell. Louez un GPU cloud en pod Docker ou en serveur KVM root, puis payez à la seconde. L'offre en direct est sur le marché. L'offre de départ de chaque carte est sur sa page de prix.

Comment choisir

Ajuster le matériel à la limite de calcul

1. Service LLM et inférence en temps réel

La génération de tokens est surtout limitée par la bande passante mémoire. Un modèle 70B en FP16 demande environ 140 Go de VRAM avant le cache KV. Une H200 (141 Go, 4,8 To/s) ou une MI300X (192 Go, 5,3 To/s) le tient sur un seul appareil. Sous 30B, une L40S (48 Go) ou une RTX PRO 6000 (96 Go) donne plus de tokens par dollar.

2. Pré-entraînement et affinage distribué

L'entraînement dense et à experts a besoin d'une synchro rapide des gradients. NovaPod propose des nœuds 8 GPU en NVLink 4 à 900 Go/s (Hopper) et NVLink 5 à 1,8 To/s (Blackwell), avec de l'InfiniBand 3,2 Tbit/s pour PyTorch FSDP et Megatron-LM.

3. Médias, VFX et prototypes

Pour ComfyUI Flux, le Gaussian Splatting 3D et Blender, les RTX 4090 et RTX 5090 fournissent du FP32 au prix spot. Attachez un stockage persistant rapide pour garder les points de contrôle.

Classes d'accélérateurs et topologies

NVIDIA Flagship Datacenter & Superclusters

Hopper & Blackwell architecture with NVLink 900 GB/s - 1.8 TB/s and InfiniBand RDMA.

NVIDIA H200 SXM5141 GB HBM3e
Bandwidth: 4.8 TB/s
Interconnect: NVLink 4 (900 GB/s)

Frontier LLM inference (70B-405B), long-context decode, high-batch serving

NVIDIA H100 SXM580 GB HBM3
Bandwidth: 3.35 TB/s
Interconnect: NVLink 4 (900 GB/s)

FP8 model fine-tuning, continuous pre-training, high-throughput vLLM serving

NVIDIA B200 SXM6192 GB HBM3e
Bandwidth: 8.0 TB/s
Interconnect: NVLink 5 (1.8 TB/s)

Dense & MoE training, native FP4 inference, ultra-low latency generation

NVIDIA B300 SXM6288 GB HBM3e
Bandwidth: 8.0 TB/s
Interconnect: NVLink 5 (1.8 TB/s)

Extreme memory-bound workloads, massive KV cache pooling, trillion-param scale

NVIDIA GB300 NVL72288 GB/GPU (20 TB Rack)
Bandwidth: 8.0 TB/s
Interconnect: NVLink-C2C (900 GB/s)

Rack-scale AI factories, unified Grace CPU memory, trillion-parameter training

NVIDIA A100 SXM480 GB HBM2e
Bandwidth: 2.0 TB/s
Interconnect: NVLink 3 (600 GB/s)

Cost-efficient 80GB fine-tuning, FP16/BF16 deep learning, multi-GPU FSDP

Workstation & High-Throughput Inference

High VRAM PCIe cards optimized for batch inference, media generation, and rendering.

NVIDIA RTX PRO 600096 GB GDDR7 ECC
Bandwidth: 1.79 TB/s
Interconnect: PCIe 5.0 x16

Single-card 70B inference, massive ECC memory, 3D visualization & rendering

NVIDIA L40S48 GB GDDR6 ECC
Bandwidth: 864 GB/s
Interconnect: PCIe 4.0 x16

Sub-30B LLM serving, batch Flux.1 image synthesis, Omniverse & Blender rendering

NVIDIA RTX A600048 GB GDDR6
Bandwidth: 768 GB/s
Interconnect: PCIe 4.0 x16

Stable Diffusion batch generation, mid-tier fine-tuning, CAD & VFX pipelines

Consumer Flagship & Development Cards

Top-tier GeForce cards for prototype development, small fine-tunes, and ComfyUI workflows.

NVIDIA GeForce RTX 509032 GB GDDR7
Bandwidth: 1.79 TB/s
Interconnect: PCIe 5.0 x16

Blackwell dev workstation, rapid iteration, local LLM evaluation, video diffusion

NVIDIA GeForce RTX 409024 GB GDDR6X
Bandwidth: 1.01 TB/s
Interconnect: PCIe 4.0 x16

LoRA fine-tuning, ComfyUI Flux studios, entry-level research at under $0.50/hr

NVIDIA GeForce RTX 309024 GB GDDR6X
Bandwidth: 936 GB/s
Interconnect: PCIe 4.0 x16

Budget-conscious 24GB AI training, testing Docker pipelines from $0.10/hr

AMD Instinct & Open Ecosystem

AMD CDNA 3 architecture powered by ROCm open-source stack.

AMD Instinct MI300X192 GB HBM3
Bandwidth: 5.3 TB/s
Interconnect: Infinity Fabric (896 GB/s)

Raw 192GB memory per GPU, ROCm 6.2 deep learning, PyTorch vLLM serving

Guides par GPU

Notes d'architecture, à quoi sert la mémoire, et comment lancer chaque accélérateur.

Questions fréquentes

Comment choisir le GPU pour un projet d'IA ?
Partez de la VRAM. Un modèle 7B–14B tient sur 24 ou 32 Go, comme une RTX 4090 ou 5090. Un 70B veut une H100 80 Go ou une H200 141 Go. L'entraînement multi-nœuds veut des pièces datacenter NVLink : H100, H200 ou B200.
Comment le prix est-il calculé sur NovaPod ?
Vous payez l'offre spot en direct, mesurée à la seconde. Pas de minimum mensuel. Quand l'instance s'arrête, la facturation s'arrête.
Quelle différence entre un pod Docker et un VPS KVM root ?
Les pods Docker démarrent en moins de 15 secondes avec PyTorch, vLLM ou ComfyUI déjà en cache. Un VPS KVM root est un OS complet avec sudo, une IPv4 publique et un disque NVMe qui reste en pause. Le disque en pause coûte 0,00014 $/Go/h.
Puis-je payer en crypto sans KYC ?
Oui. Déposez des USDT, USDC, SOL, ETH ou BNB sur l'adresse du compte. Après confirmation de la chaîne, le crédit est disponible. Le KYC n'est pas exigé.
Y a-t-il un stockage persistant partagé ?
Oui. Le stockage réseau peut être monté sur plusieurs instances pour que les poids et les points de contrôle survivent à une seule machine.

Prêt à lancer l'instance GPU ?

Choisissez l'accélérateur, ajoutez du crédit crypto et démarrez un framework prêt en moins de 15 secondes.

Lancer sur le marché