Hardware-Flotte78+ Modelle online

GPU-Server mieten

GPU-Server bei NovaPod reichen von einer RTX 4090 oder 5090 bis zu H100, H200 und Blackwell. Miete eine Cloud-GPU als Docker-Pod oder Root-KVM und zahle pro Sekunde. Das Live-Angebot steht im Markt. Der Startpreis jeder Karte steht auf ihrer Preisseite.

Auswahl

Die Hardware an die Rechengrenze anpassen

1. LLM-Serving und Echtzeit-Inferenz

Token-Erzeugung hängt vor allem an der Speicherbandbreite. Ein 70B-Modell in FP16 braucht vor dem KV-Cache etwa 140 GB VRAM. Eine H200 (141 GB, 4,8 TB/s) oder MI300X (192 GB, 5,3 TB/s) hält es auf einem Gerät. Unter 30B liefern L40S (48 GB) oder RTX PRO 6000 (96 GB) mehr Tokens pro Dollar.

2. Vortraining und verteiltes Feintuning

Dichtes Training und Expertenmodelle brauchen schnelle Gradientensynchronisation. NovaPod bietet 8-GPU-Knoten mit NVLink 4 bei 900 GB/s (Hopper) und NVLink 5 bei 1,8 TB/s (Blackwell), plus 3,2 Tb/s InfiniBand für PyTorch FSDP und Megatron-LM.

3. Medien, VFX und Prototypen

Für ComfyUI Flux, 3D Gaussian Splatting und Blender liefern RTX 4090 und RTX 5090 rohes FP32 zum Spot-Preis. Hänge schnellen dauerhaften Speicher an, damit Checkpoints bleiben.

Beschleunigerklassen und Topologien

NVIDIA Flagship Datacenter & Superclusters

Hopper & Blackwell architecture with NVLink 900 GB/s - 1.8 TB/s and InfiniBand RDMA.

NVIDIA H200 SXM5141 GB HBM3e
Bandwidth: 4.8 TB/s
Interconnect: NVLink 4 (900 GB/s)

Frontier LLM inference (70B-405B), long-context decode, high-batch serving

NVIDIA H100 SXM580 GB HBM3
Bandwidth: 3.35 TB/s
Interconnect: NVLink 4 (900 GB/s)

FP8 model fine-tuning, continuous pre-training, high-throughput vLLM serving

NVIDIA B200 SXM6192 GB HBM3e
Bandwidth: 8.0 TB/s
Interconnect: NVLink 5 (1.8 TB/s)

Dense & MoE training, native FP4 inference, ultra-low latency generation

NVIDIA B300 SXM6288 GB HBM3e
Bandwidth: 8.0 TB/s
Interconnect: NVLink 5 (1.8 TB/s)

Extreme memory-bound workloads, massive KV cache pooling, trillion-param scale

NVIDIA GB300 NVL72288 GB/GPU (20 TB Rack)
Bandwidth: 8.0 TB/s
Interconnect: NVLink-C2C (900 GB/s)

Rack-scale AI factories, unified Grace CPU memory, trillion-parameter training

NVIDIA A100 SXM480 GB HBM2e
Bandwidth: 2.0 TB/s
Interconnect: NVLink 3 (600 GB/s)

Cost-efficient 80GB fine-tuning, FP16/BF16 deep learning, multi-GPU FSDP

Workstation & High-Throughput Inference

High VRAM PCIe cards optimized for batch inference, media generation, and rendering.

NVIDIA RTX PRO 600096 GB GDDR7 ECC
Bandwidth: 1.79 TB/s
Interconnect: PCIe 5.0 x16

Single-card 70B inference, massive ECC memory, 3D visualization & rendering

NVIDIA L40S48 GB GDDR6 ECC
Bandwidth: 864 GB/s
Interconnect: PCIe 4.0 x16

Sub-30B LLM serving, batch Flux.1 image synthesis, Omniverse & Blender rendering

NVIDIA RTX A600048 GB GDDR6
Bandwidth: 768 GB/s
Interconnect: PCIe 4.0 x16

Stable Diffusion batch generation, mid-tier fine-tuning, CAD & VFX pipelines

Consumer Flagship & Development Cards

Top-tier GeForce cards for prototype development, small fine-tunes, and ComfyUI workflows.

NVIDIA GeForce RTX 509032 GB GDDR7
Bandwidth: 1.79 TB/s
Interconnect: PCIe 5.0 x16

Blackwell dev workstation, rapid iteration, local LLM evaluation, video diffusion

NVIDIA GeForce RTX 409024 GB GDDR6X
Bandwidth: 1.01 TB/s
Interconnect: PCIe 4.0 x16

LoRA fine-tuning, ComfyUI Flux studios, entry-level research at under $0.50/hr

NVIDIA GeForce RTX 309024 GB GDDR6X
Bandwidth: 936 GB/s
Interconnect: PCIe 4.0 x16

Budget-conscious 24GB AI training, testing Docker pipelines from $0.10/hr

AMD Instinct & Open Ecosystem

AMD CDNA 3 architecture powered by ROCm open-source stack.

AMD Instinct MI300X192 GB HBM3
Bandwidth: 5.3 TB/s
Interconnect: Infinity Fabric (896 GB/s)

Raw 192GB memory per GPU, ROCm 6.2 deep learning, PyTorch vLLM serving

Guides zu einzelnen GPUs

Architektur, wofür der Speicher da ist, und wie du jeden Beschleuniger startest.

Häufige Fragen

Wie wähle ich die GPU für ein KI-Projekt?
Fang beim VRAM an. Ein 7B–14B-Modell passt auf 24 oder 32 GB, etwa RTX 4090 oder 5090. Ein 70B-Modell will eine H100 mit 80 GB oder eine H200 mit 141 GB. Multi-Node-Training will NVLink-Rechenzentrumskarten: H100, H200 oder B200.
Wie wird der Preis bei NovaPod berechnet?
Du zahlst das live Spot-Angebot, pro Sekunde gemessen. Kein Monatsminimum. Stoppt die Instanz, stoppt die Abrechnung.
Was ist der Unterschied zwischen Docker-Pod und Root-KVM-VPS?
Docker-Pods starten in unter 15 Sekunden mit gecachtem PyTorch, vLLM oder ComfyUI. Ein Root-KVM-VPS ist ein volles OS mit sudo, öffentlicher IPv4 und NVMe, das beim Pausieren bleibt. Pausierter Speicher kostet $0.00014/GB/Std.
Kann ich mit Krypto ohne KYC zahlen?
Ja. Zahle USDT, USDC, SOL, ETH oder BNB auf die Adresse deines Kontos ein. Nach der Chain-Bestätigung ist das Guthaben da. KYC ist nicht nötig.
Gibt es gemeinsamen dauerhaften Speicher?
Ja. Netzwerkspeicher kann auf mehreren Instanzen liegen, damit Gewichte und Checkpoints eine einzelne Maschine überleben.

GPU-Instanz starten?

Wähle den Beschleuniger, lade Krypto-Guthaben und starte ein fertiges Framework in unter 15 Sekunden.

Auf dem Markt starten