NovaPodGPU サーバーレンタル
RTX 4090、RTX 5090 から H100、A100、H200 までの GPU サーバーレンタル。Docker ポッドまたは root KVM サーバーで、秒単位課金。ライブ価格はマーケットにあります。
計算の限界にハードウェアを合わせる
1. LLM サービングとリアルタイム推論
LLM のトークン生成は、ほとんどメモリ帯域で頭打ちになります。FP16 の 70B は KV キャッシュの前に約 140GB の VRAM が要ります。H200 1 枚（141GB、4.8TB/s）か MI300X（192GB、5.3TB/s）なら 1 台に載ります。30B 未満は L40S（48GB）や RTX PRO 6000（96GB）の方がドルあたりのトークンが多くなります。
2. 事前学習と分散ファインチューン
密モデルと MoE の学習は勾配同期が速くなければいけません。NovaPod は Hopper の NVLink 4（900GB/s）と Blackwell の NVLink 5（1.8TB/s）の 8-GPU ノード、マルチノードの PyTorch FSDP と Megatron-LM 向け 3.2Tb/s InfiniBand を出しています。
3. メディア、VFX、試作
ComfyUI Flux、3D Gaussian Splatting、Blender には RTX 4090 と RTX 5090 がスポット気配で FP32 を出します。ジョブが終わってもチェックポイントが残るよう、速い永続ストレージを付けてください。
アクセラレータのクラスとトポロジ
A100 GPU and NVIDIA H100 price
Datacenter GPU rental for 80 GB and 141 GB jobs. The NVIDIA H100 price and the A100 GPU starting ask are on each price page.
Frontier LLM inference (70B-405B), long-context decode, high-batch serving
FP8 model fine-tuning, continuous pre-training, high-throughput vLLM serving
Dense & MoE training, native FP4 inference, ultra-low latency generation
Extreme memory-bound workloads, massive KV cache pooling, trillion-param scale
Rack-scale AI factories, unified Grace CPU memory, trillion-parameter training
Cost-efficient 80GB fine-tuning, FP16/BF16 deep learning, multi-GPU FSDP
Workstation & High-Throughput Inference
High VRAM PCIe cards optimized for batch inference, media generation, and rendering.
Single-card 70B inference, massive ECC memory, 3D visualization & rendering
Sub-30B LLM serving, batch Flux.1 image synthesis, Omniverse & Blender rendering
Stable Diffusion batch generation, mid-tier fine-tuning, CAD & VFX pipelines
RTX 4090 and RTX 5090 rental
Rent an RTX 4090 or rent an RTX 5090 for ComfyUI, a short LoRA, and other 24–32 GB jobs.
Blackwell dev workstation, rapid iteration, local LLM evaluation, video diffusion
LoRA fine-tuning, ComfyUI Flux studios, entry-level research at under $0.50/hr
Budget-conscious 24GB AI training, testing Docker pipelines from $0.10/hr
AMD Instinct & Open Ecosystem
AMD CDNA 3 architecture powered by ROCm open-source stack.
Raw 192GB memory per GPU, ROCm 6.2 deep learning, PyTorch vLLM serving
GPU ごとの詳細ガイド
アーキテクチャ、メモリの用途、各アクセラレータの起動方法。