NovaPod
Les entreprises qui traitent des centaines de gigaoctets de données de parcours de clics, ou qui construisent des bases vectorielles de génération augmentée par récupération (RAG), se sont traditionnellement appuyées sur de vastes clusters CPU de 64 nœuds exécutant Apache Spark.
Cependant, les frameworks de calcul GPU modernes, tels que NVIDIA RAPIDS cuDF et Polars GPU, peuvent effectuer exactement les mêmes jointures, agrégations et transformations de chaînes sur un seul nœud à 8 GPU, pour une fraction du coût.
Sur NovaPod, les équipes d'ingénierie des données peuvent lancer des notebooks RAPIDS préajustés, dotés de tampons mémoire Arrow accélérés par GPU, ce qui élimine les goulots d'étranglement de sérialisation entre le stockage et le calcul.
La génération de plongements à 768 dimensions pour 10 millions de documents passe d'un traitement par lots CPU de plusieurs jours à une exécution de 25 minutes sur un cluster 8x H100.
import cudf, polars as pl
import cupy as cp
# Zero-copy GPU columnar ingestion on NovaPod
df = cudf.read_parquet("/workspace/telemetry_100M.parquet")
grouped = df.groupby(["device_id", "region"]).agg({"latency": "mean", "errors": "sum"})
print("Processed 100M rows in 1.2 seconds on H100")