NovaPod
Las empresas que procesan cientos de gigabytes de datos de flujo de clics, o que construyen almacenes vectoriales de generación aumentada por recuperación (RAG), han dependido tradicionalmente de extensos clústeres de CPU de 64 nodos que ejecutan Apache Spark.
Sin embargo, los marcos modernos de cómputo en GPU, como NVIDIA RAPIDS cuDF y Polars GPU, pueden realizar exactamente las mismas uniones, agregaciones y transformaciones de cadenas en un solo nodo de 8 GPU, a una fracción del costo.
En NovaPod, los equipos de ingeniería de datos pueden iniciar cuadernos RAPIDS ya ajustados, con búferes de memoria Arrow acelerados por GPU, y eliminar los cuellos de botella de serialización entre el almacenamiento y el cómputo.
Generar incrustaciones de 768 dimensiones para 10 millones de documentos pasa de un trabajo por lotes de varios días en CPU a una ejecución de 25 minutos en un clúster 8x H100.
import cudf, polars as pl
import cupy as cp
# Zero-copy GPU columnar ingestion on NovaPod
df = cudf.read_parquet("/workspace/telemetry_100M.parquet")
grouped = df.groupby(["device_id", "region"]).agg({"latency": "mean", "errors": "sum"})
print("Processed 100M rows in 1.2 seconds on H100")