NovaPod
Während das Vortraining von Foundation-Modellen mit Billionen Parametern die Domäne der Großlabore bleibt, entsteht praktischer Wert der KI dort, wo Reasoning-Modelle auf proprietären Geschäftsdaten fein abgestimmt werden.
Herkömmliche Trainer-Implementierungen von Hugging Face leiden unter massivem Zusatzbedarf an Aktivierungsspeicher und unter nicht fusionierten Gradientenberechnungen, die Fehler durch GPU-Speichermangel bei allem verursachen, was größer als 8B Parameter ist.
Auf NovaPod enthalten unsere kuratierten Umgebungen Unsloth Studio und Axolotl von Hand geschriebene Vorwärts- und Rückwärtskernel in OpenAI Triton, die den Aktivierungsspeicher um bis zu 80% reduzieren, ohne Verlust an der Perplexität des Modells.
In Verbindung mit den persistenten Netzwerk-Volumes `/workspace` von NovaPod werden Trainings-Checkpoints fortlaufend erhalten, sodass unterbrochene Spot-Läufe sofort und ohne verlorene Trainingsepochen fortgesetzt werden können.
np launch \
--gpu H100_SXM \
--template novapod/unsloth-studio:2026.10 \
--disk 150GB \
--name llama-3-reasoning-lora