GPU-Mietkosten: Zuerst das aktuelle Angebot lesen

Was sind GPU-Mietkosten?

Die Kosten einer GPU-Miete sind das Angebot für eine gelistete Maschine, multipliziert mit den Sekunden, die diese Maschine aktiv bleibt. Das Angebot wird auf dem Marktplatz in dem Moment festgelegt, in dem Sie es annehmen. Die Preisseite für dieses Modell ist eine Ausgangszahl für die Klasse und kann von der Maschine abweichen, die Sie gleich starten.

In Screenshots werden zwei Zahlen miteinander vermischt. Die eine ist die Klasse: wie viel Speicher die Karte hat und welche Aufträge dieser Speicher aufnehmen kann. Die andere ist das Angebot: die Maschine, die gerade frei ist, und der Satz, der pro Sekunde gezählt wird. Bezahlen Sie das Angebot. Nutzen Sie die Klasse, um zu entscheiden, ob dieses Angebot den Auftrag zu Ende führen kann.

Diese Seite friert keine der beiden Zahlen ein. Öffnen Sie die Live-GPU-Liste, wenn Sie mieten möchten. Wenn die Liste und ein Artikel voneinander abweichen, ist die Liste das aktuelle Angebot.

Was umfasst die Miete?

Die Miete ist Zeit auf einer bestimmten Karte. Es handelt sich nicht um eine Reservierung über ein Jahr und nicht um einen Platz in einem gemeinsam genutzten Code-Notebook. Sie wählen eine Speicherklasse, laden ein Guthaben von mindestens $100 auf und starten aus einer Vorlage wie vLLM, einer LoRA-Einrichtung oder ComfyUI. Die GPU-Gebühr läuft, solange diese Maschine läuft.

USDT oder USDC können auf Solana, Ethereum oder BNB Chain eingezahlt werden. USDT kann auch auf TRON eingezahlt werden. SOL und ETH können dasselbe Guthaben aufladen. Das Guthaben bezahlt die Miete. Öffentliche Seiten zu GPUs und Vorlagen können gelesen werden, bevor Sie sich anmelden. Die Einzahlungsadresse, das Guthaben und die Miete selbst gehören zum Konto.

Die Schritte, die aus dem Konto eine laufende Maschine machen, stehen in der unten verlinkten Anleitung. Diese Notiz bleibt bei der Rechnung: welche Zahl real ist, welche Kartenklasse der Auftrag braucht und wann die Uhr stoppt.

Welche Speicherklasse passt zum Auftrag?

Sortieren Sie nach dem Speicher, bevor Sie nach der Stundenzahl sortieren. Der Auftrag scheitert, wenn die Gewichte oder der Kontext nicht passen, und ein erneuter Versuch auf derselben Karte wiederholt dieses Scheitern. Wechseln Sie in eine höhere Speicherklasse, wenn dem Prozess der VRAM ausgeht. Eine günstigere Karte derselben Klasse fügt keinen Speicher hinzu.

Die Tabelle nennt die Klasse, eine Karte, die sie vertritt, und den Auftrag, der gewöhnlich passt. Lesen Sie auf der passenden Preisseite, wofür dieser Speicher gedacht ist. Bestätigen Sie anschließend ein aktuelles Angebot. Die Tabelle ist ein Filter und kein Kostenvoranschlag.

Wann reichen 24 GB?

Eine Karte mit 24 GB, etwa eine RTX 4090, ist die übliche Wahl für einen kurzen LoRA-Lauf oder einen ComfyUI-Batch. Für ein Chat-Modell der 70B-Klasse ist sie der falsche Ort. Wenn der ersten Anfrage auf dieser Karte der Speicher ausgeht, stoppen Sie die Maschine und wählen Sie eine größere Klasse. Starten Sie nicht weiter dasselbe Angebot mit 24 GB.

Wann braucht der Auftrag 80 GB?

Eine H100 SXM mit 80 GB ist der Schritt nach oben für ein Modell der 70B-Klasse oder einen längeren vLLM-Kontext. SXM- und PCIe-Karten, die den Namen H100 teilen, teilen nicht die Bandbreite. Lesen Sie die Seite zur H100 SXM für die Klasse und bestätigen Sie ein aktuelles Angebot, bevor Sie zwei H100 als dieselbe Miete behandeln.

Wann wechseln Sie zu 141 GB?

Wechseln Sie zu einer H200 mit 141 GB, wenn dem H100-Lauf der Speicher ausgeht und er nicht bloß langsam ist. Mehr Speicher ist die Abhilfe. Eine günstigere Karte mit 24 GB ist es nicht. Wenn das gelistete Angebot eine H200 ist, ist dieses Angebot die Rechnung, auch wenn ein älterer Screenshot einer H100 niedriger aussieht.

Warum stimmen Preisseite und Marktplatz nicht überein?

Die Preistabelle stellt VRAM, Rechenleistung und eine Ausgangszahl nebeneinander, damit Sie eine H200, eine H100, eine A100 oder eine 4090 eingrenzen können. Der Marktplatz listet Maschinen, die Sie jetzt mieten können. Derselbe Modellname an beiden Stellen bedeutet nicht, dass die beiden Zahlen übereinstimmen. Das Angebot bewegt sich. Eine Klasse kann auf der Preisseite eine Ausgangszahl haben und auf der einzigen freien Maschine ein anderes Angebot.

Nutzen Sie die Tabelle, um eine Klasse zu wählen. Nutzen Sie den Marktplatz für das Angebot, das Sie tatsächlich zahlen werden. Notieren Sie dieses Angebot zusammen mit dem GPU-Namen. Kopieren Sie keine Stundenzahl in ein Betriebshandbuch, um sie morgen wiederzuverwenden. Das Angebot von morgen ist eine neue Miete.

Wann endet die sekundengenaue Abrechnung?

Die Abrechnung erfolgt pro Sekunde, und die GPU-Uhr stoppt, wenn die Maschine stoppt. Ein Leerlaufserver, der noch läuft, ist weiterhin eine Miete. Schalten Sie den Pod aus, wenn der Auftrag endet. Ein gestoppter Pod behält das Stundenangebot nicht.

Ein Docker-Pod kann beendet werden, wenn der Auftrag erledigt ist. Eine Root-KVM-Maschine kann die GPU-Abrechnung pausieren und eine Bereitschaftsgebühr für den Speicher hinterlassen. Prüfen Sie daher, welche Art Sie gestartet haben, bevor Sie annehmen, dass das Konto im Leerlauf ist. Die sekundengenaue Abrechnung macht eine vergessene, noch laufende Instanz nicht kostenlos. Die längere Notiz zur sekundengenauen Abrechnung ist unten verlinkt.

Was liegt außerhalb des Stundenangebots?

Das Stundenangebot ist die GPU-Uhr einer laufenden Maschine. Es ist nicht die Einzahlung und keine Gebühr dafür, die GPU-Liste zu lesen. Die Einzahlung hat ein Minimum von $100 und liegt auf dem Konto, bis eine Maschine läuft. Eine Überweisung unter diesem Minimum oder eine Überweisung auf dem falschen Token oder der falschen Chain wird niemals zu Mietzeit.

Das Stoppen der Maschine beendet die GPU-Uhr. Es schreibt das Angebot, das Sie bereits verbraucht haben, nicht um. Bereits gezählte Sekunden bleiben auf der Rechnung. Ein Neustart morgen ist ein neues Angebot. Die Notiz, die Sie gespeichert haben, ist daher eine Aufzeichnung der Klasse und der Vorlage und kein Gutschein für den alten Satz.

Vorlagen wie vLLM, LoRA und ComfyUI ändern, wie schnell Sie ein erstes Ergebnis erreichen. Das Angebot ändern diese Vorlagen nicht. CUDA auf einer leeren Festplatte zu installieren verbraucht dieselbe Uhr, während Sie warten. Starten Sie die Vorlage, führen Sie eine Anfrage aus und stoppen Sie die Maschine, wenn die Speicherklasse falsch war.

Welche Fehler vergrößern die Rechnung?

Fünf Muster kosten mehr als ein etwas höheres Stundenangebot. Die niedrigste Zahl auf der Seite zu wählen und den VRAM zu ignorieren. Ein 70B-Modell auf 24 GB zu belassen und es neu zu starten. Den Pod nach der letzten Anfrage weiterlaufen zu lassen. Die Stundenzahl von gestern in ein Betriebshandbuch einzufügen. Eine Einzahlung auf dem falschen Token oder der falschen Chain zu senden und dann auf eine Überweisung zu warten, die nicht gutgeschrieben werden kann.

Die Mindesteinzahlung beträgt $100. Warten Sie, bis diese Chain bestätigt, bevor Sie die Überweisung als verloren behandeln. Wenn sie weiterhin nicht erscheint, prüfen Sie auf der Seite den Token, die Chain, den Betrag und die Adresse. Senden Sie dann den Transaktionshash, den Namen der Chain, den Betrag, die Einzahlungsadresse und die E-Mail des Kontos an support@novapod.io.

Was prüfen Sie vor der Einzahlung?

Öffnen Sie die Live-GPU-Liste und notieren Sie die Klasse, die Sie brauchen. Lesen Sie eine Preisseite, etwa zu H100 SXM, H200 oder RTX 4090, wofür dieser Speicher gedacht ist. Öffnen Sie dann den Marktplatz und nehmen Sie ein Angebot an, das tatsächlich gelistet ist. Starten Sie eine Vorlage, anstatt CUDA auf einer leeren Festplatte zu installieren.

Notieren Sie den GPU-Namen, das Angebot, das Sie angenommen haben, und die Vorlage. Diese Notiz ist das, womit Sie vergleichen, wenn Sie morgen neu starten. Wenn das neue Angebot höher oder niedriger ist, zahlen Sie das neue Angebot. Die Notiz von gestern erklärt die Klasse und setzt den Preis nicht.