Stundengenaue Vermietung von Grafikkarten in der Cloud (RunPod & Vast.ai)

1. Überblick über das Konzept und den Zweck

Um schwere Open-Source-Modelle (wie Llama 3.3 70B oder DeepSeek R1) auszuführen oder Tausende von Bildern mit FLUX / Stable Diffusion zu generieren, benötigen Sie eine leistungsstarke Nvidia-GPU mit großem VRAM-Speicher (zwischen 24 und 80 GB).

Der Kauf einer solchen Hardware für den Heimgebrauch ist extrem teuer:

• Die Top-Consumer-GPU RTX 4090 kostet mehr als $2.000.
• Der professionelle Server-Beschleuniger Nvidia H100 kostet so viel wie ein neues Auto – ab $35.000.

Was aber tun, wenn Sie nur einmal im Monat 100 Videos generieren oder eine persönliche LoRA trainieren müssen?

Hardware zu kaufen macht keinen Sinn. Genau dafür gibt es die stundenweise GPU-Miete (Cloud GPU Rental):

• Sie melden sich bei RunPod oder Vast.ai an;
• Wählen Sie die benötigte GPU aus der Liste;
• Laden Sie $5 auf Ihr Guthaben auf;
• Klicken Sie auf Start, führen Sie die Aufgabe in 2 Stunden aus, laden Sie das Ergebnis auf Ihre lokale Festplatte herunter und zerstören Sie den Server.
• Für 2 Stunden Arbeit auf einer RTX 4090 geben Sie weniger als $1.00 aus!

Mentales Modell: So wie Carsharing Ihnen erlaubt, einen Sportwagen für zwei Stunden zum Preis einer Pizza zu fahren, ohne einen Kredit beim Autohändler aufnehmen zu müssen, gewährt Ihnen die GPU-Cloud Zugang zu einem Supercomputer für wenige Stunden.

┌─────────────────────────────────────────────────────────────┐
│                 ХМАРНА ОРЕНДА GPU ЗА 4 КРОКИ                │
├─────────────────────────────────────────────────────────────┤
│ 1. ВИБІР ШАБЛОНУ (Template):                                │
│    Обираєте: [ ComfyUI + SDXL / PyTorch 2.4 / Ollama ]      │
├─────────────────────────────────────────────────────────────┤
│ 2. ВИБІР ВІДЕОКАРТИ:                                        │
│    [ RTX 4090 - 24 GB VRAM ] ➔ Ціна: $0.44 / година        │
├─────────────────────────────────────────────────────────────┤
│ 3. МИТТЄВИЙ ЗАПУСК ТА SSH-ТУНЕЛЬ:                           │
│    Контейнер стартує ➔ підключаємось через порт 8888        │
├─────────────────────────────────────────────────────────────┤
│ 4. ЗАВАНТАЖЕННЯ РЕЗУЛЬТАТІВ ТА TERMINATE:                   │
│    Стягуємо артефакти на свій ПК і зупиняємо под.           │
└─────────────────────────────────────────────────────────────┘

2. Praktische CLI-Befehle für die Arbeit mit gemieteten Servern

Wenn Sie einen Pod in der Cloud gestartet haben, ist der effizienteste Weg zur Interaktion ein sicherer Tunnel über Ihr Terminal:

# 1. Прокидання локального порту до віддаленого веб-інтерфейсу (наприклад, ComfyUI або WebUI)
# Після цього відкрийте http://localhost:8188 у своєму домашньому браузері!
ssh -N -L 8188:127.0.0.1:8188 -p 22022 root@ssh.runpod.io -i ~/.ssh/id_ed25519

# 2. Моніторинг завантаження GPU та пам'яті VRAM всередині контейнера
nvidia-smi -l 1

# 3. Швидке скачування згенерованих файлів чи моделі на ваш домашній комп'ютер через rsync
rsync -avz -e "ssh -p 22022 -i ~/.ssh/id_ed25519" \
  root@ssh.runpod.io:/workspace/output/ ~/Downloads/ai_results/

# 4. Швидке клонування важкої моделі з HuggingFace прямо на сервер (зі швидкістю 1 Гбіт/с)
huggingface-cli download meta-llama/Llama-3.1-8B-Instruct --local-dir /workspace/model

3. Top-3 Plattformen für Cloud-Hardware

1. RunPod.io: Der benutzerfreundlichste Dienst mit einer ansprechenden Oberfläche, einer großen Auswahl an fertigen Templates (Docker Pods) und der Funktion Serverless GPU (Bezahlung nur für Millisekunden des Inferenzprozesses).
2. Vast.ai: Der günstigste „Marktplatz“ für GPUs weltweit, auf dem private Anbieter und Rechenzentren um Preise konkurrieren (RTX 3090 sind bereits ab $0.18/Stunde verfügbar).
3. Lambda Labs: Zuverlässige Enterprise-Cluster mit A100- und H100-Servern für ernsthaftes kommerzielles Training großer Modelle mit hoher InfiniBand-Interconnect-Geschwindigkeit.

4. Die goldene Regel zur Budgetkontrolle

⚠️ Klicken Sie immer auf die Schaltfläche „Terminate“ (Container zerstören), wenn Sie fertig sind!
Wenn Sie einfach den Browser-Tab schließen oder „Stop/Pause“ klicken, berechnet die Plattform weiterhin geringe Gebühren ($0.05–$0.10 pro Tag) für die Speicherung Ihrer Daten auf der SSD.
Abschluss-Checkliste: Speichern Sie die erforderlichen Gewichte und Bilder via rsync oder scp auf Ihrem lokalen PC und klicken Sie anschließend auf Terminate Pod.