Godzinowa dzierżawa kart graficznych w chmurze (RunPod i Vast.ai)

1. Przegląd koncepcji i zastosowanie

Uruchomienie ciężkiego modelu open-source (Llama 3.3 70B, DeepSeek R1) lub wygenerowanie tysięcy zdjęć za pomocą FLUX / Stable Diffusion wymaga wydajnej karty graficznej Nvidia z dużą ilością pamięci (od 24 do 80 GB VRAM).

Zakup takiego sprzętu na własny użytek to ogromny wydatek:

• Topowa konsumencka karta RTX 4090 kosztuje ponad $2 000.
• Profesjonalny akcelerator serwerowy Nvidia H100 kosztuje tyle co nowy samochód – od $35 000.

Co jednak zrobić, jeśli potrzebujesz wygenerować 100 filmów lub wytrenować osobistą LoRA tylko raz w miesiącu?

Kupno sprzętu mija się z celem. W tym celu służy Godzinowa dzierżawa kart GPU (Cloud GPU Rental):

• Logujesz się na RunPod lub Vast.ai;
• Wybierasz potrzebną kartę graficzną z listy;
• Doładowujesz saldo kwotą $5;
• Klikasz Start, wykonujesz zadanie w ciągu 2 godzin, pobierasz wyniki na lokalny dysk i niszczysz serwer.
• Za 2 godziny pracy na RTX 4090 zapłacisz mniej niż $1.00!

Model mentalny: podobnie jak carsharing pozwala wypożyczyć sportowy samochód na dwie godziny za cenę pizzy, bez brania kredytu w salonie samochodowym, tak chmura GPU daje dostęp do superkomputera na kilka godzin.

┌─────────────────────────────────────────────────────────────┐
│                 CHMURNA DZIERŻAWA GPU W 4 KROKACH           │
├─────────────────────────────────────────────────────────────┤
│ 1. WYBÓR SZABLONU (Template):                               │
│    Wybierasz: [ ComfyUI + SDXL / PyTorch 2.4 / Ollama ]     │
├─────────────────────────────────────────────────────────────┤
│ 2. WYBÓR KARTY GRAFICZNEJ:                                  │
│    [ RTX 4090 - 24 GB VRAM ] ➔ Cena: $0.44 / godzina        │
├─────────────────────────────────────────────────────────────┤
│ 3. NATYCHMIASTOWE URUCHOMIENIE I TUNEL SSH:                 │
│    Kontener startuje ➔ łączymy się przez port 8888          │
├─────────────────────────────────────────────────────────────┤
│ 4. POBIERANIE WYNIKÓW I ZAKOŃCZENIE (TERMINATE):            │
│    Pobieramy artefakty na własny PC i zatrzymujemy pod.     │
└─────────────────────────────────────────────────────────────┘

2. Praktyczne komendy CLI do pracy z wynajętym serwerem

Po uruchomieniu podu w chmurze najefektywniejszą metodą pracy jest bezpieczny tunel przez terminal:

# 1. Прокидання локального порту до віддаленого веб-інтерфейсу (наприклад, ComfyUI або WebUI)
# Після цього відкрийте http://localhost:8188 у своєму домашньому браузері!
ssh -N -L 8188:127.0.0.1:8188 -p 22022 root@ssh.runpod.io -i ~/.ssh/id_ed25519

# 2. Моніторинг завантаження GPU та пам'яті VRAM всередині контейнера
nvidia-smi -l 1

# 3. Швидке скачування згенерованих файлів чи моделі на ваш домашній комп'ютер через rsync
rsync -avz -e "ssh -p 22022 -i ~/.ssh/id_ed25519" \
  root@ssh.runpod.io:/workspace/output/ ~/Downloads/ai_results/

# 4. Швидке клонування важкої моделі з HuggingFace прямо на сервер (зі швидкістю 1 Гбіт/с)
huggingface-cli download meta-llama/Llama-3.1-8B-Instruct --local-dir /workspace/model

3. Top-3 platformy chmurowego sprzętu

1. RunPod.io: Najwygodniejszy serwis z przejrzystym interfejsem, dużym wyborem gotowych szablonów (Docker Pods) oraz funkcją Serverless GPU (płacisz tylko za milisekundy inferencji).
2. Vast.ai: Najtańszy „marketplace” kart graficznych na świecie, gdzie prywatni właściciele i centra danych konkurują cenami (można znaleźć RTX 3090 już od $0.18/h).
3. Lambda Labs: Niezawodne korporacyjne klastry serwerów A100 i H100 przeznaczone do poważnego komercyjnego trenowania dużych modeli, charakteryzujące się wysoką przepustowością interkonektu InfiniBand.

4. Złota zasada oszczędzania budżetu

⚠️ Zawsze klikaj przycisk „Terminate” (Zniszcz kontener), gdy skończysz pracę!
Jeśli po prostu zamkniesz kartę przeglądarki lub klikniesz „Stop/Pause”, platforma nadal będzie naliczać niewielkie opłaty ($0.05–$0.10 dziennie) za przechowywanie danych na dysku SSD.
Checklist zakończenia pracy: zapisz niezbędne wagi i obrazy za pomocą rsync lub scp na domowy komputer i kliknij Terminate Pod.