Location horaire de cartes graphiques dans le cloud (RunPod & Vast.ai)

1. Vue d'ensemble du concept et de son utilité

Pour exécuter des modèles open-source lourds (Llama 3.3 70B, DeepSeek R1) ou générer des milliers d'images via FLUX / Stable Diffusion, il faut une carte graphique Nvidia puissante disposant d'une grande quantité de mémoire (de 24 à 80 Go de VRAM).

Acheter ce matériel pour un usage personnel représente un investissement considérable :

• La carte graphique grand public haut de gamme RTX 4090 coûte plus de 2 000 $.
• L'accélérateur serveur professionnel Nvidia H100 a le prix d'une voiture neuve — à partir de 35 000 $.

Mais que faire si vous devez générer 100 vidéos ou entraîner une LoRA personnelle seulement une fois par mois ?

L'achat de matériel n'a aucun sens dans ce cas. C'est là qu'intervient la location horaire de GPU (Cloud GPU Rental) :

• Vous accédez à RunPod ou Vast.ai ;
• Vous sélectionnez la carte graphique requise dans la liste ;
• Vous créditez votre solde de 5 $ ;
• Vous cliquez sur Start, exécutez la tâche en 2 heures, téléchargez les résultats sur votre disque local et détruisiez le serveur.
• En tout, pour 2 heures de travail sur une RTX 4090, vous dépenserez moins de 1,00 $ !

Modèle mental : tout comme le carsharing permet de conduire une sportive pendant 2 heures au prix d'une pizza sans contracter un crédit auto, le cloud GPU donne accès à un supercalculateur pour quelques heures.

┌─────────────────────────────────────────────────────────────┐
│                 LOCATION GPU CLOUD EN 4 ÉTAPES              │
├─────────────────────────────────────────────────────────────┤
│ 1. CHOIX DU MODÈLE (Template) :                             │
│    Sélectionnez : [ ComfyUI + SDXL / PyTorch 2.4 / Ollama ] │
├─────────────────────────────────────────────────────────────┤
│ 2. CHOIX DE LA CARTE GRAPHIQUE :                            │
│    [ RTX 4090 - 24 Go VRAM ] ➔ Prix : 0,44 $ / heure        │
├─────────────────────────────────────────────────────────────┤
│ 3. DÉMARRAGE IMMÉDIAT ET TUNNEL SSH :                       │
│    Le conteneur démarre ➔ connexion via le port 8888        │
├─────────────────────────────────────────────────────────────┤
│ 4. TÉLÉCHARGEMENT DES RÉSULTATS ET TERMINATE :              │
│    Téléchargez les artefacts sur votre PC et arrêtez l'instance. │
└─────────────────────────────────────────────────────────────┘

2. Commandes CLI pratiques pour interagir avec le serveur loué

Une fois le pod lancé dans le cloud, la méthode la plus efficace pour travailler consiste à établir un tunnel sécurisé depuis votre terminal :

# 1. Прокидання локального порту до віддаленого веб-інтерфейсу (наприклад, ComfyUI або WebUI)
# Після цього відкрийте http://localhost:8188 у своєму домашньому браузері!
ssh -N -L 8188:127.0.0.1:8188 -p 22022 root@ssh.runpod.io -i ~/.ssh/id_ed25519

# 2. Моніторинг завантаження GPU та пам'яті VRAM всередині контейнера
nvidia-smi -l 1

# 3. Швидке скачування згенерованих файлів чи моделі на ваш домашній комп'ютер через rsync
rsync -avz -e "ssh -p 22022 -i ~/.ssh/id_ed25519" \
  root@ssh.runpod.io:/workspace/output/ ~/Downloads/ai_results/

# 4. Швидке клонування важкої моделі з HuggingFace прямо на сервер (зі швидкістю 1 Гбіт/с)
huggingface-cli download meta-llama/Llama-3.1-8B-Instruct --local-dir /workspace/model

3. Top-3 des plateformes de matériel cloud

1. RunPod.io : Le service le plus ergonomique, doté d'une interface soignée, d'un large choix de templates prêts à l'emploi (Docker Pods) et d'une fonctionnalité Serverless GPU (facturation uniquement à la milliseconde d'inférence).
2. Vast.ai : Le « marketplace » de cartes graphiques le moins cher au monde, où particuliers et datacenters se disputent les prix (on peut trouver une RTX 3090 dès 0,18 $/h).
3. Lambda Labs : Des clusters d'entreprise fiables équipés de serveurs A100 et H100, destinés à l'entraînement commercial sérieux de grands modèles, offrant une haute vitesse d'interconnexion InfiniBand.

4. Règle d'or pour maîtriser le budget

⚠️ Cliquez toujours sur le bouton « Terminate » (Détruire le conteneur) lorsque vous avez terminé !
Si vous fermez simplement l'onglet du navigateur ou appuyez sur « Stop/Pause », la plateforme continuera à débiter de petites sommes (0,05–0,10 $ par jour) pour le stockage de votre disque sur SSD.
Checklist de fin de session : sauvegardez les poids et images nécessaires via rsync ou scp vers votre PC local, puis cliquez sur Terminate Pod.