Co je SkyPilot a proč o něm mluví každý, kdo trénuje modely

TITULEK: Cloudové firmy vám účtují stovky dolarů jen za to, že si stáhnete vlastní data. Tenhle framework to obchází

Zkuste si stáhnout 200 GB modelu z AWS S3 mimo jejich vlastní region. Účet, který vám přijde za "data transfer out", vás dostane rychleji než jakýkoli GPU compute. Egress poplatky jsou dlouho ten nejméně diskutovaný, ale nejbolestivější řádek v cloudové faktuře – a přesně kolem něj se teď motá nová vlna nástrojů, které slibují, že vaše modely a data zůstanou na jednom místě (Hugging Face), zatímco výpočet putuje tam, kde je zrovna nejlevnější GPU. Jmenuje se to SkyPilot, a v kombinaci s Hugging Face "zero-egress" storage a nativním vLLM backendem mění ekonomiku provozu AI natolik, že si to zaslouží pozornost i mimo okruh ML inženýrů.

Co je SkyPilot a proč o něm mluví každý, kdo trénuje modely

SkyPilot je open-source framework (vyvinutý na Berkeley, dnes s komerčním backendem) pro orchestraci výpočetních úloh napříč cloudy – AWS, GCP, Azure, Lambda Labs, RunPod, Paperspace, ale i on-prem Kubernetes clustery. Základní myšlenka je jednoduchá: napíšete jeden YAML soubor s definicí úlohy (kolik GPU, jaký typ, jaký příkaz spustit) a SkyPilot najde nejlevnější dostupnou instanci napříč poskytovateli, spustí ji, nahraje kód, spustí trénink nebo inference, a po dokončení instanci automaticky ukončí.

To zní jako marketingová fráze, ale rozdíl v ceně je reálný. GPU spot instance na AWS (A100 80GB) stojí kolem 1,3–1,8 USD/hod, na Lambda Labs podobná konfigurace vyjde na 1,1 USD/hod, na RunPod community cloud klidně na 0,5–0,7 USD/hod. SkyPilot tohle arbitrážuje automaticky – příkaz `sky launch cluster.yaml --cloud aws,gcp,runpod` porovná ceny a vybere nejlevnější dostupnou kapacitu. Pro tým, který denně spouští desítky tréninkových jobů, to znamená úsporu v řádu tisíců dolarů měsíčně, aniž by museli ručně sledovat ceníky sedmi poskytovatelů.

Firma, která za SkyPilotem stojí komerčně (Berkeley Sky Computing Lab, dnes i startup SkyPilot Inc.), tvrdí úspory 3–6× oproti fixaci na jednoho cloud providera. Podle vlastní dokumentace projektu je framework dnes nasazený u firem jako Samsung, Canva nebo Bespoke Labs.

Zero-egress storage: jak Hugging Face řeší nejdražší položku v cloud účtu

Tady přichází ta zajímavá část. Když přesouváte výpočet mezi cloudy, potřebujete mít data (modely, datasety, checkpointy) někde, odkud si je každý dočasný worker stáhne – bez ohledu na to, kde zrovna běží. Klasické řešení – držet data v S3 bucketu jednoho cloudu – vás donutí platit egress poplatky pokaždé, když si je stáhne worker běžící jinde. AWS účtuje typicky 0,09 USD za GB odchozích dat (nad prvních 10 TB měsíčně), což při stahování 70GB modelu Llama 3.1 70B stovkami workerů dělá reálné peníze.

Hugging Face Hub od loňska nabízí infrastrukturu, kterou komunita neformálně označuje jako "zero-egress storage" – modely a datasety uložené na Hugging Face si můžete stahovat odkudkoli bez poplatků za výstupní přenos dat, protože HF sám hostuje storage vrstvu (postavenou na Xet, technologii pro deduplikaci a chunk-level verzování, kterou HF koupil v roce 2025) a nefunguje jako klasický cloudový bucket s participačním poplatkovým modelem.

Prakticky to znamená: model uložíte jednou na Hugging Face, a SkyPilot job spuštěný na RunPod, pak na Lambda, pak na Azure spot instanci si ho pokaždé stáhne bez dalšího účtování za přenos. Xet navíc dělá content-based chunking – pokud měníte jen LoRA váhy a base model zůstává stejný, přenáší se jen delta, ne celý soubor znovu. U modelů v řádu desítek GB je to rozdíl mezi stahováním 70 GB a stahováním 200 MB.

vLLM native-speed backend a Foundry Managed Compute

Druhá vrstva skládačky je serving. Hugging Face v roce 2026 zpřístupnil takzvaný "native-speed vLLM transformers backend" – v podstatě přímé napojení knihovny `transformers` na vLLM inferenční engine bez nutnosti ručně konvertovat model do vlastního formátu. Dřív jste museli model exportovat, případně kvantovat přes vlastní skript, než jste ho mohli nasadit do vLLM. Teď stačí referencovat repo ID na Hugging Face a vLLM si architekturu i váhy natáhne přímo, s podporou PagedAttention, continuous batchingu a tensor parallelism napříč více GPU.

Microsoft do toho zapadá přes Foundry Managed Compute (dřív Azure AI Foundry) – manažovanou vrstvu, kde si vyberete libovolný model z Hugging Face Hubu a Foundry ho nasadí na spravovanou GPU infrastrukturu s automatickým škálováním. Kombinace SkyPilot (výběr nejlevnějšího cloudu) + HF zero-egress storage (žádné poplatky za přenos) + vLLM native backend (rychlé nasazení bez konverze) dává dohromady pipeline, kde od "chci nasadit Llama 3.3 70B" k "mám běžící endpoint" uplyne řádově minuty, ne dny práce DevOps týmu.

Pro srovnání s Ollama: ta je skvělá pro lokální jednoho-uživatele nasazení na noteboocích a domácích serverech, ale nepočítá s multi-GPU tensor parallelism ani s dynamickým škálováním napříč cloudy. Je to jiná váhová kategorie – Ollama pro experimentování a menší nasazení, vLLM+SkyPilot pro produkční provoz s desítkami až tisíci requesty za sekundu.

Kolik to reálně stojí a proč hraje roli i cena elektřiny

Tady je potřeba být upřímný: SkyPilot vám ušetří na cloudovém účtu, ale nezruší fyziku. GPU serverová farma žere elektřinu – A100 karta pod plnou zátěží spotřebuje kolem 400 W, H100 klidně 700 W. Osmi-GPU uzel běžící 24/7 na tréninku je ekvivalent malé výrobní haly, co se týče odběru.

Pokud provozujete vlastní GPU hardware doma nebo ve firmě (místo pronájmu v cloudu), cena elektřiny se vám do nákladů promítne přímo a citelně. A tady se hodí přemýšlet stejně chytře, jako to dělá SkyPilot s cloudy – tedy sledovat, kdy je elektřina nejlevnější, a přesouvat náročné tréninkové joby do hodin s nízkou spotovou cenou. Denní spotový trh s elektřinou funguje analogicky k spotovým GPU instancím: ceny se mění hodinu od hodiny a rozdíly bývají tak velké, že tréninkovou úlohu naplánovanou na noční hodiny s nízkou cenou vyjde levněji, i kdyby běžela o něco déle. Přehled aktuálních cen najdete na spotová cena elektřiny – denní trh.

Firmy, které provozují vlastní on-prem GPU klastr napojený na fotovoltaiku nebo baterie, navíc mohou spouštět tréninkové úlohy přednostně v době přebytku vlastní výroby – to je přesně případ, kterým se zabývá sdílení elektřiny a obchodování flexibility. GPU farma je z pohledu energetiky jen další flexibilní spotřebič, který se dá řídit podle ceny, stejně jako bateriové úložiště nebo tepelné čerpadlo.

Rizika a úskalí, o kterých se v marketingu nemluví

SkyPilot není bez problémů. Multi-cloud orchestrace znamená multi-cloud účty, multi-cloud IAM konfiguraci a multi-cloud debugging, když něco nefunguje. Pokud vám spot instance na půlce tréninku spadne (a spadne – to je smysl slova "spot", provider ji může kdykoli odebrat), potřebujete robustní checkpointing, jinak přijdete o hodiny výpočtu. SkyPilot má vestavěnou podporu pro auto-resume z checkpointu, ale musíte si to nakonfigurovat sami – automaticky to nefunguje.

Zero-egress storage na Hugging Face taky neznamená nulové náklady – HF Enterprise Hub (potřebný pro soukromé repo s vyšší kapacitou) stojí od 20 USD/uživatel/měsíc, plus storage nad rámec free tieru (běžně 100 GB zdarma, pak paušál). Pro menší open-source projekty je to zanedbatelné, pro firmu se stovkami GB proprietárních dat už ne.

A pak je tu otázka lock-inu jiného druhu: přesunete-li celou infrastrukturu na Hugging Face jako centrální storage vrstvu, stáváte se závislí na jejich dostupnosti a cenové politice stejně, jako byste byli závislí na AWS. Rozdíl je v tom, že HF má silnou motivaci držet formát otevřený (safetensors, GGUF), takže migrace pryč je technicky snazší než útěk z proprietárního cloudového formátu. Pokud chcete plnou kontrolu bez závislosti na jakémkoli providerovi, kombinace Ollama pro serving + vlastní S3-compatible storage (MinIO) + LoRA fine-tuning na vlastním GPU je pořád validní, i když pomalejší cesta.

Jak s tím reálně začít

Instalace je triviální: `pip install skypilot[aws,gcp,runpod]` a `sky check` ověří, které cloudy máte nakonfigurované. Konfigurační YAML pro nasazení modelu z Hugging Face vypadá zhruba takto – definujete `resources: accelerators: A100:1`, `envs: HF_MODEL: meta-llama/Llama-3.3-70B-Instruct`, a `run:` sekci, kde spustíte `vllm serve $HF_MODEL --tensor-parallel-size 1`. Příkaz `sky launch serve.yaml` pak najde nejlevnější dostupnou instanci a nasadí.

Pro produkční škálování slouží `sky serve up` – spravovaná služba s automatickým load balancingem mezi replikami napříč cloudy a automatickým restartem při výpadku spot instance. Dokumentace i s příklady je na skypilot.co a modely včetně kvantovaných verzí najdete přímo na Hugging Face Hub.

Než se do toho pustíte ve větším měřítku, spočítejte si TCO na měsíc dopředu – kolik GPU hodin reálně potřebujete, jaký je poměr trénink/inference, a jestli se vám nevyplatí spíš jeden vlastní server s RTX 4090 (cca 40 000 Kč) pro menší modely do 13B parametrů, než pronajímat cloudové A100 za stovky dolarů měsíčně. Pro firmy, které řeší podobné rozhodování u energetiky – vlastní FVE versus nákup ze sítě – existuje analogické poradenství na energetické poradenství SmartEnergyShare.

Závěr: kam to směřuje

Trend je jasný – multi-cloud orchestrace a storage nezávislá na jednom poskytovateli přestává být exotika pro pár výzkumných laboratoří a stává se defaultem. Očekávám, že do konce roku 2026 nabídnou podobný "zero-egress" model i konkurenční platformy (Cloudflare R2 už egress neúčtuje vůbec, což je možná ještě zajímavější signál). Cloudoví giganti budou muset buď snížit egress poplatky, nebo přijdou o vývojáře, kteří si spočítali, že platit za přenos vlastních dat je z principu špatný obchod. A stejně jako u elektřiny – kdo bude umět flexibilně přesouvat zátěž tam, kde je to zrovna nejlevnější, ten vyhraje na nákladech, bez ohledu na to, jestli řídí GPU cluster nebo domácí baterii. Víc k tomu, jak podobné principy flexibility fungují v energetice, najdete na SmartEnergyShare.com nebo na ShareElectric.cz.

Zdroje

Obchodujete s batteriovými úložišti nebo hledáte partnera pro flexibilitu a day trading elektřiny? SmartEnergyShare nabízí kompletní řešení pro BESS projekty od 50 do 250 kW — obchodování flexibility, SVR služby a IoT monitoring. Zjistěte víc →

Další články na toto téma najdete na: Electric-Share.cz vLLM V1: Tichá revoluce, která zachránila trénink AI mode... Vice o more analyses