Spot Instances — jak ušetřit 70 % na cloud compute

Spot instances nabízejí stejný compute za 60-90 % nižší cenu. Háček? Cloud provider je může kdykoliv vzít zpět. Jak s tím žít?

Jak Spot funguje¶

Cloud provideri mají nevyužitou kapacitu. Místo aby ležela ladem, prodávají ji se slevou. Azure Spot VMs: 30sekundové varování před eviction. AWS Spot: 2minutové varování. Cena se mění podle poptávky.

Vhodné workloady¶

• CI/CD build agenti — build spadne? Restart, žádná ztráta
• Batch processing — checkpointing, idempotentní úlohy
• Dev/test prostředí — tolerantní k přerušení
• ML training — s checkpointy a resume
• Stateless web workery — za load balancerem, automatická náhrada

Architektura pro Spot¶

Kubernetes: dedikovaný node pool s taintem, workloady s tolerations. Mixed strategy: on-demand základ (30 %) + spot nadstavba (70 %). Graceful shutdown handling — SIGTERM handler uloží stav.

Naše úspory¶

CI/CD na Spot: -73 %. ML training: -68 %. Dev prostředí: -80 %. Celkový dopad na cloud bill: -22 %.

Spot = free money (skoro)¶

Pokud vaše workloady tolerují přerušení, nepoužívat Spot je plýtvání.