Düşük maliyetli sunucular Cloud Servis Sağlayıcıların fazla, başka bir deyişle kullanılmayan kapasitelerinin yani On-demand, Reserved veya yüksek fiyatlı bir teklif gelene kadar kullanmaya imkân sağlayan, düşük fiyatlı sunucu pazarlama yöntemidir. Bu pazarlama yöntemini ilk önce kullanan servis sağlayıcı AWS’dir. Sonrasında diğer Cloud servis sağlayıcılar da AWS’nin EC2 Spot sunucu ismini verdiği bu pazarlama yöntemine benzer pazarlama yöntemleri geliştirmiştir. En büyük üç bulut sağlayıcısı olan Amazon Web Services, Microsoft Azure ve Google Cloud için düşük maliyetli sunucu pazarlama yöntemlerini karşılaştıracağız.
AWS EC2 Spot Instances
AWS’nin kullanılmayan kapasitesinin arz ve talebe göre oluşturulmuş bir pazarda %90’a varan indirimler sunan düşük maliyetli Sanal Sunucu fiyatlandırma yöntemidir. Atıl kapasitenin düşük fiyat ile kullandırma yöntemini ilk olarak AWS oluşturmuştur. 2009 yılından beri kullanılmaktadır. İlk çıktığında fiyat teklif yöntemi ile çalışan sistem, sonradan ilk gelen alır esasına göre mevcut atıl kaynakları kullandırmak üzerine değişmiştir. İstendiğinde teklif mekanizması halen isteğe bağlı kullanılabilmektedir. AWS EC2 Spot sunucular; Elactic Compute Cloud (EC2), EC2 Auto Scaling, Big Data and Machine Learning workloads, Elastic MapReduce (EMR), Hadoop, Spark, Elastic Container Service (ECS), Elastic Kubernates Service (EKS), Self-managed Kubernetes Clusters on Spot, Data Pipeline and AWS Batch gibi AWS nin bir çok servislerinde kullanılabilir.
ARTILAR:
AWS Spot sunucular kapasite yetersizliği veya teklif fiyatının altında fiyat verilmesi gibi durumlarda 2 dakika önceden haber verilerek kapatılabilir. Bu süre diğer Cloud servis sağlayıcılar arasında en uzun süredir. Bu süre kullanımda olacak aksaklıklar için alınacak önlemler için zaman sağlar.
Spot Sunucular için AWS de herhangi bir süre kısıtlaması yoktur. Kapasite yeterli olduğu sürece sunucular süre kısıtlaması olmaksızın açık kalacaktır. Google Cloud Preemptible örneğinde sunucular için maksimum 24 saat zaman sınırı vardır. AWS Spot için süre sınırı olamaması çok büyük bir avantajdır.
EC2 Fleet (1) ile talep ettiğiniz hedef kapasiteyi karşılamak için Spot EC2 sunucuları ve EC2 On-Demand sunucuları belirlediğiniz oranlar ile beraber kullanıp havuz oluşturabilir ve sistem dayanıklılığını fiyat avantajı ile birleştiren kümeler oluşturma imkânı sağlayabilirsiniz. Bu havuzlardaki Spot sunucuların tiplerini çeşitlendirmek, tiplerin tahsisi için belirli stratejiler arasından uygun olanı seçmek ve maksimum fiyat belirlemek gibi opsiyonlar da EC2 Fleet servisinin güçlü özellikleri arasındadır.
Spot Instance Advisor (2) servisinden Spot sunucuların kesintilerinden etkilenmemek için yardım alabilir ve Spot Sunucu seçerken kesinti oranını düşürebilir aynı zamanda da maliyet avantajı sağlayabilirsiniz. Öngörülebilir havuzlar oluşturmak için Spot Instance Advisor güçlü bir servistir.
AWS Spot EC2 Sunucularınızı kesinti durumunda isteğe bağlı olarak Terminate etmek yerine Stop Start etmenizi (3) veya Hibernate özelliği ile Duraklatmanıza ve Sürdürmenize (4) izin verir.
EKSİLER:
AWS Spot sunucular için tutarlı bir kapasite sağlamayı taahhüt etmemesi bu servis için bir zayıflık olarak kabul edilebilir.
DEĞERLENDİRME:
AWS EC2 Spot sunucuları ile; Stateless Web uygulamaları, Self Managed Kubernates, Elastic Container Service (ECS), Elastic Kubernates Services (EKS) gibi konteyner platformlar için geliştirilmiş mikro servis ve Dokerize uygulamalar, High Performance Computing (HPC) uygulamaları, CI/CD ve Test geliştirme ortamları, Big Data ve Machine Learning (ML) uygulamaları gibi hataya karşı dayanıklı ortamları çalıştırmak mümkündür.
EC2 Spot Fleet ile karma (Spot, Reserved, On-Demand) sunucu havuzları ile Multi Availibity Zone Auto Scaling gibi servislerin de gücünü kullanarak başarısızlık riskine dayanıklı otomasyonlar yapılarak maliyeti optimize edip aynı zamanda kritik iş yüklerini Spot sunular üzerinde çalıştırmak mümkündür.
Google Cloud Preemptible VMs
Preemptible Sunucular Google Cloud’ın kullanılmayan kapasitesini düşük maliyet avantajı ile kısa ömürlü olarak pazarladığı fiyatlandırma yöntemidir. Bu yöntem AWS Spot pazarlama yöntemine benzemekle birlikte iki servis arasında önemli farklar vardır. Sabit fiyat ile sunulan bu servis ile On-Demand fiyatına göre %80 oranında tasarruf sağlanabilir. Google Compute Engine (GCE), Cloud GPU, Google Kubernates Engine (GKE) gibi GCP servislerinde Preemptible sunucular kullanılabilir.
ARTILAR:
Sabit fiyat ile maliyette belirsizlik olmadan indirimden yaralanma imkânı. (5)
Sınırlama olmadan tüm sunucu tiplerinde kullanılabilir.
Komut satırı (CLI) yardımı ile kolay bir şekilde Preemptible sunucu etkinleştirme.
Managed instance groups (MIGs) yardımı ile kapasite yetmediğinde kapatılan sunucularınızı otomatik kapasite yeterli olduğunda olarak geri alabilirsiniz.
EKSİLER:
Preemptible Sunucular maksimum 24 saatlik bir süre için kiralanabiliyor ve bu süre sonunda kesin olarak kapatılıyor. Bu diğer servis sağlayıcılara göre değerlendirildiğinde servisin en büyük zayıflığıdır. (6)
Preemptible Sunucular kapasite yetersizliğinde 30 saniye gibi kısa bir sürede bilgilendirme geçilerek kapatılıyor. Bu süre sunucuyu kapatmak için yeterli olsa da yük devretme ve alternatif üretme gibi işlemler için yetersiz gelebileceğinden kullanım senaryolarını kısıtlamaktadır.
Bazı sunucu tipleri için 24 olan maksimum süre, 6 saat olarak değiştirilebildiğinden bu çok kısa kullanım süresi kotası Preemptible Sunucuların kullanım senaryolarını endişe verici şekilde kısıtlamaktadır.
Managed instance groups (MIGs) yardımı ile kapasite yetmediğinde kapanan sunucularınızı geri aldığınızda sunucular kapalı olarak kalır. Sunucuları ayrıca açmak gerekiyor.
DEĞERLENDİRME:
Google Preemptible sunucuları Hataya Dayanıklı uygulamalar ve Toplu İşler için uygundur. Kısa ömürlü olduklarından öngörülebilir olmaları için ek planlama ve izleme yapılması gerekmektedir. Bu da ek iş yükleri doğuracaktır. Preemptible sunucuları otomasyon ve analitik iş yükleri kullanan platformlar, test ortamları vs. alanlarda kullanmak uygun olacaktır. Üretim veya Kritik görev uygulamaları için Preemptible sunucular yerine öngörülebilir SLA’lar sağlayan sunuculardan yararlanmak daha uygundur.
Azure Low Priority VMs
Low Priority sunucular, kullanılmayan Azure sunucu kaynaklarının düşük fiyat avantajı ile pazarlandığı fiyatlandırma yöntemidir. On-Demand sunuculara kıyasla %80 fiyat avantajı sağlayabileceğiniz bu yöntem ile uygulamalarınızı çalıştırmak için kullandığınız sunucularda fiyat avantajı sağlamanız mümkündür. Bu yöntem AWS Spot pazarlama yöntemine benzemekle birlikte iki servis arasında önemli farklar vardır. Sabit fiyat ile sunulan bu servis sadece Azure Batch ve VM scale sets servisleri ile kullanılabilir. Bu sunucular Batch Processing uygulamaları, Medya Rendering işleri, Büyük Ölçekli Hataya Dayanıklı Uygulamalar, Test ve Demo ortamları vs. için kullanılabilir.
ARTILAR:
Sabit fiyat ile maliyette belirsizlik olmadan indirimden yaralanma imkânı. (7)
Azure Batch servisi ile birlikte kullanarak On-Demand ve Low Priority sunucuları aynı havuzda çalıştırabilir ve sistem dayanıklılığını fiyat avantajı ile birleştiren kümeler oluşturma imkânı sağlayabilirsiniz.
EKSİLER:
Genel olarak kapasite ile ilgili sorunlar var. Bazı sunucu türlerinde hiç kullanılamıyor.
Sunucu kaynaklarının öngörülebilirliği çok düşük. Kaynağın ne kadar olduğu belirsiz. Bu durum planlamayı zorlaştırıyor.
Sadece Azure Batch ve VM scale sets servisleri ile kullanılabiliyor. Tek bir Low Priority sunucu kullanılamaz.
Diğer Azure servisleri ile sınırlı sınırlı entegrasyon var. Yazılım araçlarını kullanarak diğer servisler ile entegrasyon yapmak için imkanlar limitli ve yeterli değil.
DEĞERLENDİRME:
Azure Low Priority sunucular Bach Prosessing işlemlerinde sınırlı olarak kullanılabilir görünmektedir. Diğer Azure servisleri ile entegrasyonu kısıtlı olduğundan, otomasyon ve kullanılabilir iş yükü çalıştırma konusunda ciddi çalışma ve değerlendirme yaparak kısıtlı olarak kullanılabilir.
Sonuç:
Tüm büyük Cloud servis sağlayıcıları benzer mantıkta kullanılmayan kapasitelerini pazarlamak için uygun fiyatlı sunucular için pazarlama yöntemi sunmuş durumdadır. Bu pazarlama mantığındaki sunucuları servis sağlayıcının sağladığı servis imkanlarını da değerlendirilerek, aynı zamanda gerekli otomasyon ve operasyonel önlemler alınarak canlı sistemlerde de bu tip sunucuları faturalarını düşürmek için kullanabilir. Sunucular Test, Demo, CI/CD, Bach Prossesing, Machine Learning ve Big Data işlemleri, Medya Rendering vs. Uygulamalar için de uygundur.
Üç büyük Cloud servis sağlayıcının, atıl kapasitenin uygun fiyat ile pazarlanma yöntemine dayalı sunucu pazarlama yöntemi aşağıdaki tabloda özetlenmiştir.
Cloud Servis Sağlayıcı | Servis adı | Fiyatlandırma | Kesintiye uğramdan önce geçen süre | Maksimum rezervasyon süresi | Kapasite yönetimi | Ücretlendirme geçmişi | Sunucuların kullanılabileceği servisler |
| EC2 Spot Instances | Değişken | 2 Dakika | Yok (Kapasiteye bağlı) | Spot Fleet | Spot Instance Advisor | Elactic Compute Cloud (EC2), EC2 Auto Scaling, Big Data and Machine Learning workloads, Elastic MapReduce (EMR), Hadoop, Spark, Elastic Container Service (ECS), Elastic Kubernates Service (EKS), Self-managed Kubernetes Clusters on Spot, Data Pipeline and AWS Batch, etc. |
| Low Priority VMs | Sabit | 30 Saniye | Yok (Kapasiteye bağlı) | Yok | Sabit Fiyat | Azure Batch |
| Preemptible VMs | Sabit | 30 Saniye | Genel olarak maksimum 24 Saat, Belirli tipler için maksimum 6 saat | Instance Groups | Sabit Fiyat | Google Compute Engine VMs (GCE), Google Kubernnates Engine clusters (GKE), Managed Instance Groups, Google Cloud Dataproc etc. |
Referanslar
TAGs: Amazon EC2 Spot Instances, Azure Low Priority VMs, Google Preemptible VMs, Düşük Maliyetli Cloud Sunucu karşılaştırması, Cloud Cost Control, Bulut Faturanızı Düşürün.
