彈性伸縮概述
更新時間 2024-09-05 15:07:20
最近更新時間: 2024-09-05 15:07:20
分享文章
本節介紹了:彈性伸縮概述的用戶指南。
彈性伸縮概述
彈性伸縮是根據業務需求和策略,經濟地自動調整彈性計算資源的管理服務。本文介紹彈性伸縮的背景信息和彈性伸縮涉及的組件。
背景介紹
彈性伸縮是容器被廣泛采用的功能,典型的場景包含在線業務彈性、大規模計算訓練、深度學習GPU或共享GPU的訓練與推理、定時周期性負載變化等。彈性伸縮分為兩個維度:
- 調度層彈性,主要是負責修改負載的調度容量變化。例如,HPA是典型的調度層彈性組件,通過HPA可以調整應用的副本數,調整的副本數會改變當前負載占用的調度容量,從而實現調度層的伸縮。
- 資源層彈性,主要是集群的容量規劃不能滿足集群調度容量時,會通過彈出ECS等資源的方式進行調度容量的補充。
兩層的彈性組件與能力可以分開使用,也可以結合在一起使用,并且兩者之間是通過調度層面的容量狀態進行解耦。
伸縮組件介紹


調度層彈性組件介紹
| 組件名稱 | 組件介紹 | 適用場景 | 使用限制 |
|---|---|---|---|
| HPA | Kubernetes內置組件,主要面向在線業務。 | 在線業務 | 適用于Deployment、StatefulSet等實現scale接口的對象。 |
| VPA(alpha) | 開源社區組件,主要面向大型單體應用。 | 大型單體應用 | 適用于無法水平擴展的應用,通常是在Pod出現異常恢復時生效。 |
| Cubescaler | CCSE自研插件,主要面向應用資源使用率存在周期性變化的場景。 | 周期性負載業務 | 適用于Deployment、StatefulSet等,實現了scale接口的對象。 |
資源層彈性組件介紹
| 組件名稱 | 組件介紹 | 適用場景 |
|---|---|---|
| cube-cluster-autoscaler | CCSE自研插件,節點水平伸縮組件,提供了調度、彈性優化、成本優化的功能。 | 全場景支持,適合在線業務、深度學習、大規模成本算力交付等。 |
功能入口
支持用戶手動伸縮應用容器實例,HPA自動伸縮策略和定時自動伸縮。

