Salesforce EKS 사례 정리: VPA와 HPA로 1,400개 클러스터 적정 크기화
3줄 요약
- Salesforce는 1,400개가 넘는 Amazon EKS 클러스터에서 VPA와 HPA를 함께 쓰는 다차원 오토스케일링으로 리소스 예약을 최적화했습니다. 이를 통해 누적 500만 달러 이상의 인프라 비용을 절감했다고 밝혔습니다 [1].
- 워크로드마다 사용 패턴에 따라 VPA 단독, HPA 단독, VPA+HPA 조합 중 하나를 적용했습니다. 둘을 함께 쓸 때는 서로 다른 지표로 스케일하는 것이 핵심입니다 [1].
- 노드 확장은 Cluster Autoscaler에서 Karpenter로 옮겼습니다. 개발·스테이징·프로덕션 전 환경에 배포하는 동안 고객에게 영향을 준 장애는 없었다고 합니다 [1].
무엇이 바뀌었나
Salesforce는 1,400개 이상의 EKS 클러스터로 멀티테넌트 플랫폼을 운영합니다. 클러스터 하나가 최대 2,500개 노드에 이르고, 워크로드도 약 1,000개를 수용합니다 [1]. 클러스터가 100개 안팎이던 초기에는 CPU·메모리 요청값을 정적 설정으로 관리했습니다. 하지만 규모가 커지면서 이 방식은 유지하기 어려워졌습니다 [1].
정적 관리의 문제는 세 가지였습니다 [1].
- 장애 위험: 요청값과 제한값이 부정확하면 예상치 못한 부하에서 CPU 스로틀링(할당량 초과로 CPU 사용이 억제되는 현상)이 생기거나 파드가 종료됐습니다.
- 반복 작업 부담: 엔지니어가 과거 텔레메트리(운영 지표 데이터)를 뒤져 가며 환경마다 설정을 손봐야 했습니다.
- 확장성 한계: 클러스터와 워크로드가 늘수록 최적값을 유지하기가 불가능해졌습니다.
그래서 팀은 이미 쓰고 있던 HPA(파드 개수를 늘리고 줄이는 수평 오토스케일러)에 VPA(파드의 CPU·메모리 요청값을 조정하는 수직 오토스케일러)를 더했습니다 [1]. 워크로드별 적용 기준은 다음과 같습니다 [1].
- VPA 단독: 복제본을 늘려도 이득이 없고 리소스 크기로 확장해야 하는 워크로드에 씁니다. 리더-팔로워 구조와 EKS 애드온이 여기에 해당합니다.
- HPA 단독: 똑같은 복제본을 추가해 확장할 수 있는 스테이트리스 워크로드와 쿠버네티스 웹훅 서버에 씁니다.
- VPA+HPA 조합: 대표 사례는 Istio 컨트롤 플레인인 istiod입니다. 설정 배포 기능은 연결된 프록시 수에 비례하므로 HPA로 확장합니다. 파드당 평균 약 500개 프록시를 유지하는 것이 기준입니다. 반면 설정 생성은 모든 파드가 같은 작업을 하므로 복제본을 늘려도 소용이 없습니다. 이 부분은 VPA가 CPU·메모리를 키워 대응합니다.
운영 관점에서 볼 점
호환성과 충돌: 같은 워크로드에 VPA와 HPA를 동시에 걸 때는 서로 독립된 지표를 써야 합니다. 그래야 두 오토스케일러가 같은 신호를 보고 동시에 크기를 바꾸는 상황을 막을 수 있습니다 [1]. istiod는 VPA가 리소스 사용률을, HPA가 연결된 프록시 수를 기준으로 삼아 이 문제를 피했습니다 [1].
도구 공백: 글에 따르면 쿠버네티스에는 대규모 멀티테넌트 환경에서 CPU·메모리를 실제 수요에 맞춰 계속 조정해 주는 기본 솔루션이 없습니다. 이런 기능이 필요하면 팀이 직접 다차원 스케일링 전략을 세워야 합니다 [1].
비용: 사용률이 낮은 클러스터는 돈을 내고도 쓰지 않는 컴퓨팅을 소비합니다. 클러스터가 수백~수천 개 규모가 되면 이 낭비가 연간 수백만 달러로 불어난다고 설명합니다 [1].
보안: 공개된 자료 범위에서는 보안 관련 구체적인 내용이 확인되지 않습니다.
적용해 보려면
자료에는 구체적인 매니페스트나 설정 값이 없습니다. 그래서 여기서는 절차만 정리합니다.
- 워크로드 분류: 워크로드를 사용 패턴에 따라 VPA 단독, HPA 단독, 조합 중 하나로 나눕니다 [1].
- 지표 분리: 조합 대상은 수직 확장 지표(리소스 사용률)와 수평 확장 지표(연결 수 같은 커스텀 지표)를 반드시 따로 정합니다 [1].
- 코드로 관리: 오토스케일러 설정을 CI/CD에 넣어 버전으로 관리하고 자동 테스트를 거칩니다. Salesforce는 Spinnaker 파이프라인과 Terraform 모듈을 썼습니다 [1].
- 단계적 배포: 개발, 스테이징, 프로덕션 순서로 넓혀 갑니다 [1].
- 노드 계층 검토: 노드 확장 계층도 함께 봅니다. Salesforce는 컴퓨팅 최적화와 개발자 셀프서비스를 위해 Karpenter로 전환했습니다 [1].
정리
이 사례의 핵심은 VPA를 도입했다는 사실보다, 워크로드 특성에 맞춰 스케일링 방향을 고르고 VPA와 HPA가 서로 다른 신호를 보게 설계한 데 있습니다. 정적 설정으로 요청값을 관리하는 팀이라면 먼저 워크로드를 세 가지 패턴으로 분류해 보는 것이 좋은 출발점이 될 수 있습니다. 출처 글에서 운영 안전장치를 다룬 부분은 CI/CD 항목까지만 확인됩니다. 나머지 세부 내용은 원문 전체를 확인해야 합니다.
참고 자료
- How Salesforce efficiently right-sizes Kubernetes workloads at scale on Amazon EKS · AWS Containers, 2026-11-16