Istio Ingress Gateway 무중단 롤아웃: 게이트웨이 수백 개를 재시작해도 손님은 못 느낀다
인프라에서 가장 무서운 재시작은 “모든 트래픽이 지나가는 길목"을 재시작하는 것이다. 앱 Pod 하나가 잠깐 흔들리면 그 앱만 아프지만, ingress gateway가 흔들리면 그 뒤에 있는 서비스 전부가 동시에 아프다. gateway는 전형적인 SPOF(단일 장애점, single point of failure)다.
그런데 어느 날 밤, prod 클러스터에서 gateway를 포함한 워크로드 10종(Pod 수백 개)을 하나씩 껐다 켰는데 사용자 화면에는 5xx가 사실상 0이었다. 앞 글에서 앱 Pod의 우아한 종료를 다뤘다면, 이 글은 그 한 단계 위, 모든 트래픽이 지나가는 ingress gateway 계층을 무중단으로 롤아웃하는 방법을 정리한다. 핵심은 하나다. 끄는 순서를 강제하는 것.