쿠버네티스 시그 앱스, 차세대 AI 워크로드 지원과 안정성 강화를 위한 제어기 혁신 추진

워크로드 관리 체계의 변화

쿠버네티스 특별관심그룹인 시그 앱스(SIG Apps)가 서비스 워크로드의 안정성을 높이고 분산 인공지능 환경을 지원하기 위해 워크로드 제어기 전반의 개선에 나섰다. 그동안 배치 작업 처리에 집중되었던 개발 역량을 데몬셋과 스테이트풀셋 등 상시 실행 워크로드의 대규모 확장 및 롤아웃 성능 향상으로 전환한다. 더불어 파드 실패 정책의 세부 식별을 지원하는 개선 제안(KEP-4443)의 개발을 재개하여 쿠버네티스 1.38 버전에 반영하는 것을 목표로 설정했다.

이와 함께 급증하는 차세대 인공지능과 자율 에이전트 워크로드를 뒷받침하기 위한 전용 하위 프로젝트들이 본격화되었다. 분산 학습의 안정성을 책임지는 잡셋(JobSet)과 대규모 언어 모델의 샤딩 추론을 돕는 리더워커셋(LeaderWorkerSet), 동적 실행 환경을 위한 에이전트 샌드박스 등이 대표적이다. 전통적인 핵심 작업 제어기를 직접 수정하지 않으면서도 새로운 컴퓨팅 패러다임을 수용할 수 있는 관리 체계가 구축되고 있다.

인공지능 워크로드와 등장 배경

수백 개의 그래픽 처리 장치(GPU)를 사용하는 대규모 분산 학습과 대규모 언어 모델 기반 시스템이 보편화되면서 기존 워크로드 관리 방식의 한계가 드러났다. 단 하나의 노드에만 장애가 발생해도 전체 학습 파이프라인이 중단되고 고비용의 가속기 자원이 유휴 상태로 방치되는 비효율이 발생했다. 또한 로깅이나 모니터링을 담당하는 데몬셋이 결함 노드에 묶여 멈추면 클러스터 전체의 정상 상태 관리가 마비되는 구조적 문제가 누적되었다.

특히 인프라 결함으로 인한 노드 수명주기 불안정은 데몬셋과 잡처럼 노드 상태에 직접 결합된 워크로드에서 가장 심각한 운영 장애를 야기했다. 개별 관심 그룹 차원의 임시방편 패치로는 복합적인 인프라 문제를 해결하기 어렵다는 판단에 따라 시그 노드(SIG Node) 및 시그 오토스케일링(SIG Autoscaling)과 연계한 전담 작업반이 신설되었다. 장기적이고 체계적인 노드 수명주기 관리 체계를 마련해 장애 복원력을 근본적으로 개선하려는 조치다.

장애 정책 고도화와 신규 기술

쿠버네티스 1.38 출시를 목표로 재추진되는 개선 제안(KEP-4443)은 작업(Job) 처리 과정에서 발생하는 세부 실패 사유의 식별 공백을 메우는 데 초점을 맞춘다. 기존 체계에서는 파드 실패 정책에 등록된 서로 다른 규칙들이 각기 다른 컨테이너 종료 코드에 대응하더라도 모두 동일한 일반 실패 사유만을 기록하는 한계가 있었다. 신규 개선안은 파드 실패 정책의 개별 규칙에 선택적 이름 항목을 추가하여 최종 작업 실패 조건 사유에 해당 이름이 덧붙여지도록 처리한다.

분산 인공지능 제어 기술에서는 단일 파드의 장애로 전체 작업이 멈추는 현상을 방지하기 위해 전부 아니면 전무(All-or-Nothing) 방식의 조정 패턴이 적용된다. 특정 파드나 단위 작업에 이상이 생기면 부분적 정지 상태로 방치하지 않고 그룹 단위 재시작을 수행하여 직전의 정상 체크포인트부터 연산을 이어가도록 유도한다. 핵심 제어기를 비대화하지 않기 위해 이러한 기능들은 사용자 정의 자원(CRD) 형태로 우선 구현되어 검증되고 있다.

운영 자동화와 자원 효율화

이러한 복원력 강화와 제어기 개선은 실제 프로덕션 환경을 운영하는 플랫폼 엔지니어링 팀의 운영 부담을 직접적으로 완화한다. 불안정한 노드로 인해 데몬셋 배포가 멈추고 이를 수동으로 해제하기 위해 야간 호출을 받아야 했던 관리 장애가 크게 줄어들 전망이다. 또한 잡셋과 같은 상위 수준의 오케스트레이션 도구가 파드 실패 규칙에 명시된 세부 사유를 직접 판별할 수 있게 됨에 따라 실패 유형별 자동화 대응이 가능해진다.

고비용의 그래픽 처리 장치가 투입되는 대규모 연산 작업에서는 컴퓨팅 자원의 낭비를 줄이고 비용 효율성을 획기적으로 높일 수 있다. 쿠버네티스가 성능 저하 노드를 사전에 감지하고 전체 작업이 비정상 종료되기 전에 학습 코디네이터나 에이전트를 재배치하여 자원 공백을 방지한다. 이를 통해 복잡한 분산 환경에서도 안정적인 실행 예측성을 확보하고 예기치 못한 작업 중단으로 인한 비용 손실을 최소화할 수 있다.

하위 호환성 원칙과 확장 한계

핵심 워크로드 제어기의 변경 과정에서는 10년 이상 축적된 기존 사용자 자동화 도구와 상위 제어기 간의 하위 호환성을 지키는 일이 최대 난제로 꼽힌다. 명백히 더 정확해 보이는 동작 변경이라 할지라도 과거의 제어기 동작에 맞춰 구축된 생태계 자동화를 손상시킬 수 있기 때문에 설계 수정에 엄격한 보수성이 요구된다. 제어기가 멈춘 파드의 복구를 얼마나 적극적으로 포기해야 하는지, 이를 결정하기 위해 어떤 지표 신호를 수집해야 하는지에 대한 기술적 균형이 지속적인 과제로 남아 있다.

이에 따라 시그 앱스는 기존 워크로드에 영향을 강제하지 않는 선택적 활성화 방식을 채택하고 혁신적 기능은 독립된 보조 프로젝트로 분리하여 개발하고 있다. 안정화 단계에 접어든 핵심 워크로드 기능은 호환성 검증 기준이 매우 높아 변경 진입 장벽이 높은 반면, 에이전트 샌드박스 같은 신규 프로젝트가 새로운 기여 창구로 제시된다. 개선 제안(KEP-4443) 역시 원 개발자 이탈로 일시 중단되었다가 신규 기여자의 참여로 재개된 만큼 오픈소스 개발 동력의 지속성이 적용의 주요 변수다.