원문 캡처 · thenewstack.io
원문 캡처 · thenewstack.io

쿠버네티스 v1.35부터 kubelet은 cgroup v1을 사용하는 노드에서 기본적으로 시작되지 않는다. 구버전을 운영하는 관리자는 업그레이드 전에 모든 리눅스 노드를 cgroup v2로 이전해야 한다. 이와 함께 에지 AI 컴퓨팅, 노드 스왑, 자체 호스팅 AI 플랫폼 운영, Cilium 관련 동향도 KubeCon + CloudNativeCon 북미 행사에 앞서 다뤄졌다.

에지 컴퓨팅과 쿠버네티스 행사

에지에서 AI 추론을 실행하면 서버 호출과 데이터 송신 비용을 줄이고, 규정 준수를 위해 데이터를 클라우드 밖에 둘 수 있다. HPE의 에런 라몬드(Aaron Lamond)는 최적화되지 않은 서버를 에지에 그대로 쓰기보다 하드웨어·소프트웨어·보안·운영을 함께 고려한 전용 컴퓨팅이 중요하다고 주장한다. 그는 자원이 제한되고 높은 수준의 보안이 필요한 환경에 맞춘 ProLiant 에지 서버를 사례로 들었다.

올해 KubeCon + CloudNativeCon 북미 행사에서는 클라우드 네이티브와 에지 컴퓨팅의 접점을 다루는 Kubernetes on Edge Day가 열린다. 마르스 톡토날리예프(Mars Toktonaliev)와 카테리나 아르자예프(Katerina Arzhayev)는 CNCF 블로그에서 이 행사가 데이터센터 중심 접근과 에지 컴퓨팅의 운영 현실 사이의 간극을 다룬다고 설명했다. 관측성과 보안이 주요 주제이며, 행사 일정에는 사례 연구와 운영 지침이 포함된다.

노드 스왑으로 메모리 한계 완화

에이전트형 AI 작업은 시작 단계에 많은 메모리를 요구할 수 있지만, 이후 메모리가 유휴 상태로 남기도 한다. 오션 시에(Ocean Xie)와 위안 왕(Yuan Wang)은 쿠버네티스 블로그에서 메모리가 CPU보다 먼저 클러스터의 한계가 되는 경우가 많다고 지적했다.

두 사람은 노드 스왑을 트래픽 급증 때 완충 장치로 활용하는 방안을 소개했다. 이 기능은 Kubernetes v1.34에서 정식 제공 단계에 도달했다. 저자들은 벤치마크에서 빠른 NVMe SSD를 사용하는 일부 시나리오의 경우 노드 스왑으로 밀도를 최대 3배 높였다고 보고했다.

자체 호스팅 AI 플랫폼 배포 준비

Fairwinds의 엔지니어링 디렉터 무니브 알리(Munib Ali)는 자체 호스팅 AI 플랫폼을 제공할 때 설치 프로그램만으로는 충분하지 않다고 설명했다. 고객 측 팀의 역할을 미리 정하고 IAM을 구성하는 일, 지속적인 유지보수, 고객 프라이빗 클라우드와의 호환성, 지원 DNS 설정 등을 설치 전에 준비해야 한다는 것이다.

알리는 고객의 사전 조건과 환경 제약, 팀 간 인수인계가 갖춰지지 않으면 배포가 지연되거나 프로젝트가 시작되지 못할 수 있다고 말했다. 개인정보 보호·주권·통제권을 위해 고객 호스팅 방식을 택하더라도, 실제 운영 전 준비는 공급업체와 고객이 함께 책임져야 한다는 주장이다. Fairwinds의 배포 안내에서 자세한 내용을 확인할 수 있다.

cgroup v2로 전환하는 쿠버네티스

DaoCloud의 오픈소스 팀 리드 파코 쉬(Paco Xu)는 CPU와 메모리 같은 자원을 관리하는 리눅스 커널 기능인 cgroup v2가 cgroup v1보다 단일화된 계층 구조와 일관된 인터페이스를 제공한다고 설명했다. 쿠버네티스 버전과 설정에 따라 메모리 서비스 품질 업데이트, 컨테이너 인식 OOM 처리, 루트 권한 없는 실행 등의 기능도 지원한다.

쿠버네티스 v1.35부터 kubelet은 기본적으로 cgroup v1 노드에서 시작을 거부한다. 더 오래된 버전을 사용한다면 업그레이드 전에 모든 리눅스 노드를 v2로 이전하라고 쉬는 권고했다. 자세한 내용은 쿠버네티스 블로그 글이 아니라 쉬의 cgroup v2 관련 글에서 확인할 수 있다고 원문은 안내하지 않는다. 원문은 cgroup v2에 관한 별도의 상세 링크를 제시하지 않는다.

Cilium 커뮤니티 동향

CNCF 졸업 프로젝트인 Cilium은 eBPF 기반 네트워킹·관측성·보안을 다룬다. 11월 9일 솔트레이크시티에서 열리는 공동 행사 CiliumCon의 주제에는 클라우드 네이티브 AI와 보안이 포함된다. 조 스트링어(Joe Stringer)와 구글의 조던 라이프(Jordan Rife)는 AI와 GPU 작업이 쿠버네티스 네트워킹에 새로운 부담을 주고 있다고 설명했다.

Cilium 커뮤니티는 GPU 수요와 AI 기반 관측성 요구, 새로운 취약성에 대응하고 있다. eBPF 운영 사례 보고서와 Splunk, Celonis, Preferred Networks 사례는 eBPF가 보안과 AI 분야에서 활용되는 모습을 보여준다. 메타가 공개한 BpfJailer는 내부에서 사용하던 비공개 eBPF 보안 도구를 실험적으로 다시 구현한 오픈소스 도구다.