Twins AI가 운영 중인 음성 플랫폼을 Azure로 옮겼다

Twins AI는 Microsoft for Startups가 제공한 2년간 35만 달러의 Azure 크레딧을 활용해 운영 중인 AI 음성 플랫폼을 Google Cloud에서 Azure로 이전했다고 밝혔다. 사전 계획과 문서화를 거쳐 실제 이전 작업은 2주 동안 진행했고, 운영 환경 전환은 주말 한 번에 마쳤다고 설명했다.

이전 배경과 준비

Twins AI는 크레딧이 연간 인프라 지출의 약 4배에 해당해 이전을 결정했다고 밝혔다. 회사는 컴퓨팅, 데이터베이스, 저장소, 관측 도구와 모델 비용에 크레딧을 사용할 수 있다고 설명했다. 또 Microsoft Foundry에서 Azure OpenAI와 Mistral, DeepSeek, Llama 같은 오픈 웨이트 모델을 이용할 수 있고, 비용을 통합 청구할 수 있다는 점도 선택 이유로 들었다.

회사는 실시간 음성 대화에서 모델의 속도와 품질, 분당 비용이 중요하다고 밝혔다. 다음 단계로 Azure OpenAI 모델과 Azure AI Speech를 실시간 통화 경로에 연결하고, 특정 작업에 오픈 웨이트 모델을 적용할 수 있을지 평가할 계획이다.

이전 가능성을 높인 기반은 Azure를 고려하기 전부터 마련돼 있었다. Twins AI는 서비스를 컨테이너로 운영하고, 쿠버네티스(Kubernetes)와 GitOps, 코드형 인프라(infrastructure as code)를 사용해 왔다. Argo CD가 클러스터 안에서 Git 저장소를 확인해 설정을 적용하는 방식이라, CI 파이프라인이 배포 대상 클라우드를 알 필요가 없었다고 회사는 설명했다.

Azure에서는 Azure Kubernetes Service(AKS)를 구성하고 같은 저장소를 바라보는 두 번째 GitOps 컨트롤러를 설정했다. 기존 애플리케이션을 다시 작성하지 않았으며, 빌드·릴리스 파이프라인도 거의 바꾸지 않았다고 밝혔다. 다만 인프라와 환경 설정, 데이터는 옮겨야 했다.

Twins AI는 기존 Kubernetes 매니페스트와 PostgreSQL 버전, Redis 프로토콜을 유지했고, Azure에서 기존 플랫폼의 동작을 재현하는 것을 목표로 했다고 밝혔다.

데이터 이전과 운영 전환

회사는 먼저 스테이징 환경에서 이전 절차를 반복해 익숙해진 뒤 운영 환경을 옮겼다. 운영 데이터베이스 이전에는 30분이 채 걸리지 않았고, 트래픽을 전환하기 전에 Azure의 모든 테이블과 행이 일치하는지 확인했다고 설명했다.

Twins AI에 따르면 고객은 비밀번호를 재설정하거나 CRM을 다시 연결하지 않아도 됐다. 회사는 전환이 고객에게 감지되지 않았고, 이전 후 성능이 개선됐다고 밝혔다. 이는 회사가 제시한 이전 결과다.

주요 플랫폼 구성 요소인 컴퓨팅, 데이터, 네트워크, 비밀 정보, ID와 관측 도구는 옮겼지만, 일부 Google 서비스는 남겼다. 고객 로그인과 Google Workspace 연동 등이 그 예다. 회사는 이 서비스들의 비용이 미미하고 이전해도 고객에게 이점이 없다고 판단했다고 설명했다.

AI 코딩 에이전트 활용

Twins AI는 이전 코드 대부분을 AI 코딩 에이전트가 작성했다고 밝혔다. 엔지니어가 작성한 사양과 계획을 바탕으로 Azure 인프라 모듈, 환경 설정, 데이터 이전 스크립트와 실행 지침을 만들었다. 엔지니어는 방향을 정하고 변경 사항을 검토했으며, 판단이 필요한 결정을 맡았다고 회사는 설명했다.

회사는 소수 엔지니어가 본업과 병행해 2주 만에 이전 작업을 마쳤다고 밝혔다. 같은 프로젝트에 과거에는 전담 팀이 한 분기 동안 필요했을 것이라는 추산도 덧붙였다. 이 비교는 Twins AI의 추정이다.

이전 과정에서 비밀 정보 관리, ID와 관측 기능을 Azure 서비스로 현대화했고, 기능 브랜치마다 격리된 미리보기 환경을 만드는 기반도 마련했다고 밝혔다. Azure의 리소스 그룹 설계로 각 변경 사항에 미리보기 링크를 제공할 수 있어 검토와 품질 확인이 빨라졌다는 설명이다.

회사는 다른 창업자에게 초기부터 컨테이너와 GitOps, 코드형 인프라로 이식성을 마련하고, AI 에이전트에 명확한 사양을 주되 검토와 판단은 엔지니어가 맡으며, 스테이징에서 이전을 충분히 연습하라고 조언했다. 고객에게 이점이 없는 서비스는 이전을 위해 무리하게 옮기지 않는다는 방침도 밝혔다.