구글 TPU가 2027년 오라클 클라우드에 도입된다

2027년부터 오라클 클라우드에 구글 텐서 처리 장치(TPU)가 들어갑니다. 구글 클라우드와 오라클이 함께 발표한 계획이며, 양사는 구글 외 하이퍼스케일러 가운데 첫 제공이라고 설명합니다. 저는 칩이 하나 더 늘었다는 사실보다 TPU를 구글 클라우드 밖에서 고를 수 있다는 변화에 더 눈이 갑니다. 성능 숫자보다 그 선택이 실제 비용과 운영을 얼마나 바꾸는지가 궁금합니다.

구글이 PyTorch용 TorchTPU를 오픈소스로 공개한 데 이어, 이번에는 TPU를 OCI로 가져갑니다. 소프트웨어 지원 확장과 클라우드 공급처 확대가 같은 방향으로 움직입니다.

TPU와 그래픽 처리 장치(GPU)를 한 클라우드에서 함께 제공하면 작업 단계마다 비용과 성능에 맞는 가속기를 고를 수 있습니다. 오라클 데이터베이스 가까이서 미세 조정과 추론을 실행해 클라우드 간 전송 비용을 줄인다는 점도 양사가 내세웁니다.

도입은 2027년부터라 지금 바로 선택할 수 없습니다. 구글은 대규모 학습의 굿풋을 97% 이상으로 유지하고, 낮은 지연 시간 추론의 달러당 성능을 최대 80% 높인다고 제시합니다. 하지만 OCI 도입 환경에서 따로 측정한 성능 결과는 없습니다. 결국 기업의 비용표에 들어갈 숫자는 OCI에서 같은 작업을 돌린 뒤에야 나옵니다.

최근 한 달의 AI 작업을 학습·미세 조정·추론으로 나누고, 각 작업의 GPU 비용과 데이터 전송 비용을 따로 적어 보십시오. 그 기준을 2027년 OCI 견적과 나란히 놓으면 TPU로 옮길 작업이 드러납니다. 먼저 데이터 전송비를 빼도 TPU가 유리한 작업이 있는지 계산해 보십시오.

클라우드에서 AI 작업을 돌리며 데이터 전송 비용을 따로 계산해 본 것은 언제입니까?