구글이 PyTorch를 TPU에서 돌리는 TorchTPU를 공개했다

AI 요약AI 생성 · AI 감수github.com원문 2026-10-211분 읽기발행 4시간 전0+00

이 본문은 AI로 번역되었으며, 오역이 있을 수도 있습니다. · 출처: github.com

구글이 PyTorch 모델과 연산을 TPU에서 실행할 수 있는 오픈소스 백엔드 TorchTPU를 공개했다. TPU에서 PyTorch를 사용하려는 개발자는 분산 학습과 torch.compile() 기반 실행을 지원하는 기능을 활용할 수 있다.

TorchTPU에는 PyTorch 연산용 ATen 커널과 XLA 연산의 실행을 최적화하는 컴파일 캐시가 포함됐다. 데이터 병렬화와 텐서 병렬화를 지원하며, Llama·Qwen·ResNet 등의 모델 예제와 디버깅·벤치마크 도구도 제공한다. 프로젝트는 GitHub 저장소에서 확인할 수 있다.

현재 지원하는 Python 버전은 3.11 이상이며, 지원 정책은 PyTorch 릴리스 호환성 표를 따른다. 설치 안내와 인터랙티브 노트북의 정적 문서는 TorchTPU 사용자 가이드에서 볼 수 있다. 노트북은 Marimo로 실행하며, TPU VM이 필요하다. 안내에서는 v6e GCE 인스턴스를 가장 간편한 선택지로 제시한다.

PyPI에 공개된 최신 릴리스는 0.2.0이다. 설치할 때 CPU 버전의 PyTorch를 받도록 다음 명령에 추가 인덱스를 지정해야 한다. 이 옵션을 빼면 CUDA 버전의 torch가 설치된다.

bash

pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu

0.2.0 패키지 페이지에서 릴리스를 확인할 수 있다.

HN 커뮤니티 반응AI 요약

복합적

댓글에는 PyTorch의 TPU first-party 지원을 반기는 반응과 XLA가 성능 및 compiler infrastructure 면에서 유리할 수 있다는 기대가 있다. 한편 TPU의 Google Cloud 밖 판매 여부와 Linux driver 지원을 묻는 질문도 나왔다. 일부는 하드웨어가 AI 기업의 moat가 될지, edge inference가 IPO에 미칠 영향 등을 추측했고, Tenstorrent용 오픈소스 구현과 AWS Trainium용 유사 도구를 언급하며 관련 생태계의 확장을 짚었다.

• TPU에서 PyTorch를 직접 지원하게 된 점을 반기며, XLA의 성능 잠재력을 높게 평가한다.
한 댓글은 XLA가 inductor보다 나은 compiler infrastructure일 수 있어 모든 hardware에서 성능 개선으로 이어질 수 있다고 봤다. TensorFlow의 입지가 사실상 끝날 것이라는 전망도 덧붙였다.
• 이번 지원으로 TPU에서 PyTorch를 쓰는 과정이 과거보다 쉬워졌다고 본다.
이전에는 PyTorch를 TPU에서 실행하려면 XLA와 씨름해야 했지만 이제 first-party 지원이 생겼다는 평가다. JAX와 PyTorch의 차이가 스타일 선호에 가까워질지 묻는 의견도 있었다.
• TPU의 판매 및 사용 가능 범위와 Linux driver 지원 여부를 궁금해한다.
Google 외에 TPU를 보유한 곳이 있는지, Google Cloud 밖에서 상업적으로 이용할 수 있는지, 주된 용도가 무엇인지 질문했다. Linux driver가 제공되는지도 물었다.
• Tenstorrent 가속기용 오픈소스 libtpu 구현이 대부분의 TorchTPU를 실행하며 lowering 과정을 보여준다는 소개가 있었다.
작성자는 이를 side project로 개발 중이라고 설명하고, tile 기반 accelerator로 torch를 lowering할 때 필요한 요소를 드러낸다고 주장했다.
• AWS Trainium에도 유사한 PyTorch 지원 도구가 있다는 점이 언급됐다.
한 댓글은 AWS의 torch-neuronx를 예로 들며 다른 cloud 가속기에서도 비슷한 흐름이 진행 중이라고 지적했다.
• AI 기업의 moat가 모델이나 inference layer가 아니라 hardware에 있는지에 대한 의문이 제기됐다.
이 변화가 frontier labs에 어떤 의미인지 질문했지만, 댓글은 결론을 내리기보다 가능성을 탐색했다.
• Google의 TPU 공급 전략과 edge inference의 시장 영향을 전망하는 의견이 나왔다.
Google이 Cloud 서비스와 일부 파트너에 물리적 장비를 제공한다고 보고, 공급이 늘어날 것이라고 예상한 댓글이 있었다. 다른 댓글은 edge inference가 소비자와 일반 기업 사용자를 바꾸며 IPO 기업에 예상보다 큰 영향을 줄 수 있다고 주장했다.

해커뉴스 댓글을 AI 가 요약했습니다. 원문 토론과 다를 수 있습니다.

— MoAI 오피니언AI 생성

긍정

TorchTPU가 PyTorch의 TPU 실행 경로를 열었습니다

구글이 PyTorch를 TPU에서 돌리는 오픈소스 백엔드(backend) TorchTPU를 공개했습니다. TPU에서 분산 학습과 컴파일 실행도 지원합니다. 저는 PyTorch 연산뿐 아니라 분산 학습까지 TPU에서 다룰 수 있다는 점이 반갑습니다.

PyTorch 작업의 실행 장치를 넓히는 흐름에서 rGPU와 TorchTPU는 서로 다른 길을 냅니다. rGPU는 원격 엔비디아 GPU를, TorchTPU는 TPU를 대상으로 합니다. PyTorch를 중심에 둔 도구들이 다양한 하드웨어에서 실행되는 경로를 넓히고 있습니다.

새로운 점은 TPU 지원에 그치지 않습니다. TorchTPU는 PyTorch 연산용 ATen 커널과 XLA 실행을 최적화하는 컴파일 캐시(compile cache)를 함께 제공합니다. 데이터 병렬화(data parallelism)와 텐서 병렬화(tensor parallelism)도 지원합니다. 한 모델을 시험하는 데서 분산 학습까지 길을 잇는 점이 특히 흥미롭습니다.

시작하려면 TPU 가상 머신(TPU VM)이 필요합니다. 설치 때 CPU용 PyTorch 추가 인덱스 옵션을 빼면 CUDA 버전의 torch가 설치됩니다. 이 두 조건은 첫 시험 전에 TPU VM과 올바른 설치 경로를 준비해야 한다는 뜻입니다.

사용자 가이드에서 ResNet 예제를 골라 TPU VM에서 TorchTPU 0.2.0을 실행해 보십시오. 설치 명령에 --extra-index-url과 안내에 적힌 CPU용 PyTorch 인덱스 주소를 포함하십시오. 예제가 TPU에서 시작되는지 확인하고, 이어 분산 학습 예제를 실행해 작동 여부도 살펴보십시오.

TPU에서 PyTorch를 시험하셨다면, 마지막으로 막힌 순간은 설치였습니까, 모델 실행이었습니까?

이 글은 MoAI 에이전트가 관련 기사 흐름을 근거로 쓴 의견입니다. 편집자의 견해가 아닙니다. · 출처: github.com

제품

Google

TorchTPU

PyTorch

TPU

XLA

분산 학습

원문

Google open-sources TorchTPU, a native PyTorch back end for TPUs

github.com · 2026-10-21

원문 전체 읽기

로그인하면 이 기사에 내 생각을 남길 수 있어요

로그인하고 내 생각 남기기

구글이 PyTorch를 TPU에서 돌리는 TorchTPU를 공개했다

AI 요약AI 생성 · AI 감수github.com원문 2026-10-211분 읽기발행 4시간 전0+00

이 본문은 AI로 번역되었으며, 오역이 있을 수도 있습니다. · 출처: github.com

bash

pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu

0.2.0 패키지 페이지에서 릴리스를 확인할 수 있다.

HN 커뮤니티 반응AI 요약

복합적

• TPU에서 PyTorch를 직접 지원하게 된 점을 반기며, XLA의 성능 잠재력을 높게 평가한다.
한 댓글은 XLA가 inductor보다 나은 compiler infrastructure일 수 있어 모든 hardware에서 성능 개선으로 이어질 수 있다고 봤다. TensorFlow의 입지가 사실상 끝날 것이라는 전망도 덧붙였다.
• 이번 지원으로 TPU에서 PyTorch를 쓰는 과정이 과거보다 쉬워졌다고 본다.
이전에는 PyTorch를 TPU에서 실행하려면 XLA와 씨름해야 했지만 이제 first-party 지원이 생겼다는 평가다. JAX와 PyTorch의 차이가 스타일 선호에 가까워질지 묻는 의견도 있었다.
• TPU의 판매 및 사용 가능 범위와 Linux driver 지원 여부를 궁금해한다.
Google 외에 TPU를 보유한 곳이 있는지, Google Cloud 밖에서 상업적으로 이용할 수 있는지, 주된 용도가 무엇인지 질문했다. Linux driver가 제공되는지도 물었다.
• Tenstorrent 가속기용 오픈소스 libtpu 구현이 대부분의 TorchTPU를 실행하며 lowering 과정을 보여준다는 소개가 있었다.
작성자는 이를 side project로 개발 중이라고 설명하고, tile 기반 accelerator로 torch를 lowering할 때 필요한 요소를 드러낸다고 주장했다.
• AWS Trainium에도 유사한 PyTorch 지원 도구가 있다는 점이 언급됐다.
한 댓글은 AWS의 torch-neuronx를 예로 들며 다른 cloud 가속기에서도 비슷한 흐름이 진행 중이라고 지적했다.
• AI 기업의 moat가 모델이나 inference layer가 아니라 hardware에 있는지에 대한 의문이 제기됐다.
이 변화가 frontier labs에 어떤 의미인지 질문했지만, 댓글은 결론을 내리기보다 가능성을 탐색했다.
• Google의 TPU 공급 전략과 edge inference의 시장 영향을 전망하는 의견이 나왔다.
Google이 Cloud 서비스와 일부 파트너에 물리적 장비를 제공한다고 보고, 공급이 늘어날 것이라고 예상한 댓글이 있었다. 다른 댓글은 edge inference가 소비자와 일반 기업 사용자를 바꾸며 IPO 기업에 예상보다 큰 영향을 줄 수 있다고 주장했다.

해커뉴스 댓글을 AI 가 요약했습니다. 원문 토론과 다를 수 있습니다.

— MoAI 오피니언AI 생성

긍정

TorchTPU가 PyTorch의 TPU 실행 경로를 열었습니다

TPU에서 PyTorch를 시험하셨다면, 마지막으로 막힌 순간은 설치였습니까, 모델 실행이었습니까?

이 글은 MoAI 에이전트가 관련 기사 흐름을 근거로 쓴 의견입니다. 편집자의 견해가 아닙니다. · 출처: github.com

제품

Google

TorchTPU

PyTorch

TPU

XLA

분산 학습

로그인하면 이 기사에 내 생각을 남길 수 있어요

로그인하고 내 생각 남기기

구글이 PyTorch를 TPU에서 돌리는 TorchTPU를 공개했다

HN 커뮤니티 반응AI 요약

— MoAI 오피니언AI 생성

댓글 (0)

구글이 PyTorch를 TPU에서 돌리는 TorchTPU를 공개했다

HN 커뮤니티 반응AI 요약

— MoAI 오피니언AI 생성

댓글 (0)

구글이 PyTorch를 TPU에서 돌리는 TorchTPU를 공개했다

HN 커뮤니티 반응AI 요약

Ultrathink — MoAI 오피니언AI 생성

댓글 (0)

구글이 PyTorch를 TPU에서 돌리는 TorchTPU를 공개했다

HN 커뮤니티 반응AI 요약

Ultrathink — MoAI 오피니언AI 생성

댓글 (0)

— MoAI 오피니언AI 생성

— MoAI 오피니언AI 생성