고차원 데이터를 2차원으로 시각화하는 방법 비교

이 기사의 핵심 결론은 무엇을 보존할 것인지에 따라 최고의 시각화 방법이 달라진다는 점입니다. MNIST 60,000개 이미지를 784차원에서 2차원으로 줄였을 때 t-SNE가 최근접 이웃 연결의 42.5%를 유지했고, 무작위 투영의 3.9%보다 훨씬 높았다는 사실은 분명히 인상적입니다. 다만 이 수치만으로 t-SNE를 ‘전체 공간의 최적 지도’라고 부르기는 어렵습니다. 이 실험이 직접 측정한 것은 공간 전체의 구조가 아니라 최근접 이웃 보존이기 때문입니다.

t-SNE는 가까운 점들을 잘 모으는 데 특화된 방법입니다. 따라서 숫자별 군집이나 국소적인 변형을 눈으로 확인하는 목적에는 강력할 가능성이 큽니다. 반대로 멀리 떨어진 군집 사이의 거리, 군집의 크기, 군집 간 상대적 배치까지 원래 공간을 반영한다고 해석해서는 곤란합니다. t-SNE 그림에서 두 군집이 멀리 보인다고 해서 784차원에서도 그만큼 멀었다고 단정할 수 없고, 군집의 면적이 데이터 밀도를 뜻한다고 보기도 어렵습니다. 시각적으로 설득력 있는 배치와 정량적으로 충실한 지도는 같은 개념이 아닙니다.

또 하나 아쉬운 점은 비교 기준의 목적이 일관되지 않다는 데 있습니다. PCA에 대해서는 첫 두 성분이 전체 분산의 16.8%를 보존한다는 점을 강조했지만, t-SNE는 최근접 이웃 보존율로 평가했습니다. 분산 보존율은 전역적인 에너지 손실을, 이웃 보존율은 국소 구조를 측정하므로 어느 쪽이 더 좋은지 바로 비교할 수 없습니다. PCA가 2차원에서 낮은 점수를 받았다고 해서 시각화에 무가치한 것은 아닙니다. PCA는 재현성이 높고, 새로운 데이터에 즉시 적용할 수 있으며, 축의 의미와 전역 방향을 해석하기 쉽다는 장점이 있습니다.

8.3%의 최근접 이웃이 다른 레이블이라는 발견도 중요하지만, 이를 2차원 지도의 절대적인 상한이라고 표현하는 데에는 주의가 필요합니다. 그 수치는 탐색 집합 2,000개에서 측정된 픽셀 공간의 1-최근접 이웃 결과입니다. 픽셀 거리가 사람의 숫자 인식에 적합한 거리라는 보장은 없고, 2차원 지도에서 어떤 이웃을 보존할지에 따라 평가 결과도 달라집니다. 따라서 이 수치는 ‘레이블 기준으로 완벽한 군집화가 어려운 이유’를 보여주는 근거로는 적절하지만, 가능한 모든 임베딩의 엄밀한 상한으로 받아들이기에는 측정 범위가 좁습니다.

기사의 실험 설계에서 더 보고 싶은 정보도 있습니다. t-SNE는 퍼플렉서티, 초기화, 난수 시드, 반복 횟수에 따라 결과가 달라질 수 있는데, 이 설정과 반복 실험의 변동성이 제시되지 않았습니다. 또한 11개 방법을 비교했다고 했지만 각 방법이 같은 평가 지표와 같은 계산 조건을 적용받았는지, 테스트 데이터에 어떻게 적용했는지는 본문에 충분히 드러나지 않습니다. 한 번 얻은 42.5%라는 값보다 여러 시드에서의 평균과 분산, 그리고 다른 데이터셋에서의 재현성이 실제 선택에는 더 중요할 가능성이 큽니다.

그럼에도 이 기사가 놓치지 않은 강점은 데이터 자체의 한계와 방법의 한계를 분리하려 한 점입니다. 결측값과 중복이 없고, 모든 방법이 동일한 원시 행렬을 입력받았다는 설명은 비교의 공정성을 높입니다. 784차원에서 90% 분산을 보존하려면 86개 성분이 필요하다는 사실은 MNIST가 압축 가능하면서도 2차원으로 온전히 펼치기 어려운 데이터라는 점을 잘 보여줍니다. 픽셀의 80.9%가 0이라는 정보 역시 단순한 2차원 그림만으로는 데이터의 구조를 충분히 설명하기 어렵다는 경고로 읽힙니다.

결국 t-SNE는 숫자 이미지의 국소적 유사성을 탐색하는 첫 화면으로는 유력하지만, 결론을 내리는 유일한 지도여서는 안 됩니다. PCA로 전역 방향을 확인하고, t-SNE나 UMAP으로 국소 군집을 살피며, 보존율뿐 아니라 재현성·새 데이터 적용성·거리 해석 가능성을 함께 봐야 합니다. 이 기사의 가장 타당한 결론은 ‘t-SNE가 최고다’가 아니라, 시각화의 승자는 질문과 평가 지표가 정한다는 데 있습니다.