GB200 NVL72란 무엇인가

GB200 NVL72는 Grace CPU와 Blackwell GPU를 결합한 GB200 Superchip을 랙 스케일로 구성하고, 다수의 GPU를 NVLink 패브릭으로 연결한 고밀도 AI 시스템입니다.

3줄 요약
GB200 NVL72의 랙 스케일 구조와 Grace Blackwell, NVLink 패브릭, 전력·냉각 관점의 의미를 설명합니다.
이 글은 개념뿐 아니라 실제 인프라에서 어디에 쓰이는지까지 연결해 설명합니다.

이 글에서 다루는 내용

왜 '서버'가 아니라 '랙 스케일'인가

초대형 모델에서는 한 서버 내부 GPU만으로도 부족합니다. 여러 컴퓨트 트레이를 하나의 NVLink 도메인으로 묶어 랙 전체를 거대한 가속 시스템처럼 사용하는 접근입니다.

이 구성은 총 72개의 Blackwell GPU를 하나의 랙 스케일 NVLink 패브릭으로 연결하는 형태로 알려져 있습니다. 핵심은 단순 GPU 숫자보다 GPU 간 고속 통신입니다.

고밀도 GPU 시스템은 전력과 열 밀도가 매우 높습니다. 따라서 DLC와 CDU, 랙 전력 공급, 배관, 바닥 하중, 운영 절차가 함께 준비되어야 합니다.

한 랙 안에서는 NVLink 계층이 중요하고, 여러 랙을 연결할 때는 InfiniBand나 AI 최적화 Ethernet 같은 scale-out 패브릭이 중요합니다.

핵심: GB200 NVL72는 GPU 72개라는 숫자보다 랙 내부 scale-up 패브릭과 데이터센터 통합 설계가 본질입니다.

일반적인 1대 서버보다 큰 랙 스케일 시스템으로 보는 것이 맞습니다.

랙 간 scale-out에는 별도의 고속 네트워크가 필요합니다.