그레이스 블랙웰 NVL72란 — GPU 72개를 한 대처럼 쓰는 랙
Grace Blackwell NVL72 is not a chip but a rack. Nvidia's GB200 NVL72 packs 36 Grace CPUs and 72 Blackwell GPUs into a single liquid-cooled cabinet and wires them together with a two-tier NVLink switch fabric so that software addresses the whole rack as one accelerator. The building block is the GB200 Superchip: one Grace CPU joined to two Blackwell GPUs over a 10 TB/s NVLink-C2C link. Thirty-six of those make the rack. Published figures put the rack at about 1.4 exaflops of AI compute, roughly 130 TB/s of aggregate NVLink bandwidth inside the single compute domain, and around 120 kilowatts of power draw, which is why the cabinet is liquid-cooled rather than air-cooled. The reason the unit exists is memory rather than arithmetic: a frontier model no longer fits in one GPU's memory, so the bottleneck moves from computation to the wire between GPUs. NVL72 attacks that wire. The name entered the Korean news cycle on September 7, 2026, when Jensen Huang said GPT-6 Astra was trained on more than 100,000 of them
그레이스 블랙웰 NVL72는 칩이 아니라 랙이다. 엔비디아의 GB200 NVL72는 그레이스 CPU 36개와 블랙웰 GPU 72개를 하나의 수랭식 캐비닛에 담고, 2단 NVLink 스위치로 묶어 소프트웨어가 랙 전체를 가속기 한 대처럼 다루게 만든 시스템이다. 기본 단위는 GB200 슈퍼칩으로, 그레이스 CPU 1개에 블랙웰 GPU 2개를 10TB/s NVLink-C2C로 붙인 구성이다. 이 슈퍼칩 36개가 모여 한 랙이 된다. 공개된 수치로 랙 하나가 약 1.4엑사플롭스의 AI 연산, 하나의 연산 도메인 안에서 약 130TB/s의 NVLink 총대역폭을 내고, 소비 전력은 약 120킬로와트다 — 공랭이 아니라 수랭인 이유가 이 숫자에 있다. 이런 단위가 존재하는 이유는 연산량이 아니라 메모리다. 프론티어 모델은 GPU 한 장의 메모리에 들어가지 않으므로 병목이 계산에서 GPU와 GPU를 잇는 선으로 옮겨간다. NVL72는 그 선을 공략한 제품이다. 이 이름이 국내 뉴스에 오른 것은 2026년 9월 7일, 젠슨 황이 GPT-6 아스트라를 이것 10만개 이상으로 학습시켰다고 말하면서다
3줄 요약
- 정의 — 칩이 아니라 랙. 그레이스 CPU 36개 + 블랙웰 GPU 72개를 2단 NVLink로 묶어 한 대처럼 쓴다
- 숫자 — 랙당 약 1.4엑사플롭스, NVLink 총대역폭 약 130TB/s, 소비 전력 약 120kW(그래서 수랭식)
- 이유 — 병목이 연산이 아니라 GPU 사이의 선이다. 모델이 GPU 한 장 메모리에 안 들어가면서 생긴 단위
핵심 질문
- 그레이스 블랙웰 NVL72가 뭐야
- **칩 이름이 아니라 랙 이름이다.** 이름을 셋으로 끊어 읽으면 바로 보인다. **그레이스(Grace)** = 엔비디아가 만든 **CPU**. **블랙웰(Blackwell)** = 그 세대의 **GPU**. **NVL72** = **NVLink로 묶인 GPU 72개**. 즉 **"그레이스 CPU와 블랙웰 GPU를 NVLink로 72개 단위로 묶은 시스템"** 이라는 뜻이다. 구성은 이렇게 쌓인다. **① GB200 슈퍼칩** — 그레이스 CPU **1개** + 블랙웰 GPU **2개**. 둘은 **10TB/s NVLink-C2C**로 붙어 있다. **② 랙** — 이 슈퍼칩 **36개**가 하나의 캐비닛에 들어간다. 계산하면 CPU **36개**, GPU **72개**다. **③ 연결** — 36개 슈퍼칩을 **2단 NVLink 스위치**로 묶는다. **여기가 핵심이다.** 여러 GPU를 한 방에 넣는 것은 새롭지 않다. **NVL72의 특징은 72개 GPU가 소프트웨어에서 '가속기 한 대'로 보인다는 것**이다. 개발자가 72장을 따로 다루며 데이터를 쪼개 보내는 대신, 하나의 큰 메모리 공간처럼 쓴다. **이 구조 덕분에 팔리는 단위 자체가 '카드'에서 '랙'으로 바뀌었다.**
- 숫자로 보면 어느 정도인가
- **랙 하나가 소형 데이터센터 한 구획에 해당한다.** | 항목 | 값 | |---|---| | 그레이스 CPU | **36개** | | 블랙웰 GPU | **72개** | | AI 연산 성능 | 약 **1.4엑사플롭스** | | NVLink 총대역폭 | 약 **130TB/s** (단일 연산 도메인) | | 소비 전력 | 약 **120kW** | | 냉각 | **수랭식**(액체 냉각) | **세 숫자가 서로를 설명한다.** ① **1.4엑사플롭스**는 초당 1.4×10¹⁸회 연산이라는 뜻인데, 이 값은 낮은 정밀도 기준이라 슈퍼컴퓨터 순위표의 값과 직접 비교하면 안 된다. ② **130TB/s**가 이 제품의 진짜 자랑이다. GPU끼리 주고받는 속도이고, 앞서 말한 '한 대처럼 보이는' 성질이 여기서 나온다. ③ **120kW**는 일반 서버 랙(보통 5~15kW)의 **10배 안팎**이다. **이 전력이 곧 열이므로 공기로는 못 식힌다** — 수랭식인 이유다. 그리고 이 숫자는 왜 AI 회사들이 칩이 아니라 **전력과 부지**를 먼저 확보하는지도 설명한다(「AI 데이터센터 전력이란」·「데이터센터 전력난이란」). 엔비디아는 이 시스템으로 **1조 파라미터 규모 모델의 실시간 추론에서 30배 빠른 성능**을 제시했는데, 이 배수는 비교 기준 세대에 따라 달라지는 값이다.
- 왜 이런 걸 만드나
- **병목이 계산에서 '선'으로 옮겨갔기 때문이다.** 예전에는 GPU 한 장이 모델 하나를 담을 수 있었다. 그러면 여러 장을 병렬로 돌려 처리량만 늘리면 됐다. **지금 프론티어 모델은 GPU 한 장의 메모리에 들어가지 않는다**(「프론티어 모델이란」·「컨텍스트 윈도우란」). 모델을 여러 장에 쪼개 얹어야 하고, 그 순간 **GPU와 GPU가 계산 도중에 서로 데이터를 주고받아야 한다.** 이때 GPU가 아무리 빨라도 **선이 느리면 전체가 그 속도에 맞춰진다.** 연산 유닛은 데이터를 기다리며 놀게 된다. **NVL72는 계산기를 더 빠르게 만든 제품이 아니라, 계산기 사이의 선을 굵게 만든 제품이다.** 메모리를 쌓아 올려 대역폭을 늘린 HBM이 칩 안에서 한 일을(「HBM이란」), NVL72는 랙 안에서 한다. 그래서 이 이름이 **한국 반도체 이야기와 붙는다** — 블랙웰 GPU마다 HBM이 들어가고, 랙 하나에 GPU가 72개다. **랙 수요가 곧 HBM 수요다.** 골드만삭스가 9월 7일 코스피 목표 12,000을 유지하며 든 근거도 결국 이 연결이었다(「골드만삭스 코스피 목표 12,000 유지 (9월 7일)」).
GPU를 더 빠르게 만든 제품이 아니다. GPU와 GPU 사이의 선을 굵게 만든 제품이다. 그레이스 블랙웰 NVL72가 무엇인지는 이 한 문장에서 시작한다.
1. 이름을 셋으로 끊어 읽는다
| 부분 | 뜻 |
|---|---|
| 그레이스(Grace) | 엔비디아가 만든 CPU |
| 블랙웰(Blackwell) | 그 세대의 GPU |
| NVL72 | NVLink로 묶인 GPU 72개 |
즉 칩 이름이 아니라 랙 이름이다. 구성은 이렇게 쌓인다.
| 층 | 구성 |
|---|---|
| GB200 슈퍼칩 | 그레이스 CPU 1개 + 블랙웰 GPU 2개, 10TB/s NVLink-C2C로 연결 |
| 랙(NVL72) | 슈퍼칩 36개 → CPU 36개, GPU 72개 |
| 연결 | 2단 NVLink 스위치 패브릭 |
핵심은 마지막 줄이다. 여러 GPU를 한 캐비닛에 넣는 것 자체는 새롭지 않다. NVL72의 특징은 72개 GPU가 소프트웨어에서 '가속기 한 대'로 보인다는 것이다. 개발자가 72장에 데이터를 쪼개 나눠 보내는 대신 하나의 큰 메모리 공간처럼 쓴다.
그래서 팔리는 단위 자체가 '카드'에서 '랙'으로 바뀌었다.
2. 숫자
| 항목 | 값 |
|---|---|
| 그레이스 CPU | 36개 |
| 블랙웰 GPU | 72개 |
| AI 연산 성능 | 약 1.4엑사플롭스 |
| NVLink 총대역폭 | 약 130TB/s |
| 소비 전력 | 약 120kW |
| 냉각 | 수랭식 |
세 숫자가 서로를 설명한다.
- 1.4엑사플롭스는 낮은 정밀도 기준이다. 슈퍼컴퓨터 순위표 수치와 직접 비교하면 안 된다.
- 130TB/s가 이 제품의 실제 자랑이다. '한 대처럼 보이는' 성질이 여기서 나온다.
- 120kW는 일반 서버 랙(5~15kW)의 10배 안팎이다. 전력이 곧 열이므로 공기로는 못 식힌다 — 수랭식인 이유다.
세 번째 숫자는 AI 회사들이 칩보다 전력과 부지를 먼저 확보하는 이유이기도 하다(「AI 데이터센터 전력이란」·「데이터센터 전력난이란」).
3. 왜 이런 단위가 생겼나
예전에는 GPU 한 장이 모델 하나를 담았다. 그러면 여러 장을 병렬로 돌려 처리량만 늘리면 됐다.
지금 프론티어 모델은 GPU 한 장의 메모리에 들어가지 않는다(「프론티어 모델이란」). 모델을 여러 장에 쪼개 얹어야 하고, 그 순간 GPU끼리 계산 도중에 데이터를 주고받아야 한다.
| 병목의 위치 | 이전 | 지금 |
|---|---|---|
| 무엇이 느린가 | 연산 유닛 | GPU 사이의 선 |
| 해법 | 더 빠른 칩 | 더 굵은 연결 |
GPU가 아무리 빨라도 선이 느리면 전체가 그 속도에 맞춰진다. 연산 유닛은 데이터를 기다리며 논다.
메모리를 쌓아 올려 대역폭을 늘린 HBM이 칩 안에서 한 일을(「HBM이란」), NVL72는 랙 안에서 한다.
4. 한국과 어떻게 연결되나
블랙웰 GPU마다 HBM이 들어가고, 랙 하나에 GPU가 72개다. 랙 수요가 곧 HBM 수요다.
이 이름이 국내 뉴스에 오른 것은 2026년 9월 7일, 젠슨 황이 GPT-6 아스트라를 "10만개 이상의 그레이스 블랙웰 NVLink72" 로 학습시켰다고 말하면서다(「젠슨 황 "AGI 도래" 선언 (9월 7일)」). 그는 다음으로 GPU 40만개가 가동될 것이라고 덧붙였다.
같은 날 골드만삭스가 코스피 목표 12,000을 유지하며 든 근거도 결국 같은 연결이었다 — 미 빅테크 자본지출 1조 2,000억 달러가 랙으로, 랙이 HBM으로 간다(「골드만삭스 코스피 목표 12,000 유지 (9월 7일)」·「AI 캐펙스란」).
5. 남은 것과 확인되지 않은 것
- 사양값과 실측값은 다르다. 1.4엑사플롭스·130TB/s·120kW는 엔비디아 공개 사양이다.
- '1조 파라미터 추론 30배'는 비교 조건에 따라 달라진다. 벤치마크 조건 전문을 확인하지 못했다.
- "NVLink72 10만개 이상"의 단위가 불분명하다. 랙 기준이면 GPU 720만 개, 슈퍼칩·GPU 기준이면 랙 1,400대 안팎이다. 차이가 5,000배가 넘는다.
- 후속 세대는 다루지 않았다. GB300 등 이후 사양 변화는 이 글의 범위 밖이다.
- 랙 단가와 실제 출하량은 공개 자료로 확인하지 못했다.