top of page
01.jpg
B300-NVL72-NVIDIA-Mdstech_Blackwell.png

NVIDIA GB300 NVL72

AI 리즈닝 시대를 위한 초대형 랙 스케일 플랫폼

NVIDIA GB300 NVL72는 72개의 NVIDIA Blackwell Ultra GPU와 36개의 NVIDIA Grace CPU를 통합한 차세대 랙 스케일 플랫폼으로, 실시간 AI 추론과 테스트 타임 스케일링 환경에 최적화되어 있습니다.

130TB/s NVLink 대역폭과 37TB Fast Memory를 바탕으로 복잡한 AI 워크로드를 더 빠르고 안정적으로 처리하며, 엔터프라이즈급 AI 인프라의 확장성과 효율을 동시에 제공합니다.

Key Features

실시간 대규모 AI 추론

72개의 NVIDIA Blackwell Ultra GPU와 36개의 NVIDIA Grace CPU를 하나의 랙 스케일 시스템으로 통합해 대규모 AI 추론을 처리합니다. 단일 랙에서 최대 1.4 엑사플롭스 FP4 성능을 제공해 실시간
추론과 대형 모델 운영에 최적화됩니다.

테스트 타임 스케일링 최적화

GB300 NVL72는 테스트 타임 스케일링과 복잡한 추론형 AI 워크로드를 위해 설계되었습니다. 더 많은 연산 자원을 추론 단계에 활용해 정확도와 응답 품질을 높이는 최신 AI 추론 환경에 적합합니다.

초고속 확장형 메모리 아키텍처

130TB/s NVLink 대역폭과 37TB Fast Memory를 기반으로 GPU 간 데이터를 빠르게 공유하고 대규모 모델을 안정적으로 구동합니다.
여기에 최대 20TB GPU 메모리와 최대 576TB/s 대역폭으로 초거대 AI 워크로드 확장에 유리합니다.

고효율 AI 팩토리 인프라

GB300 NVL72는 대규모 AI 팩토리를 위한 고효율 랙 스케일 플랫폼입니다. NVIDIA는 이 시스템이 대규모 모델 처리 효율을 높이고 실시간 추론을 가속하도록 설계됐다고 설명하며, 높은 처리량과 운영 효율을 동시에 지원합니다.

11.jpg

1,440 PFLOPS

FP4 Tensor Core

20 TB

GPU Memory

130 TB/s

NVLink Bandwidth

720 PFLOPS

FP8/FP6 Tensor Core

576 TB/s

Memory Bandwidth

2,592 Cores

Arm® Neoverse V2 CPU

차세대 AI 추론을 위한 랙 스케일 AI 인프라

image.png
image.png
image.png

랙 스케일 통합 아키텍처

AI 추론 워크로드 최적화

데이터센터 확장성 및 효율성

72개의 NVIDIA Blackwell Ultra GPU와
36개의 NVIDIA Grace CPU를 단일 플랫폼으로 통합한
완전 수랭식 랙 스케일 시스템입니다.
대규모 AI 추론 환경에서 높은 성능과 확장성을 제공합니다.

테스트 타임 스케일링 추론과 복잡한
AI reasoning 작업을 위해 설계되었습니다.
1,440 PFLOPS FP4 성능과 37TB Fast Memory를
기반으로 대규모 모델 처리 효율을 높입니다.

130TB/s NVLink 대역폭과
현대 데이터센터 환경에 맞춘랙 스케일 설계로
대규모 AI 팩토리 구축을 지원합니다.
높은 처리량과 운영 효율을 함께 확보할 수 있습니다.

WHY WITH US?

"10단계의 복잡한 설치? MDS테크와 함께 단 3단계로 끝내세요!" 

DIY: 10단계, 380페이지 매뉴얼, 수많은 설치와 디버깅

Install Ubuntu Linux (10pg)

Install cuDNN (154pg)

Install BAZEL (50pg)

Install CUDA (41pg)

Install & Upgrade PIP (20pg)

Install TensorFlow (15pg)

Install Docker (75pg)

Debug & Fix Install

Upgrade Frotobuf (15pg)

Test the Installation

MDS테크: 3단계, 바로 연결 투입 가능

image.png

MDS테크에서 구매

(OS 설치 및 사전 테스트 지원)

image.png

제품 언박싱

image.png

연구 투입

NVIDIA DGX System 제품 문의

nvidia-partner@mdstech.co.kr   |   031-602-5123

bottom of page