Nvidia DGX B200 - Table of Contents

Contents
1 Introduction to NVIDIA DGX B200 Systems 3
1.1 Hardware Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.1.1 DGX B200 Component Descriptions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.1.2 Mechanical Specications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.3 Power Specications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.1.3.1 Support for PSU Redundancy and Continuous Operation . . . . . . . . . . . . . . 5
1.1.4 DGX B200 Locking Power Cord Specication . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.1.5 Using the Locking Power Cords . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.1.6 Environmental Specications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.1.7 Front Panel Connections and Controls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.1.7.1 With a Bezel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.1.7.2 With the Bezel Removed . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.1.8 Rear Panel Modules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.1.9 Motherboard Connections and Controls . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.1.10 Motherboard Tray Components . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.1.11 GPU Tray Components . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2 Network Connections, Cables, and Adaptors . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.1 Network Ports . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 Compute and Storage Networking . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.2.3 Network Modules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.2.4 BMC Port LEDs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.2.5 Supported Network Cables and Adaptors . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.3 DGX B200 System Topology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.4 DGX OS Software . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.5 Customer Support . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2 Connecting to DGX B200 17
2.1 Connecting to the Console . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.1.1 Direct Connection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.1.2 Remote Connection through the BMC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.2 SSH Connection to the OS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
3 First Boot Setup 21
3.1 System Setup . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3.2 Post Setup Tasks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.2.1 Obtaining Software Updates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.2.2 Enabling the SRP Daemon . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
4 Quickstart and Basic Operation 25
4.1 Installation and Conguration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4.2 Registration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
4.3 Obtaining an NGC Account . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.4 Turning DGX B200 On and O . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
i