Nvidia DGX B200 - Page 4

4.4.1 Startup Considerations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.4.2 Shutdown Considerations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.5 Verifying Functionality - Quick Health Check . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4.6 Running the Pre-ight Test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
4.7 Running NGC Containers with GPU Support . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
4.7.1 Using Native GPU Support . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
4.7.2 Using the NVIDIA Container Runtime for Docker . . . . . . . . . . . . . . . . . . . . . . . 29
4.8 Managing CPU Mitigations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4.8.1 Determining the CPU Mitigation State of the DGX System . . . . . . . . . . . . . . . . 30
4.8.2 Disabling CPU Mitigations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
4.8.3 Re-enabling CPU Mitigations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
5 SBIOS Settings 33
5.1 Accessing the SBIOS Setup . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
5.2 Conguring the Boot Order . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
5.3 Conguring the Local Terminal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
5.3.1 Linux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
5.3.2 Windows and MacOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
5.4 Power on or Reboot the System . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
6 Using the Baseboard Management Controller (BMC) 39
6.1 Connecting to the BMC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
6.2 Overview of BMC Controls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
6.3 Open Ports . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
6.4 Conguring a Static IP Address for the BMC . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
6.4.1 Conguring a BMC Static Address by Using ipmitool . . . . . . . . . . . . . . . . . . . . 44
6.4.2 Conguring a BMC Static IP Address by Using the System BIOS . . . . . . . . . . . . . 44
6.5 Changing the BMC Login Credentials . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
6.5.1 Username and Password Requirements . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
6.5.2 Procedure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
6.6 Using the Remote Console . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
6.7 Setting Up Active Directory, LDAP, or E-Directory . . . . . . . . . . . . . . . . . . . . . . . . 46
6.8 Conguring Platform Event Filters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
6.9 Uploading or Generating SSL Certicates . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
6.9.1 Viewing the SSL Certicate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
6.9.2 Generating the SSL Certicate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
6.9.3 Uploading the SSL Certicate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
6.9.4 Updating the SBIOS Certicate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
7 Managing Power Capping 55
7.1 Querying the Current GPU Power Limit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
7.2 Managing N+N Conguration (IPMI) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
7.3 Managing Power Capping Using Redsh API . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
8 Security 59
8.1 User Security Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
8.1.1 Securing the BMC Port . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
8.2 System Security Measures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
8.2.1 Secure Flash of DGX B200 Firmware . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
8.2.2 Encryption . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
8.2.3 NVIDIA System Manager Security . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
8.3 Secure Data Deletion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
8.3.1 Prerequisites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
8.3.2 Procedure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
ii