Fluke 5700A Series II - Page 238

5700A/5720A Series II
Operators Manual
6-14
12.00 kHz 0.25 uV 0.0224 % 0.44 % 5.14
100.00 kHz 0.25 uV 0.0224 % 0.44 % 5.14
0.5000 MHz 0.25 uV 0.0224 % 0.44 % 5.14
1.1999 MHz 0.25 uV 0.0224 % 0.91 % 2.47
1.2 MHz -0.32 uV -0.0287 % 0.91 % -3.16
2.0 MHz -0.32 uV -0.0287 % 0.91 % -3.16
10.0 MHz -0.32 uV -0.0287 % 0.91 % -3.16
20 MHz -0.32 uV -0.0287 % 0.91 % -3.16
30 MHz -0.32 uV -0.0287 % 3.30 % -0.87
3.3 mV FS 0.00070 mV 0.0212 % 0.48 % 4.42
1.0000 kHz 0.00070 mV 0.0212 % 0.48 % 4.42
12.00 kHz 0.00070 mV 0.0212 % 0.48 % 4.42
100.00 kHz 0.00070 mV 0.0212 % 0.48 % 4.42
0.5000 MHz 0.00070 mV 0.0212 % 0.48 % 4.42
1.1999 MHz 0.00070 mV 0.0212 % 0.67 % 3.16
1.2 MHz -0.00106 mV -0.0322 % 0.67 % -4.79
2.0 MHz -0.00106 mV -0.0322 % 0.67 % -4.79
10.0 MHz -0.00106 mV -0.0322 % 0.87 % -3.69
20 MHz -0.00106 mV -0.0322 % 1.07 % -3.00
30 MHz -0.00106 mV -0.0322 % 2.07 % -1.55
11 mV FS 0.0023 mV 0.0210 % 0.39 % 5.43
1.0000 kHz 0.0023 mV 0.0210 % 0.39 % 5.43
12.00 kHz 0.0023 mV 0.0210 % 0.39 % 5.43
100.00 kHz 0.0023 mV 0.0210 % 0.39 % 5.43
0.5000 MHz 0.0023 mV 0.0210 % 0.39 % 5.43
1.1999 MHz 0.0023 mV 0.0210 % 0.51 % 4.08
1.2 MHz -0.0033 mV -0.0302 % 0.51 % -5.88
2.0 MHz -0.0033 mV -0.0302 % 0.51 % -5.88
10.0 MHz -0.0033 mV -0.0302 % 0.61 % -4.92
20 MHz -0.0033 mV -0.0302 % 0.81 % -3.71
30 MHz -0.0033 mV -0.0302 % 1.41 % -2.14
33 mV FS 0.0065 mV 0.0198 % 0.33 % 5.98
1.0000 kHz 0.0065 mV 0.0198 % 0.33 % 5.98
12.00 kHz 0.0065 mV 0.0198 % 0.33 % 5.98
100.00 kHz 0.0065 mV 0.0198 % 0.33 % 5.98
0.5000 MHz 0.0065 mV 0.0198 % 0.33 % 5.98
1.1999 MHz 0.0065 mV 0.0198 % 0.44 % 4.50
1.2 MHz -0.0111 mV -0.0337 % 0.44 % -7.66
2.0 MHz -0.0111 mV -0.0337 % 0.44 % -7.66
10.0 MHz -0.0111 mV -0.0337 % 0.54 % -6.24
20 MHz -0.0111 mV -0.0337 % 0.74 % -4.55
30 MHz -0.0111 mV -0.0337 % 1.34 % -2.51
110 mV FS 0.012 mV 0.0114 % 0.34 % 3.38
1.0000 kHz 0.012 mV 0.0114 % 0.34 % 3.38
12.00 kHz 0.012 mV 0.0114 % 0.34 % 3.38
100.00 kHz 0.012 mV 0.0114 % 0.34 % 3.38
0.5000 MHz 0.012 mV 0.0114 % 0.34 % 3.38
1.1999 MHz 0.012 mV 0.0114 % 0.44 % 2.59
1.2 MHz -0.044 mV -0.0398 % 0.44 % -9.06
2.0 MHz -0.044 mV -0.0398 % 0.44 % -9.06
10.0 MHz -0.044 mV -0.0398 % 0.54 % -7.38
20 MHz -0.044 mV -0.0398 % 0.74 % -5.38
30 MHz -0.044 mV -0.0398 % 1.34 % -2.97
Figure 6-2. Calibration Shift Results Printout (continued)