Using the RS-232C Serial Interface
Printing Calibration Reports 6
6-15
330 mV FS 0.033 mV 0.0102 % 0.28 % 3.62
1.0000 kHz 0.033 mV 0.0102 % 0.28 % 3.62
12.00 kHz 0.033 mV 0.0102 % 0.28 % 3.62
100.00 kHz 0.033 mV 0.0102 % 0.28 % 3.62
0.5000 MHz 0.033 mV 0.0102 % 0.28 % 3.62
1.1999 MHz 0.033 mV 0.0102 % 0.38 % 2.66
1.2 MHz -0.143 mV -0.0433 % 0.38 % -11.35
2.0 MHz -0.143 mV -0.0433 % 0.38 % -11.35
10.0 MHz -0.143 mV -0.0433 % 0.48 % -8.99
20 MHz -0.143 mV -0.0433 % 0.68 % -6.35
30 MHz -0.143 mV -0.0433 % 1.28 % -3.38
1.1V FS 0.00011 V 0.0099 % 0.29 % 3.45
1.0000 kHz 0.00011 V 0.0099 % 0.29 % 3.45
12.00 kHz 0.00011 V 0.0099 % 0.29 % 3.45
100.00 kHz 0.00011 V 0.0099 % 0.29 % 3.45
0.5000 MHz 0.00011 V 0.0099 % 0.29 % 3.45
1.1999 MHz 0.00011 V 0.0099 % 0.39 % 2.56
1.2 MHz -0.00045 V -0.0413 % 0.39 % -10.68
2.0 MHz -0.00045 V -0.0413 % 0.39 % -10.68
10.0 MHz -0.00045 V -0.0413 % 0.49 % -8.48
20 MHz -0.00045 V -0.0413 % 0.69 % -6.01
30 MHz -0.00045 V -0.0413 % 1.29 % -3.21
3.5V FS 0.00030 V 0.0087 % 0.21 % 4.05
1.0000 kHz 0.00030 V 0.0087 % 0.21 % 4.05
12.00 kHz 0.00030 V 0.0087 % 0.21 % 4.05
100.00 kHz 0.00030 V 0.0087 % 0.21 % 4.05
0.5000 MHz 0.00030 V 0.0087 % 0.21 % 4.05
1.1999 MHz 0.00030 V 0.0087 % 0.31 % 2.76
1.2 MHz -0.00148 V -0.0423 % 0.31 % -13.44
2.0 MHz -0.00148 V -0.0423 % 0.31 % -13.44
10.0 MHz -0.00148 V -0.0423 % 0.41 % -10.20
20 MHz -0.00148 V -0.0423 % 0.61 % -6.88
30 MHz -0.00148 V -0.0423 % 1.21 % -3.48
Figure 6-2. Calibration Shift Results Printout (continued)