Using the RS-232C Serial Interface
Printing Calibration Reports 6
6-11
220 mV FS -0.0015 mV -6.93 ppm 145.45 ppm -4.76
20.00 kHz -0.0010 mV -4.57 ppm 145.45 ppm -3.14
50.00 kHz -0.0015 mV -6.75 ppm 375.45 ppm -1.80
100.00 kHz -0.0014 mV -6.51 ppm 936.36 ppm -0.69
119.99 kHz -0.0015 mV -0.0007 % 0.11 % -0.60
0.1200 MHz -0.0017 mV -0.0008 % 0.11 % -0.66
0.2000 MHz -0.0039 mV -0.0018 % 0.11 % -1.54
0.3000 MHz -0.0005 mV -0.0002 % 0.11 % -0.19
0.4000 MHz 0.0001 mV 0.0000 % 0.19 % 0.01
0.5000 MHz 0.0031 mV 0.0014 % 0.19 % 0.75
0.6000 MHz 0.0010 mV 0.0005 % 0.38 % 0.12
0.7000 MHz 0.0024 mV 0.0011 % 0.38 % 0.29
0.8000 MHz 0.0023 mV 0.0011 % 0.38 % 0.28
0.9000 MHz 0.0033 mV 0.0015 % 0.38 % 0.40
1.0000 MHz 0.0035 mV 0.0016 % 0.38 % 0.42
1.1000 MHz 0.0038 mV 0.0017 % NO SPEC 0.00
1.1999 MHz 0.0045 mV 0.0020 % NO SPEC 0.00
2.2V FS -0.000010 V -4.58 ppm 78.18 ppm -5.86
20.00 kHz -0.000005 V -2.22 ppm 78.18 ppm -2.84
50.00 kHz -0.000010 V -4.40 ppm 139.09 ppm -3.16
100.00 kHz -0.000009 V -4.16 ppm 286.36 ppm -1.45
119.99 kHz -0.000010 V -4.46 ppm 508.18 ppm -0.88
0.1200 MHz -0.000011 V -5.16 ppm 508.18 ppm -1.02
0.2000 MHz -0.000033 V -15.17 ppm 508.18 ppm -2.98
0.3000 MHz 0.000000 V 0.14 ppm 508.18 ppm 0.03
0.4000 MHz 0.000006 V 0.0003 % 0.13 % 0.20
0.5000 MHz 0.000036 V 0.0016 % 0.13 % 1.29
0.6000 MHz 0.000015 V 0.0007 % 0.27 % 0.26
0.7000 MHz 0.000029 V 0.0013 % 0.27 % 0.50
0.8000 MHz 0.000029 V 0.0013 % 0.27 % 0.49
0.9000 MHz 0.000038 V 0.0017 % 0.27 % 0.66
1.0000 MHz 0.000040 V 0.0018 % 0.27 % 0.69
1.1000 MHz 0.000043 V 0.0020 % NO SPEC 0.00
1.1999 MHz 0.000050 V 0.0023 % NO SPEC 0.00
22V FS 0.00000 V 0.07 ppm 78.18 ppm 0.09
20.00 kHz -0.00001 V -0.35 ppm 78.18 ppm -0.45
50.00 kHz 0.00004 V 1.85 ppm 139.09 ppm 1.33
100.00 kHz 0.00004 V 1.89 ppm 268.18 ppm 0.70
119.99 kHz 0.00008 V 3.79 ppm 627.27 ppm 0.60
0.1200 MHz 0.00010 V 4.33 ppm 627.27 ppm 0.69
0.2000 MHz 0.00032 V 14.40 ppm 627.27 ppm 2.30
0.3000 MHz 0.00003 V 1.41 ppm 627.27 ppm 0.23
0.4000 MHz 0.00007 V 0.0003 % 0.15 % 0.19
0.5000 MHz 0.00014 V 0.0006 % 0.15 % 0.40
0.6000 MHz 0.00016 V 0.0007 % 0.32 % 0.23
0.7000 MHz 0.00005 V 0.0002 % 0.32 % 0.07
0.8000 MHz 0.00030 V 0.0014 % 0.32 % 0.42
0.9000 MHz 0.00041 V 0.0019 % 0.32 % 0.58
1.0000 MHz 0.00058 V 0.0026 % 0.32 % 0.82
1.1000 MHz 0.00032 V 0.0015 % NO SPEC 0.00
1.1999 MHz 0.00200 V 0.0091 % NO SPEC 0.00
220V FS -0.0004 V -1.60 ppm 84.55 ppm -1.89
5.000 kHz 0.0013 V 5.81 ppm 84.55 ppm 6.88
10.000 kHz 0.0009 V 3.91 ppm 84.55 ppm 4.62
20.00 kHz -0.0031 V -13.95 ppm 84.55 ppm -16.50
50.00 kHz -0.0003 V -1.49 ppm 238.18 ppm -0.62
100.00 kHz -0.0004 V -1.94 ppm 595.45 ppm -0.33
Figure 6-2. Calibration Shift Results Printout (continued)