5700A/5720A Series II
Operators Manual
6-10
-----------------------------------------------------------------------------
DC VOLTAGE OUTPUT SHIFTS
-----------------------------------------------------------------------------
RANGE Point Zero Shift Full Scale Shift Spec Shift
N O P Q (+/-)R (% spec) S
220 mV +FS -0.00020 mV -0.00085 mV -3.87 ppm 10.41 ppm -37.18
-FS -0.00017 mV 0.00047 mV 2.12 ppm 10.41 ppm 20.39
2.2V +FS 0.0000003 V -0.0000011 V -0.48 ppm 6.55 ppm -7.32
-FS 0.0000006 V 0.0000018 V 0.82 ppm 6.55 ppm 12.46
11V +FS 0.000001 V 0.000001 V 0.05 ppm 5.36 ppm 0.85
-FS 0.000002 V 0.000001 V 0.09 ppm 5.36 ppm 1.60
22V +FS -0.000001 V 0.000005 V 0.21 ppm 5.36 ppm 3.87
-FS 0.000002 V 0.000001 V 0.03 ppm 5.36 ppm 0.56
220V +FS -0.00006 V 0.00020 V 0.91 ppm 6.45 ppm 14.08
-FS -0.00003 V -0.00028 V -1.26 ppm 6.45 ppm -19.45
1100V +FS -0.0002 V -0.0001 V -0.09 ppm 8.55 ppm -1.01
-FS -0.0001 V -0.0001 V -0.05 ppm 8.55 ppm -0.53
-----------------------------------------------------------------------------
AC VOLTAGE OUTPUT SHIFTS
-----------------------------------------------------------------------------
RANGE Point
T Full Scale Shift Spec Shift
(+/-) (% spec)
2.2 mV FS -0.000018 mV -0.0008 % 0.24 % -0.34
20.00 kHz -0.000013 mV -0.0006 % 0.24 % -0.24
50.00 kHz -0.000017 mV -0.0008 % 0.26 % -0.30
100.00 kHz -0.000017 mV -0.0008 % 0.45 % -0.17
119.99 kHz -0.000018 mV -0.0008 % 0.80 % -0.10
0.1200 MHz -0.000019 mV -0.0009 % 0.80 % -0.11
0.2000 MHz -0.000041 mV -0.0019 % 0.80 % -0.23
0.3000 MHz -0.000008 mV -0.0003 % 0.80 % -0.04
0.4000 MHz -0.000002 mV -0.0001 % 1.53 % -0.01
0.5000 MHz 0.000028 mV 0.0013 % 1.53 % 0.08
0.6000 MHz 0.000007 mV 0.0003 % 1.69 % 0.02
0.7000 MHz 0.000021 mV 0.0010 % 1.69 % 0.06
0.8000 MHz 0.000021 mV 0.0009 % 1.69 % 0.06
0.9000 MHz 0.000031 mV 0.0014 % 1.69 % 0.08
1.0000 MHz 0.000032 mV 0.0015 % 1.69 % 0.09
1.1000 MHz 0.000036 mV 0.0016 % NO SPEC 0.00
1.1999 MHz 0.000042 mV 0.0019 % NO SPEC 0.00
22 mV FS -0.00008 mV -3.48 ppm 382.73 ppm -0.91
20.00 kHz -0.00009 mV -3.90 ppm 382.73 ppm -1.02
50.00 kHz -0.00004 mV -1.70 ppm 642.73 ppm -0.26
100.00 kHz -0.00004 mV -0.0002 % 0.13 % -0.13
119.99 kHz 0.00001 mV 0.0000 % 0.19 % 0.01
0.1200 MHz 0.00002 mV 0.0001 % 0.19 % 0.04
0.2000 MHz 0.00024 mV 0.0011 % 0.19 % 0.58
0.3000 MHz -0.00005 mV -0.0002 % 0.19 % -0.11
0.4000 MHz -0.00001 mV -0.0001 % 0.31 % -0.02
0.5000 MHz 0.00006 mV 0.0003 % 0.31 % 0.09
0.6000 MHz 0.00009 mV 0.0004 % 0.47 % 0.08
0.7000 MHz -0.00003 mV -0.0001 % 0.47 % -0.03
0.8000 MHz 0.00022 mV 0.0010 % 0.47 % 0.21
0.9000 MHz 0.00033 mV 0.0015 % 0.47 % 0.32
1.0000 MHz 0.00050 mV 0.0023 % 0.47 % 0.49
1.1000 MHz 0.00024 mV 0.0011 % NO SPEC 0.00
1.1999 MHz 0.00192 mV 0.0087 % NO SPEC 0.00
Figure 6-2. Calibration Shift Results Printout (continued)