VTI Instruments Metek EX1202 - Page 22

VTI Instruments Corp.
22 EX1200 Series Introduction
2-WIRE RESISTANCE – 1 YEAR ACCURACY
RANGE
RESOLUTION
T
CAL
 5 °C
0 °C TO +55 °C
% READING
% RANGE
< 30% RANGE
> 30% RANGE
100 Ω, 6½ digit
100 µΩ
0.1000%
0.0600%
0.60 Ω
0.75 Ω
1 kΩ, 6½ digit
1 mΩ
0.0500%
0.0100%
0.75 Ω
3.00 Ω
3 kΩ, 6½ digit
10 mΩ
0.0200%
0.0150%
3.00 Ω
3.00 Ω
10 kΩ, 6½ digit
10 mΩ
0.0100%
0.0090%
3.00 Ω
3.90 Ω
100 kΩ, 6½ digit
100 mΩ
0.0100%
0.0009%
3.90 Ω
78.0 Ω
1 MΩ, 6½ digit
1 Ω
0.0250%
0.0008%
78.0 Ω
1.68 kΩ
10 MΩ, 6½ digit
10 Ω
0.0550%
0.0010%
1.68 kΩ
45.0 kΩ
100 MΩ, 6½ digit
100 Ω
0.1200%
0.0050%
45.0 kΩ
45.0 kΩ
100 Ω, 5½ digit
1 mΩ
0.1500%
0.0700%
0.63 Ω
0.78 Ω
1 kΩ, 5½ digit
10 mΩ
0.0550%
0.0150%
0.78 Ω
3.30 Ω
3 kΩ, 5½ digit
100 mΩ
0.0250%
0.0200%
3.30 Ω
3.30 Ω
10 kΩ, 5½ digit
100 mΩ
0.0110%
0.0110%
3.30 Ω
4.20 Ω
100 kΩ, 5½ digit
1 Ω
0.0100%
0.0011%
4.20 Ω
81.0 Ω
1 MΩ, 5½ digit
10 Ω
0.0260%
0.0008%
81.0 Ω
4.50 kΩ
10 MΩ, 5½ digit
100 Ω
0.1000%
0.0040%
4.50 kΩ
45.3 kΩ
100 MΩ, 5½ digit
1000 Ω
0.1250%
0.0055%
45.3 kΩ
45.3 kΩ
100 Ω, 4½ digit
10 mΩ
0.1500%
0.1500%
0.66 Ω
0.81 Ω
1 kΩ, 4½ digit
100 mΩ
0.1000%
0.0250%
0.81 Ω
3.60 Ω
3 kΩ, 4½ digit
1Ω
0.0400%
0.0300%
3.60 Ω
3.60 Ω
10 kΩ, 4½ digit
1Ω
0.0250%
0.0150%
3.60 Ω
8.70 Ω
100 kΩ, 4½ digit
10 Ω
0.0180%
0.0025%
8.70 Ω
84.0 Ω
1 MΩ, 4½ digit
100 Ω
0.0270%
0.0008%
84.0 Ω
4.53 kΩ
10 MΩ, 4½ digit
1000 Ω
0.1200%
0.0050%
4.53 kΩ
45.6 kΩ
100 MΩ, 4½ digit
10000 Ω
0.1300%
0.0090%
45.6 kΩ
45.6 kΩ
4-WIRE RESISTANCE – 1 YEAR ACCURACY
RANGE
RESOLUTION
T
CAL
 5 °C
0 °C TO +55 °C
% READING
% RANGE
< 30% RANGE
> 30% RANGE
100 Ω, 6½ digit
100 µΩ
0.0140%
0.0070%
11.7 mΩ
39.0 mΩ
1 kΩ, 6½ digit
1 mΩ
0.0100%
0.0010%
39.0 mΩ
390 mΩ
3 kΩ, 6½ digit
10 mΩ
0.0100%
0.0010%
390 mΩ
390 mΩ
10 kΩ, 6½ digit
10 mΩ
0.0100%
0.0010%
390 mΩ
3.90 Ω
100 kΩ, 6½ digit
100 mΩ
0.0100%
0.0009%
3.90 Ω
78.0 Ω
100 Ω, 5½ digit
1 mΩ
0.0150%
0.0070%
12.0 mΩ
42.0 mΩ
1 kΩ, 5½ digit
10 mΩ
0.0100%
0.0014%
42.0 mΩ
420 mΩ
3 kΩ, 5½ digit
100 mΩ
0.0110%
0.0020%
420 mΩ
420 mΩ
10 kΩ, 5½ digit
100 mΩ
0.0110%
0.0020%
420 mΩ
4.20 Ω
100 kΩ, 5½ digit
1 Ω
0.0100%
0.0012%
4.20 Ω
81.0 Ω
100 Ω, 4½ digit
10mΩ
0.0160%
0.0150%
27.0 mΩ
81.0 mΩ
1 kΩ, 4½ digit
100 mΩ
0.0150%
0.0030%
81.0 mΩ
720 mΩ
3 kΩ, 4½ digit
1Ω
0.0150%
0.0040%
720 mΩ
720 mΩ
10 kΩ, 4½ digit
1Ω
0.0150%
0.0040%
720 mΩ
7.20 Ω
100 kΩ, 4½ digit
10 Ω
0.0150%
0.0025%
7.20 Ω
84.0 Ω
Over-range: 20% beyond range