Mastech MS5308 - Resistance Measurement Scope

Page 5 of 17
Table 1 Resistance measurement scope
Note: This accuracy is the measurement standard when D
<0.1, if D> 0.1, it should be multiplied by the extraction
of a root of 1 + D
2
Measurem Measurement Measureme Resolutio Accuracy
R
S
/R
P
100Hz/120 200.00Ω 0.01Ω 1.0%+5d
100Hz/120 2.0000KΩ 0.1Ω 0.3%+5d
100Hz/120 20.000KΩ 1Ω 0.3%+5d
100Hz/120 200.00KΩ 0.01kΩ 0.5%+5d
100Hz/120 2.0000MΩ 0.1kΩ 1.0%+5d
100Hz/120 20.000MΩ 1kΩ 1.0%+5d
100Hz/120 200.00MΩ 0.1MΩ 2.0%+5d
1kHz 20.000Ω 0.001Ω 1.0%+5d
1kHz 200.00Ω 0.01Ω 0.3%+5d
1kHz 2.0000KΩ 0.1Ω 0.3%+5d
1kHz 20.000KΩ 1Ω 0.3%+5d
1kHz 200.00KΩ 0.01kΩ 0.5%+5d
1kHz 2.0000MΩ 0.1kΩ 1.0%+5d
1kHz 20.000MΩ 1kΩ 2.0%+5d
1kHz 200.0MΩ 0.1MΩ 5.0%+5d
10kHz 20.000Ω 0.001Ω 1.0%+5d
10kHz 200.00Ω 0.01Ω 0.5%+5d
10kHz 2.0000KΩ 0.1Ω 0.3%+5d
10kHz 20.000KΩ 1Ω 0.5%+5d
10kHz 200.00KΩ 0.01kΩ 1.0%+5d
100kHz 20.000Ω 0.001Ω 1.0%+5d
100kHz 200.00Ω 0.01Ω 1.0%+5d
100kHz 2.0000KΩ 0.1Ω 1.0%+5d
100kHz
20.000KΩ
1Ω
2.0%+5d