Appendix A: Example of a Vertical Position Accuracy Test Spreadsheet
A-2
TDS1000B and TDS2000B Series Oscilloscope Service Manual
Example Filled-in Vertical Position Accuracy Test Spreadsheet
A B C D E F G H I
1
Approxi-
mate Test
Voltage
DVM
Measured
Voltage
Oscilloscope
Measured
Voltage
Error
Lower
Limit
Upper
Limit
Margin
2 2.00 0.000 * * * Volts/div 0.05
3 1.96 0.000 * * *
4 1.92 0.000 * * * Offset as a fractional
division
0.1
5 1.88 0.000 * * * Offset in volts 0.005
6 1.84 0.000 * * * Total voltage offset 0.01=I2*I4+I5
7 1.80 1.80 1.79 0.010 -0.028 0.028 0.018
8 1.76 1.76 1.75 0.010 -0.0276 0.0276 0.018 Gain error 1%
9 1.72 1.72 1.72 0.000 -0.0272 0.0272 0.027
10 1.68 1.68 1.68 0.000 -0.0268 0.0268 0.027 Equation for cell D7 =B7--C7
11 1.64 1.64 1.64 0.000 -0.0264 0.0264 0.026 Equation for cell E7 =--F7
12 1.60 1.6 1.6 0.000 -0.026 0.026 0.026 Equation for cell F7 =(ABS(B7)*$I$8+ $I$6)
13 1.56 1.56 1.56 0.000 -0.0256 0.0256 0.026
14 1.52 1.52 1.52 0.000 -0.0252 0.0252 0.025 Equation for cell G7 =MIN(D7--E7,F7--D7)
15 1.48 1.48 1.49 --0.010 -0.0248 0.0248 0.015
16 1.44 1.44 1.45 --0.010 --0.0244 0.0244 0.014 Minimum margin 0.007=MIN(G7:G97)
17 1.40 1.4 1.41 --0.010 --0. 024 0.024 0.014
18 1.36 1.36 1.37 --0.010 --0.0236 0.0236 0.014
19 1.32 1.32 1.33 --0.010 --0.0232 0.0232 0.013
20 1.28 1.28 1.29 --0.010 --0.0228 0.0228 0.013
21 1.24 1.24 1.25 --0.010 --0.0224 0.0224 0.012
22 1.20 1.2 1.21 --0.010 --0. 022 0.022 0.012
23 1.16 1.16 1.17 --0.010 --0.0216 0.0216 0.012
24 1.12 1.12 1.13 --0.010 --0.0212 0.0212 0.011
25 1.08 1.08 1.09 --0.010 --0.0208 0.0208 0.011
26 1.04 1.04 1.05 --0.010 --0.0204 0.0204 0.010
27 1.00 1 1.01 --0.010 --0.02 0.02 0.010
28 0.96 0.96 0.966 --0.006 --0. 0196 0.0196 0.014
29 0.92 0.92 0.926 --0.006 --0. 0192 0.0192 0.013
30 0.88 0.88 0.886 --0.006 --0. 0188 0.0188 0.013
31 0.84 0.84 0.845 --0.005 --0. 0184 0.0184 0.013
To Next Page
Loading...
Need help?
General
