Appendix A: Example of a Vertical Position Accuracy Test Spreadsheet
TDS1000B and TDS2000B Series Oscilloscope Service Manual
A-3
IHGFEDCBA
32 0.80 0.8 0.805 --0.005 --0.018 0.018 0.013
33 0.76 0.76 0.764 --0.004 --0. 0176 0.0176 0.014
34 0.72 0.72 0.724 --0.004 --0. 0172 0.0172 0.013
35 0.68 0.68 0.683 --0.003 --0. 0168 0.0168 0.014
36 0.64 0.64 0.643 --0.003 --0. 0164 0.0164 0.013
37 0.60 0.6 0.6 0.000 --0.016 0.016 0.016
38 0.56 0.56 0.561 --0.001 --0. 0156 0.0156 0.015
39 0.52 0.52 0.521 --0.001 --0. 0152 0.0152 0.014
40 0.48 0.48 0.481 --0.001 --0. 0148 0.0148 0.014
41 0.44 0.44 0.44 0.000 --0.0144 0.0144 0.014
42 0.40 0.4 0.401 --0.001 --0.014 0.014 0.013
43 0.36 0.36 0.361 --0.001 --0. 0136 0.0136 0.013
44 0.32 0.32 0.32 0.000 --0.0132 0.0132 0.013
45 0.28 0.28 0.281 --0.001 --0. 0128 0.0128 0.012
46 0.24 0.24 0.244 --0.004 --0. 0124 0.0124 0.008
47 0.20 0.2 0.204 --0.004 --0.012 0.012 0.008
48 0.16 0.16 0.163 --0.003 --0.0116 0.0116 0.009
49 0.12 0.12 0.123 --0.003 --0.0112 0.0112 0.008
50 0.08 0.08 0.083 --0.003 --0. 0108 0.0108 0.008
51 0.04 0.04 0.043 --0.003 --0. 0104 0.0104 0.007
52 0.00 0 0.002 --0.002 --0.01 0.01 0.008
53 --0.04 --0.04 --0.039 --0.001 --0.0104 0.0104 0.009
54 --0.08 --0. 079 --0.079 0.000 --0.01079 0.01079 0.011
55 --0.12 --0.12 -- 0 . 11 8 --0.002 --0.0112 0.0112 0.009
56 --0.16 --0. 159 --0.159 0.000 --0.01159 0.01159 0.012
57 --0.20 --0. 199 --0.198 --0.001 --0.01199 0.01199 0.011
58 --0.24 --0. 239 --0.238 --0.001 --0.01239 0.01239 0.011
59 --0.28 --0. 279 --0.274 --0.005 --0.01279 0.01279 0.008
60 --0.32 --0. 319 --0.314 --0.005 --0.01319 0.01319 0.008
61 --0.36 --0. 359 --0.353 --0.006 --0.01359 0.01359 0.008
62 --0.40 --0. 399 --0.393 --0.006 --0.01399 0.01399 0.008
63 --0.44 --0. 439 --0.432 --0.007 --0.01439 0.01439 0.007
64 --0.48 --0.48 --0.473 --0.007 --0.0148 0.0148 0.008
65 --0.52 --0.52 --0.513 --0.007 --0.0152 0.0152 0.008
To Next Page
Loading...
Need help?
General
