Appendix A: Example of a Vertical Position Accuracy Test Spreadsheet
A-4
TDS1000B and TDS2000B Series Oscilloscope Service Manual
IHGFEDCBA
66 --0.56 --0.56 --0.552 --0.008 --0.0156 0.0156 0.008
67 -- 0 . 6 -- 0 . 6 --0.592 --0.008 --0.016 0.016 0.008
68 --0.64 --0.64 --0.633 --0.007 --0.0164 0.0164 0.009
69 --0.68 --0.68 --0.673 --0.007 --0.0168 0.0168 0.010
70 --0.72 --0.72 --0.713 --0.007 --0.0172 0.0172 0.010
71 --0.76 --0.76 --0.754 --0.006 --0.0176 0.0176 0.012
72 --0.80 -- 0 . 8 --0.794 --0.006 --0.018 0.018 0.012
73 --0.84 --0.84 --0.835 --0.005 --0.0184 0.0184 0.013
74 --0.88 --0.88 --0.875 --0.005 --0.0188 0.0188 0.014
75 --0.92 --0.92 --0.915 --0.005 --0.0192 0.0192 0.014
76 --0.96 --0.96 --0.956 --0.004 --0.0196 0.0196 0.016
77 --1.00 -- 1 --0.996 --0.004 --0.02 0.02 0.016
78 --1.04 --1.04 --1.04 0.000 --0.0204 0.0204 0.020
79 --1.08 --1.08 --1.08 0.000 --0.0208 0.0208 0.021
80 --1.12 --1.12 --1.12 0.000 --0.0212 0.0212 0.021
81 --1.16 --1.16 --1.16 0.000 --0.0216 0.0216 0.022
82 --1.20 -- 1 . 2 -- 1 . 2 0.000 --0.022 0.022 0.022
83 --1.24 --1.24 --1.24 0.000 --0.0224 0.0224 0.022
84 --1.28 --1.28 --1.28 0.000 --0.0228 0.0228 0.023
85 --1.32 --1.32 --1.32 0.000 --0.0232 0.0232 0.023
86 --1.36 --1.36 --1.36 0.000 --0.0236 0.0236 0.024
87 --1.40 -- 1 . 4 -- 1 . 4 0.000 --0.024 0.024 0.024
88 --1.44 --1.44 --1.44 0.000 --0.0244 0.0244 0.024
89 --1.48 --1.48 --1.48 0.000 --0.0248 0.0248 0.025
90 --1.52 --1.52 --1.52 0.000 --0.0252 0.0252 0.025
91 --1.56 --1.56 --1.56 0.000 --0.0256 0.0256 0.026
92 --1.60 -- 1 . 6 -- 1 . 6 0.000 --0.026 0.026 0.026
93 --1.64 --1.64 --1.64 0.000 --0.0264 0.0264 0.026
94 --1.68 --1.68 --1.68 0.000 --0.0268 0.0268 0.027
95 --1.72 --1.72 --1.72 0.000 --0.0272 0.0272 0.027
96 --1.76 --1.76 --1.75 --0.010 --0.0276 0.0276 0.018
97 --1.80 -- 1 . 8 --1.79 --0.010 --0.028 0.028 0.018
98 --1.84 * * *
99 --1.88 * * *