A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | AA | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | No. Switches | 47 | Button No. | Req'd ADC | Req'd V (R1) | Req'd V (R2+) | Req'd R | Closest R | Actual V (R1) | Actual V (R2+) | Actual ADC | Diff from prev. | In Tolerance | Current (mA) | |||||||||||||
2 | ADC Resolution | 1024 | 0 | 1024 | 0.00 | 1.00 | 47000 | 47000 | 1.00 | 0.00 | 0 | 0 | N/A | 0.02 | |||||||||||||
3 | Tolerance (%) | 2 | 1 | 22 | 0.98 | 0.02 | 1022 | 1000 | 0.98 | 0.02 | 21 | 21 | YES | 0.02 | |||||||||||||
4 | Voltage | 1 | 2 | 44 | 0.96 | 0.04 | 1067 | 1100 | 0.96 | 0.04 | 44 | 22 | YES | 0.02 | |||||||||||||
5 | 3 | 65 | 0.94 | 0.06 | 1116 | 1100 | 0.94 | 0.06 | 65 | 21 | YES | 0.02 | |||||||||||||||
6 | 4 | 87 | 0.91 | 0.09 | 1168 | 1200 | 0.91 | 0.09 | 88 | 22 | YES | 0.02 | |||||||||||||||
7 | 5 | 109 | 0.89 | 0.11 | 1223 | 1200 | 0.89 | 0.11 | 109 | 21 | YES | 0.02 | |||||||||||||||
8 | 6 | 131 | 0.87 | 0.13 | 1283 | 1300 | 0.87 | 0.13 | 131 | 22 | YES | 0.02 | |||||||||||||||
9 | 7 | 153 | 0.85 | 0.15 | 1347 | 1300 | 0.85 | 0.15 | 152 | 21 | YES | 0.02 | |||||||||||||||
10 | ADC Tolerance | 20.48 | (+/-) | 8 | 174 | 0.83 | 0.17 | 1416 | 1500 | 0.83 | 0.17 | 175 | 23 | YES | 0.02 | ||||||||||||
11 | Std. Deviation | 0.6168915689 | 9 | 196 | 0.81 | 0.19 | 1491 | 1500 | 0.81 | 0.19 | 197 | 22 | YES | 0.02 | |||||||||||||
12 | 10 | 218 | 0.79 | 0.21 | 1571 | 1600 | 0.79 | 0.21 | 219 | 22 | YES | 0.02 | |||||||||||||||
13 | 11 | 240 | 0.77 | 0.23 | 1658 | 1600 | 0.77 | 0.23 | 240 | 21 | YES | 0.02 | |||||||||||||||
14 | 12 | 261 | 0.74 | 0.26 | 1753 | 1800 | 0.74 | 0.26 | 262 | 22 | YES | 0.02 | |||||||||||||||
15 | 13 | 283 | 0.72 | 0.28 | 1856 | 1800 | 0.72 | 0.28 | 284 | 21 | YES | 0.02 | |||||||||||||||
16 | 14 | 305 | 0.70 | 0.30 | 1969 | 2000 | 0.70 | 0.30 | 306 | 22 | YES | 0.01 | |||||||||||||||
17 | 15 | 327 | 0.68 | 0.32 | 2092 | 2000 | 0.68 | 0.32 | 326 | 21 | YES | 0.01 | |||||||||||||||
18 | 16 | 349 | 0.66 | 0.34 | 2227 | 2200 | 0.66 | 0.34 | 348 | 22 | YES | 0.01 | |||||||||||||||
19 | 17 | 370 | 0.64 | 0.36 | 2375 | 2400 | 0.64 | 0.36 | 370 | 22 | YES | 0.01 | |||||||||||||||
20 | 18 | 392 | 0.62 | 0.38 | 2539 | 2400 | 0.62 | 0.38 | 391 | 21 | YES | 0.01 | |||||||||||||||
21 | 19 | 414 | 0.60 | 0.40 | 2720 | 2700 | 0.60 | 0.40 | 412 | 22 | YES | 0.01 | |||||||||||||||
22 | 20 | 436 | 0.57 | 0.43 | 2922 | 3000 | 0.58 | 0.42 | 435 | 22 | YES | 0.01 | |||||||||||||||
23 | 21 | 458 | 0.55 | 0.45 | 3147 | 3000 | 0.55 | 0.45 | 456 | 21 | YES | 0.01 | |||||||||||||||
24 | 22 | 479 | 0.53 | 0.47 | 3398 | 3300 | 0.53 | 0.47 | 477 | 21 | YES | 0.01 | |||||||||||||||
25 | 23 | 501 | 0.51 | 0.49 | 3682 | 3600 | 0.51 | 0.49 | 499 | 21 | YES | 0.01 | |||||||||||||||
26 | 24 | 523 | 0.49 | 0.51 | 4002 | 3900 | 0.49 | 0.51 | 520 | 21 | YES | 0.01 | |||||||||||||||
27 | 25 | 545 | 0.47 | 0.53 | 4366 | 4300 | 0.47 | 0.53 | 542 | 22 | YES | 0.01 | |||||||||||||||
28 | 26 | 566 | 0.45 | 0.55 | 4781 | 4700 | 0.45 | 0.55 | 563 | 22 | YES | 0.01 | |||||||||||||||
29 | 27 | 588 | 0.43 | 0.57 | 5260 | 5100 | 0.43 | 0.57 | 585 | 21 | YES | 0.01 | |||||||||||||||
30 | 28 | 610 | 0.40 | 0.60 | 5813 | 5600 | 0.41 | 0.59 | 606 | 21 | YES | 0.01 | |||||||||||||||
31 | 29 | 632 | 0.38 | 0.62 | 6459 | 6200 | 0.39 | 0.61 | 628 | 21 | YES | 0.01 | |||||||||||||||
32 | 30 | 654 | 0.36 | 0.64 | 7219 | 7500 | 0.36 | 0.64 | 651 | 23 | YES | 0.01 | |||||||||||||||
33 | 31 | 675 | 0.34 | 0.66 | 8121 | 8200 | 0.34 | 0.66 | 673 | 22 | YES | 0.01 | |||||||||||||||
34 | 32 | 697 | 0.32 | 0.68 | 9204 | 9100 | 0.32 | 0.68 | 695 | 22 | YES | 0.01 | |||||||||||||||
35 | 33 | 719 | 0.30 | 0.70 | 10519 | 11000 | 0.30 | 0.70 | 718 | 23 | YES | 0.01 | |||||||||||||||
36 | 34 | 741 | 0.28 | 0.72 | 12137 | 12000 | 0.28 | 0.72 | 740 | 22 | YES | 0.01 | |||||||||||||||
37 | 35 | 763 | 0.26 | 0.74 | 14160 | 15000 | 0.26 | 0.74 | 763 | 23 | YES | 0.01 | |||||||||||||||
38 | 36 | 784 | 0.23 | 0.77 | 16735 | 16000 | 0.23 | 0.77 | 784 | 21 | YES | 0.00 | |||||||||||||||
39 | 37 | 806 | 0.21 | 0.79 | 20082 | 20000 | 0.21 | 0.79 | 805 | 22 | YES | 0.00 | |||||||||||||||
40 | 38 | 828 | 0.19 | 0.81 | 24544 | 24000 | 0.19 | 0.81 | 827 | 21 | YES | 0.00 | |||||||||||||||
41 | 39 | 850 | 0.17 | 0.83 | 30681 | 30000 | 0.17 | 0.83 | 848 | 22 | YES | 0.00 | |||||||||||||||
42 | 40 | 871 | 0.15 | 0.85 | 39446 | 39000 | 0.15 | 0.85 | 870 | 22 | YES | 0.00 | |||||||||||||||
43 | 41 | 893 | 0.13 | 0.87 | 52595 | 51000 | 0.13 | 0.87 | 892 | 22 | YES | 0.00 | |||||||||||||||
44 | 42 | 915 | 0.11 | 0.89 | 73633 | 75000 | 0.11 | 0.89 | 914 | 23 | YES | 0.00 | |||||||||||||||
45 | 43 | 937 | 0.09 | 0.91 | 110450 | 110000 | 0.09 | 0.91 | 936 | 22 | YES | 0.00 | |||||||||||||||
46 | 44 | 959 | 0.06 | 0.94 | 184083 | 180000 | 0.06 | 0.94 | 958 | 22 | YES | 0.00 | |||||||||||||||
47 | 45 | 980 | 0.04 | 0.96 | 368167 | 360000 | 0.04 | 0.96 | 980 | 22 | YES | 0.00 | |||||||||||||||
48 | 46 | 1002 | 0.02 | 0.98 | 1104500 | 1100000 | 0.02 | 0.98 | 1002 | 22 | YES | 0.00 | |||||||||||||||
49 | 47 | ||||||||||||||||||||||||||
50 | 48 | ||||||||||||||||||||||||||
51 | 49 | ||||||||||||||||||||||||||
52 | 50 | ||||||||||||||||||||||||||
53 | 51 | ||||||||||||||||||||||||||
54 | 52 | ||||||||||||||||||||||||||
55 | 53 | ||||||||||||||||||||||||||
56 | 54 | ||||||||||||||||||||||||||
57 | 55 | ||||||||||||||||||||||||||
58 | 56 | ||||||||||||||||||||||||||
59 | 57 | ||||||||||||||||||||||||||
60 | 58 | ||||||||||||||||||||||||||
61 | 59 | ||||||||||||||||||||||||||
62 | 60 | ||||||||||||||||||||||||||
63 | 61 | ||||||||||||||||||||||||||
64 | 62 | ||||||||||||||||||||||||||
65 | 63 | ||||||||||||||||||||||||||
66 | 64 | ||||||||||||||||||||||||||
67 | 65 | ||||||||||||||||||||||||||
68 | 66 | ||||||||||||||||||||||||||
69 | 67 | ||||||||||||||||||||||||||
70 | 68 | ||||||||||||||||||||||||||
71 | 69 | ||||||||||||||||||||||||||
72 | 70 | ||||||||||||||||||||||||||
73 | 71 | ||||||||||||||||||||||||||
74 | 72 | ||||||||||||||||||||||||||
75 | 73 | ||||||||||||||||||||||||||
76 | 74 | ||||||||||||||||||||||||||
77 | 75 | ||||||||||||||||||||||||||
78 | 76 | ||||||||||||||||||||||||||
79 | 77 | ||||||||||||||||||||||||||
80 | 78 | ||||||||||||||||||||||||||
81 | 79 | ||||||||||||||||||||||||||
82 | 80 | ||||||||||||||||||||||||||
83 | 81 | ||||||||||||||||||||||||||
84 | 82 | ||||||||||||||||||||||||||
85 | 83 | ||||||||||||||||||||||||||
86 | 84 | ||||||||||||||||||||||||||
87 | 85 | ||||||||||||||||||||||||||
88 | 86 | ||||||||||||||||||||||||||
89 | 87 | ||||||||||||||||||||||||||
90 | 88 | ||||||||||||||||||||||||||
91 | 89 | ||||||||||||||||||||||||||
92 | 90 | ||||||||||||||||||||||||||
93 | 91 | ||||||||||||||||||||||||||
94 | 92 | ||||||||||||||||||||||||||
95 | 93 | ||||||||||||||||||||||||||
96 | 94 | ||||||||||||||||||||||||||
97 | 95 | ||||||||||||||||||||||||||
98 | 96 | ||||||||||||||||||||||||||
99 | 97 | ||||||||||||||||||||||||||
100 | 98 |