| A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | AA | AB | AC | AD | AE | AF | AG | AH | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | ||||||||||||||||||||||||||||||||||
2 | DAC | ADC | DMM Measured Voltage | ADC Measured voltage | Error ADC % | Two-Points Calibration corrected ADC Measured Voltage | Error TPC % | LUT corrected ADC Measured voltage | Error LUT % | |||||||||||||||||||||||||
3 | 28 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
4 | 50 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
5 | 100 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
6 | 400 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
7 | 800 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
8 | 1200 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
9 | 1600 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
10 | 2000 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
11 | 3000 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
12 | 3150 | #DIV/0! | #DIV/0! | #DIV/0! | ||||||||||||||||||||||||||||||
13 | ||||||||||||||||||||||||||||||||||
14 | Table 1 | |||||||||||||||||||||||||||||||||
15 | ||||||||||||||||||||||||||||||||||
16 | ||||||||||||||||||||||||||||||||||
17 | ||||||||||||||||||||||||||||||||||
18 | DAC | ADC | DMM Measured Voltage | ADC Measured voltage | ||||||||||||||||||||||||||||||
19 | 28 | |||||||||||||||||||||||||||||||||
20 | 128 | |||||||||||||||||||||||||||||||||
21 | 228 | |||||||||||||||||||||||||||||||||
22 | 328 | |||||||||||||||||||||||||||||||||
23 | 428 | |||||||||||||||||||||||||||||||||
24 | 528 | |||||||||||||||||||||||||||||||||
25 | 628 | |||||||||||||||||||||||||||||||||
26 | 728 | |||||||||||||||||||||||||||||||||
27 | 828 | |||||||||||||||||||||||||||||||||
28 | 928 | |||||||||||||||||||||||||||||||||
29 | 1028 | |||||||||||||||||||||||||||||||||
30 | 1128 | |||||||||||||||||||||||||||||||||
31 | 1228 | |||||||||||||||||||||||||||||||||
32 | 1328 | |||||||||||||||||||||||||||||||||
33 | 1428 | |||||||||||||||||||||||||||||||||
34 | 1528 | |||||||||||||||||||||||||||||||||
35 | 1628 | |||||||||||||||||||||||||||||||||
36 | 1728 | |||||||||||||||||||||||||||||||||
37 | 1828 | |||||||||||||||||||||||||||||||||
38 | 1928 | |||||||||||||||||||||||||||||||||
39 | 2028 | |||||||||||||||||||||||||||||||||
40 | 2128 | |||||||||||||||||||||||||||||||||
41 | 2228 | |||||||||||||||||||||||||||||||||
42 | 2328 | |||||||||||||||||||||||||||||||||
43 | 2428 | |||||||||||||||||||||||||||||||||
44 | 2528 | |||||||||||||||||||||||||||||||||
45 | 2628 | |||||||||||||||||||||||||||||||||
46 | 2728 | |||||||||||||||||||||||||||||||||
47 | 2828 | |||||||||||||||||||||||||||||||||
48 | 2928 | |||||||||||||||||||||||||||||||||
49 | 3028 | |||||||||||||||||||||||||||||||||
50 | 3128 | |||||||||||||||||||||||||||||||||
51 | ||||||||||||||||||||||||||||||||||
52 | Table 2 | |||||||||||||||||||||||||||||||||
53 | ||||||||||||||||||||||||||||||||||
54 | ||||||||||||||||||||||||||||||||||
55 | ||||||||||||||||||||||||||||||||||
56 | ||||||||||||||||||||||||||||||||||
57 | ||||||||||||||||||||||||||||||||||
58 | ||||||||||||||||||||||||||||||||||
59 | ||||||||||||||||||||||||||||||||||
60 | ||||||||||||||||||||||||||||||||||
61 | ||||||||||||||||||||||||||||||||||
62 | ||||||||||||||||||||||||||||||||||
63 | ||||||||||||||||||||||||||||||||||
64 | ||||||||||||||||||||||||||||||||||
65 | ||||||||||||||||||||||||||||||||||
66 | ||||||||||||||||||||||||||||||||||
67 | ||||||||||||||||||||||||||||||||||
68 | ||||||||||||||||||||||||||||||||||
69 | ||||||||||||||||||||||||||||||||||
70 | ||||||||||||||||||||||||||||||||||
71 | ||||||||||||||||||||||||||||||||||
72 | ||||||||||||||||||||||||||||||||||
73 | ||||||||||||||||||||||||||||||||||
74 | ||||||||||||||||||||||||||||||||||
75 | ||||||||||||||||||||||||||||||||||
76 | ||||||||||||||||||||||||||||||||||
77 | ||||||||||||||||||||||||||||||||||
78 | ||||||||||||||||||||||||||||||||||
79 | ||||||||||||||||||||||||||||||||||
80 | ||||||||||||||||||||||||||||||||||
81 | ||||||||||||||||||||||||||||||||||
82 | ||||||||||||||||||||||||||||||||||
83 | ||||||||||||||||||||||||||||||||||
84 | ||||||||||||||||||||||||||||||||||
85 | ||||||||||||||||||||||||||||||||||
86 | ||||||||||||||||||||||||||||||||||
87 | ||||||||||||||||||||||||||||||||||
88 | ||||||||||||||||||||||||||||||||||
89 | ||||||||||||||||||||||||||||||||||
90 | ||||||||||||||||||||||||||||||||||
91 | ||||||||||||||||||||||||||||||||||
92 | ||||||||||||||||||||||||||||||||||
93 | ||||||||||||||||||||||||||||||||||
94 | ||||||||||||||||||||||||||||||||||
95 | ||||||||||||||||||||||||||||||||||
96 | ||||||||||||||||||||||||||||||||||
97 | ||||||||||||||||||||||||||||||||||
98 | ||||||||||||||||||||||||||||||||||
99 | ||||||||||||||||||||||||||||||||||
100 |