A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | Tolerance Tables | |||||||||||||||||||||||||
2 | Tolerance | 0.10% | ||||||||||||||||||||||||
3 | Ratio | Reference Value | Selected Value | Target Ratio | Actual Ratio | Plus Tolerance | ||||||||||||||||||||
4 | 1 | 9.090E+05 | 10000000.0 | 1.000E+00 | 1.000E+00 | Selected Value | Ratio Error | Selected Value | Ratio Error | Selected Value | Ratio | Selected Value | Ratio | Selected Value | Ratio | Selected Value | Ratio | |||||||||
5 | 0.1 | 9.090E+04 | 1000000.0 | 1.000E-01 | 1.000E-01 | 10010000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | |||||||||
6 | 0.01 | 9.090E+03 | 100000.0 | 1.000E-02 | 1.000E-02 | 1000000.0 | 99.91% | 1001000.0 | 100.08% | 1000000.0 | 100.01% | 1000000.0 | 100.00% | 1000000.0 | 100.00% | 1000000.0 | 100.00% | |||||||||
7 | 0.001 | 9.090E+02 | 10000.0 | 1.000E-03 | 1.000E-03 | 100000.0 | 99.91% | 100000.0 | 99.99% | 100100.0 | 100.09% | 100000.0 | 100.01% | 100000.0 | 100.00% | 100000.0 | 100.00% | |||||||||
8 | 0.0001 | 9.090E+01 | 1000.0 | 1.000E-04 | 9.999E-05 | 10000.0 | 99.91% | 10000.0 | 99.99% | 10000.0 | 100.00% | 10010.0 | 100.09% | 10000.0 | 100.01% | 10000.0 | 100.00% | |||||||||
9 | 0.00001111111111 | 1.010E+01 | 111.0 | 1.000E-05 | 9.990E-06 | 1000.0 | 99.90% | 1000.0 | 99.98% | 1000.0 | 99.99% | 1000.0 | 99.99% | 1001.0 | 100.08% | 1000.0 | 100.00% | |||||||||
10 | 111.0 | 99.81% | 111.0 | 99.89% | 111.0 | 99.90% | 111.0 | 99.90% | 111.0 | 99.90% | 111.1 | 100.00% | ||||||||||||||
11 | Total | 1.010E+06 | 11111111.0 | |||||||||||||||||||||||
12 | 11121111.0 | 11112111.0 | 11111211.0 | 11111121.0 | 11111112.0 | 11111111.1 | ||||||||||||||||||||
13 | Minus Tolerance | |||||||||||||||||||||||||
14 | Selected Value | Ratio | Selected Value | Ratio | Selected Value | Ratio | Selected Value | Ratio | Selected Value | Ratio | Selected Value | Ratio | ||||||||||||||
15 | 9990000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | 10000000.0 | 100.00% | ||||||||||||||
16 | 1000000.0 | 100.09% | 999000.0 | 99.92% | 1000000.0 | 99.99% | 1000000.0 | 100.00% | 1000000.0 | 100.00% | 1000000.0 | 100.00% | ||||||||||||||
17 | 100000.0 | 100.09% | 100000.0 | 100.01% | 99900.0 | 99.91% | 100000.0 | 99.99% | 100000.0 | 100.00% | 100000.0 | 100.00% | ||||||||||||||
18 | 10000.0 | 100.09% | 10000.0 | 100.01% | 10000.0 | 100.00% | 9990.0 | 99.91% | 10000.0 | 99.99% | 10000.0 | 100.00% | ||||||||||||||
19 | 1000.0 | 100.08% | 1000.0 | 100.00% | 1000.0 | 99.99% | 1000.0 | 99.99% | 999.0 | 99.90% | 1000.0 | 99.98% | ||||||||||||||
20 | 111.0 | 99.99% | 111.0 | 99.91% | 111.0 | 99.90% | 111.0 | 99.90% | 111.0 | 99.90% | 110.9 | 99.80% | ||||||||||||||
21 | ||||||||||||||||||||||||||
22 | 11101111.0 | 11110111.0 | 11111011.0 | 11111101.0 | 11111110.0 | 11111110.9 | ||||||||||||||||||||
23 | ||||||||||||||||||||||||||
24 | ||||||||||||||||||||||||||
25 | Max Error | 0.09% | ||||||||||||||||||||||||
26 | Min Error | -0.20% | ||||||||||||||||||||||||
27 | ||||||||||||||||||||||||||
28 | ||||||||||||||||||||||||||
29 | ||||||||||||||||||||||||||
30 | ||||||||||||||||||||||||||
31 | ||||||||||||||||||||||||||
32 | ||||||||||||||||||||||||||
33 | ||||||||||||||||||||||||||
34 | ||||||||||||||||||||||||||
35 | ||||||||||||||||||||||||||
36 | ||||||||||||||||||||||||||
37 | ||||||||||||||||||||||||||
38 | ||||||||||||||||||||||||||
39 | ||||||||||||||||||||||||||
40 | ||||||||||||||||||||||||||
41 | ||||||||||||||||||||||||||
42 | ||||||||||||||||||||||||||
43 | ||||||||||||||||||||||||||
44 | ||||||||||||||||||||||||||
45 | ||||||||||||||||||||||||||
46 | ||||||||||||||||||||||||||
47 | ||||||||||||||||||||||||||
48 | ||||||||||||||||||||||||||
49 | ||||||||||||||||||||||||||
50 | ||||||||||||||||||||||||||
51 | ||||||||||||||||||||||||||
52 | ||||||||||||||||||||||||||
53 | ||||||||||||||||||||||||||
54 | ||||||||||||||||||||||||||
55 | ||||||||||||||||||||||||||
56 | ||||||||||||||||||||||||||
57 | ||||||||||||||||||||||||||
58 | ||||||||||||||||||||||||||
59 | ||||||||||||||||||||||||||
60 | ||||||||||||||||||||||||||
61 | ||||||||||||||||||||||||||
62 | ||||||||||||||||||||||||||
63 | ||||||||||||||||||||||||||
64 | ||||||||||||||||||||||||||
65 | ||||||||||||||||||||||||||
66 | ||||||||||||||||||||||||||
67 | ||||||||||||||||||||||||||
68 | ||||||||||||||||||||||||||
69 | ||||||||||||||||||||||||||
70 | ||||||||||||||||||||||||||
71 | ||||||||||||||||||||||||||
72 | ||||||||||||||||||||||||||
73 | ||||||||||||||||||||||||||
74 | ||||||||||||||||||||||||||
75 | ||||||||||||||||||||||||||
76 | ||||||||||||||||||||||||||
77 | ||||||||||||||||||||||||||
78 | ||||||||||||||||||||||||||
79 | ||||||||||||||||||||||||||
80 | ||||||||||||||||||||||||||
81 | ||||||||||||||||||||||||||
82 | ||||||||||||||||||||||||||
83 | ||||||||||||||||||||||||||
84 | ||||||||||||||||||||||||||
85 | ||||||||||||||||||||||||||
86 | ||||||||||||||||||||||||||
87 | ||||||||||||||||||||||||||
88 | ||||||||||||||||||||||||||
89 | ||||||||||||||||||||||||||
90 | ||||||||||||||||||||||||||
91 | ||||||||||||||||||||||||||
92 | ||||||||||||||||||||||||||
93 | ||||||||||||||||||||||||||
94 | ||||||||||||||||||||||||||
95 | ||||||||||||||||||||||||||
96 | ||||||||||||||||||||||||||
97 | ||||||||||||||||||||||||||
98 | ||||||||||||||||||||||||||
99 | ||||||||||||||||||||||||||
100 |