| A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | Scaling Slope Calculator | |||||||||||||||||||||||||
2 | ||||||||||||||||||||||||||
3 | Current Configured scaling settings | Calculate the raw value from a given EU value | ||||||||||||||||||||||||
4 | Raw Units | mA | EU Value | 500 | GPM | |||||||||||||||||||||
5 | Engineering Units | GPM | Raw Value | 7.636363636 | mA | (y - b)/m | ||||||||||||||||||||
6 | ||||||||||||||||||||||||||
7 | Raw Low (x1) | 4 | mA | Calculate the EU value from a given raw value | ||||||||||||||||||||||
8 | Raw High (x2) | 20 | mA | Raw Value | 7.6 | mA | ||||||||||||||||||||
9 | EU Low (y1) | 0 | GPM | EU Value | 495 | GPM | ||||||||||||||||||||
10 | EU High (y2) | 2200 | GPM | |||||||||||||||||||||||
11 | ||||||||||||||||||||||||||
12 | y=mx + b | |||||||||||||||||||||||||
13 | m | 137.5 | (y2-y1)/(x2-x1) | |||||||||||||||||||||||
14 | b | -550 | y - mx | |||||||||||||||||||||||
15 | ||||||||||||||||||||||||||
16 | Module scaling based on the modules full scale range (what would end up in the memory map) | |||||||||||||||||||||||||
17 | Full Scale Raw Low | -20 | mA | |||||||||||||||||||||||
18 | Full Scale Raw High | 20 | mA | |||||||||||||||||||||||
19 | MemMap EU Low | -3300 | GPM | |||||||||||||||||||||||
20 | MemMap EU High | 2200 | GPM | |||||||||||||||||||||||
21 | ||||||||||||||||||||||||||
22 | ||||||||||||||||||||||||||
23 | Calibration Calculator (Two point calibration - choose two points as far as part as possible) | |||||||||||||||||||||||||
24 | These are engineering units | |||||||||||||||||||||||||
25 | Displayed Value 1 | 1 | GPM | |||||||||||||||||||||||
26 | Measured Value 1 | 0 | GPM | |||||||||||||||||||||||
27 | Displayed Value 2 | 800 | GPM | |||||||||||||||||||||||
28 | Measured Value 2 | 795 | GPM | |||||||||||||||||||||||
29 | ||||||||||||||||||||||||||
30 | Raw 1 | 4.007272727 | mA | |||||||||||||||||||||||
31 | Raw 2 | 9.818181818 | mA | |||||||||||||||||||||||
32 | New m | 136.8116395 | ||||||||||||||||||||||||
33 | New b | -548.2415519 | ||||||||||||||||||||||||
34 | ||||||||||||||||||||||||||
35 | New Configured Scaling | |||||||||||||||||||||||||
36 | Raw Units | Engineering Units | ||||||||||||||||||||||||
37 | EU Low | 4 | mA | -0.9949937422 | GPM | |||||||||||||||||||||
38 | EU High | 20 | mA | 2187.991239 | GPM | |||||||||||||||||||||
39 | ||||||||||||||||||||||||||
40 | MemMap EU Low | -20 | mA | -3284.474343 | GPM | |||||||||||||||||||||
41 | MemMap EU High | 20 | mA | 2187.991239 | GPM | |||||||||||||||||||||
42 | ||||||||||||||||||||||||||
43 | ||||||||||||||||||||||||||
44 | ||||||||||||||||||||||||||
45 | ||||||||||||||||||||||||||
46 | ||||||||||||||||||||||||||
47 | ||||||||||||||||||||||||||
48 | ||||||||||||||||||||||||||
49 | ||||||||||||||||||||||||||
50 | ||||||||||||||||||||||||||
51 | ||||||||||||||||||||||||||
52 | ||||||||||||||||||||||||||
53 | ||||||||||||||||||||||||||
54 | ||||||||||||||||||||||||||
55 | ||||||||||||||||||||||||||
56 | ||||||||||||||||||||||||||
57 | ||||||||||||||||||||||||||
58 | ||||||||||||||||||||||||||
59 | ||||||||||||||||||||||||||
60 | ||||||||||||||||||||||||||
61 | ||||||||||||||||||||||||||
62 | ||||||||||||||||||||||||||
63 | ||||||||||||||||||||||||||
64 | ||||||||||||||||||||||||||
65 | ||||||||||||||||||||||||||
66 | ||||||||||||||||||||||||||
67 | ||||||||||||||||||||||||||
68 | ||||||||||||||||||||||||||
69 | ||||||||||||||||||||||||||
70 | ||||||||||||||||||||||||||
71 | ||||||||||||||||||||||||||
72 | ||||||||||||||||||||||||||
73 | ||||||||||||||||||||||||||
74 | ||||||||||||||||||||||||||
75 | ||||||||||||||||||||||||||
76 | ||||||||||||||||||||||||||
77 | ||||||||||||||||||||||||||
78 | ||||||||||||||||||||||||||
79 | ||||||||||||||||||||||||||
80 | ||||||||||||||||||||||||||
81 | ||||||||||||||||||||||||||
82 | ||||||||||||||||||||||||||
83 | ||||||||||||||||||||||||||
84 | ||||||||||||||||||||||||||
85 | ||||||||||||||||||||||||||
86 | ||||||||||||||||||||||||||
87 | ||||||||||||||||||||||||||
88 | ||||||||||||||||||||||||||
89 | ||||||||||||||||||||||||||
90 | ||||||||||||||||||||||||||
91 | ||||||||||||||||||||||||||
92 | ||||||||||||||||||||||||||
93 | ||||||||||||||||||||||||||
94 | ||||||||||||||||||||||||||
95 | ||||||||||||||||||||||||||
96 | ||||||||||||||||||||||||||
97 | ||||||||||||||||||||||||||
98 | ||||||||||||||||||||||||||
99 | ||||||||||||||||||||||||||
100 |