calc dig2tem table
 Share
The version of the browser you are using is no longer supported. Please upgrade to a supported browser.Dismiss

 
$
%
123
 
 
 
 
 
 
 
 
 
ABCDEFGHIJKLMNOPQRSTUVWXYZ
1
Pull Up Resistor, k ohms
Temp C*10
Sensor Resistance, k Ohms
Sensor VA/D Counts * 32
Counts * 32 Rounded
dig2tem values
dig2tem entries w/o 25 C
2
5.11100.7920.13441955194404.659878440511001100 , 4405 , 4405 , 1100 , 4405 , 1100 , \ 11 4405 , 1100 , \ 1
3
10010.16393442625371.803279537210001000 , 5372 , 5372 , 1000 , 5372 , 1000 , \ 22 5372 , 1000 , \ 2
4
901.310.20436817476696.7363496697900900 , 6697 , 6697 , 900 , 6697 , 900 , \ 33 6697 , 900 , \ 3
5
801.690.24889543458155.8055968156800800 , 8156 , 8156 , 800 , 8156 , 800 , \ 44 8156 , 800 , \ 4
6
702.250.30612244910031.0204110031700700 , 10031 , 10031 , 700 , 10031 , 700 , \ 55 10031 , 700 , \ 5
7
603.050.374233128812262.8711712263600600 , 12263 , 12263 , 600 , 12263 , 600 , \ 66 12263 , 600 , \ 6
8
504.180.450431034514759.7241414760500500 , 14760 , 14760 , 500 , 14760 , 500 , \ 77 14760 , 500 , \ 7
9
405.830.533394327517478.2653217478400400 , 17478 , 17478 , 400 , 17478 , 400 , \ 88 17478 , 400 , \ 8
10
308.330.620253164620324.455720324300300 , 20324 , 20324 , 300 , 20324 , 300 , \ 99 20324 , 300 , \ 9
11
25100.662251655621700.6622521701250250 , 21701 , 21701 , 250 , 21701 , 250 , \ 99 23108 , 200 , \ 10
12
2012.20.705202312123108.0693623108200200 , 23108 , 23108 , 200 ,
23108 , 200 , \ 10
10 25565 , 100 , \ 11
13
1018.10.780172413825564.6896625565100100 , 25565 , 25565 , 100 ,
25565 , 100 , \ 11
11 26509 , 00 , \ 12
14
021.60.80898876426508.94382265090000 , 26509 , 26509 , 00 , 26509 , 00 , \ 1212 28559 , -50 , \ 13
15
-534.60.871536523928558.5088228559-50-50 , 28559 , 28559 , -50 ,
28559 , -50 , \ 13
13 29371 , -100 , \ 14
16
-1044.10.896341463429371.3170729371-100-100 , 29371 , 29371 , -100 ,
29371 , -100 , \ 14
14
17
18
19
Pull Up Resistor, k ohms
Temp C*10
Sensor Resistance, k Ohms
Sensor VA/D Counts * 32
Counts * 32 Rounded
dig2tem values
dig2tem entries w/o 25 C
20
201100.7920.038091573681248.184686124811001100 , 1248 , 1248 , 1100 , 1248 , 1100 , \ 11 1248 , 1100 , \ 1
21
10010.047619047621560.380952156010001000 , 1560 , 1560 , 1000 , 1560 , 1000 , \ 22 1560 , 1000 , \ 2
22
901.310.061473486632014.363212014900900 , 2014 , 2014 , 900 , 2014 , 900 , \ 33 2014 , 900 , \ 3
23
801.690.077916090362553.1544492553800800 , 2553 , 2553 , 800 , 2553 , 800 , \ 44 2553 , 800 , \ 4
24
702.250.10112359553313.6179783314700700 , 3314 , 3314 , 700 , 3314 , 700 , \ 55 3314 , 700 , \ 5
25
603.050.13232104124335.8958794336600600 , 4336 , 4336 , 600 , 4336 , 600 , \ 66 4336 , 600 , \ 6
26
504.180.17287014065664.6087685665500500 , 5665 , 5665 , 500 , 5665 , 500 , \ 77 5665 , 500 , \ 7
27
405.830.22570654287395.9519947396400400 , 7396 , 7396 , 400 , 7396 , 400 , \ 88 7396 , 400 , \ 8
28
308.330.29403459239634.9255219635300300 , 9635 , 9635 , 300 , 9635 , 300 , \ 99 9635 , 300 , \ 9
29
25100.333333333310922.6666710923250250 , 10923 , 10923 , 250 , 10923 , 250 , \ 99 12415 , 200 , \ 10
30
2012.20.378881987612415.2049712415200200 , 12415 , 12415 , 200 ,
12415 , 200 , \ 10
10 15567 , 100 , \ 11
31
1018.10.475065616815566.9501315567100100 , 15567 , 15567 , 100 ,
15567 , 100 , \ 11
11 17014 , 00 , \ 12
32
021.60.519230769217014.15385170140000 , 17014 , 17014 , 00 , 17014 , 00 , \ 1212 20765 , -50 , \ 13
33
-534.60.633699633720765.069620765-50-50 , 20765 , 20765 , -50 ,
20765 , -50 , \ 13
13 22544 , -100 , \ 14
34
-1044.10.687987519522543.9750422544-100-100 , 22544 , 22544 , -100 ,
22544 , -100 , \ 14
14
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
Loading...