| A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | Model | Power (Watts) | Total Duration (s) | Load Duration (ms) | Prompt Eval Count | Prompt Eval Duration (ms) | Prompt Eval Rate (tokens/s) | Eval Count | Eval Duration (s) | Eval Rate (tokens/s) | Tokens-Per-Watt (tokens/s/W) | |||||||||||||||
2 | gemma4:e4b | 100 | 14.868 | 1.98 | 75 | 175.75 | 426.75 | 1093 | 14.687 | 74.42 | 0.7442 | |||||||||||||||
3 | qwen3.5 | 100 | 33.311 | 1.20 | 71 | 115.67 | 613.79 | 1714 | 33.185 | 51.65 | 0.5165 | |||||||||||||||
4 | qwen3-vl | 100 | 37.990 | 1.07 | 81 | 90.87 | 891.36 | 2036 | 37.895 | 53.73 | 0.5373 | |||||||||||||||
5 | deepseek-coder-v2 | 100 | 11.791 | 20.05 | 89 | 1.35 | 65.91 | 542 | 10.347 | 52.38 | 0.5238 | |||||||||||||||
6 | gemma4:e4b | 110 | 9.523 | 1.14 | 75 | 253.19 | 296.23 | 710 | 9.265 | 76.53 | 0.6957 | |||||||||||||||
7 | qwen3.5 | 110 | 41.356 | 1.15 | 71 | 128.16 | 554.00 | 2191 | 41.314 | 53.16 | 0.4833 | |||||||||||||||
8 | qwen3-vl | 110 | 20.223 | 1.02 | 81 | 76.56 | 1,057.98 | 1324 | 20.143 | 65.73 | 0.5975 | |||||||||||||||
9 | deepseek-coder-v2 | 110 | 11.172 | 19.71 | 89 | 1.49 | 59.71 | 510 | 9.592 | 53.17 | 0.4834 | |||||||||||||||
10 | gemma4:e4b | 120 | 10.436 | 1.12 | 75 | 364.59 | 205.71 | 789 | 10.067 | 78.37 | 0.6531 | |||||||||||||||
11 | qwen3.5 | 120 | 33.937 | 1.08 | 71 | 112.27 | 632.43 | 1844 | 33.806 | 54.55 | 0.4546 | |||||||||||||||
12 | qwen3-vl | 120 | 60.507 | 1.16 | 81 | 950.19 | 4,015.00 | 60 | 60.416 | 66.46 | 0.5538 | |||||||||||||||
13 | deepseek-coder-v2 | 120 | 14.716 | 5.80 | 89 | 1.19 | 74.75 | 422 | 7.709 | 54.73 | 0.4561 | |||||||||||||||
14 | gemma4:e4b | 130 | 10.686 | 1.33 | 75 | 253.81 | 295.49 | 823 | 10.428 | 78.92 | 0.6071 | |||||||||||||||
15 | qwen3.5 | 130 | 37.004 | 1.21 | 71 | 112.77 | 629.55 | 2002 | 36.870 | 54.29 | 0.4176 | |||||||||||||||
16 | qwen3-vl | 130 | 60.025 | 1.19 | 81 | 137.78 | 587.88 | 4015 | 59.883 | 67.05 | 0.5158 | |||||||||||||||
17 | deepseek-coder-v2 | 130 | 10.402 | 1.16 | 81 | 85.25 | 950.19 | 4015 | 60.416 | 66.46 | 0.5112 | |||||||||||||||
18 | gemma4:e4b | 140 | 13.773 | 1.36 | 75 | 180.77 | 414.90 | 1087 | 13.588 | 79.99 | 0.5714 | |||||||||||||||
19 | qwen3.5 | 140 | 35.027 | 1.17 | 71 | 113.47 | 625.72 | 1912 | 34.909 | 54.77 | 0.3912 | |||||||||||||||
20 | qwen3-vl | 140 | 13.087 | 1.25 | 81 | 76.58 | 1,057.68 | 914 | 13.007 | 70.27 | 0.5019 | |||||||||||||||
21 | deepseek-coder-v2 | 140 | 10.033 | 15.73 | 89 | 1.46 | 61.15 | 451 | 8.491 | 53.11 | 0.3794 | |||||||||||||||
22 | gemma4:e4b | 150 | 11.923 | 1.27 | 75 | 178.86 | 419.30 | 938 | 11.739 | 79.90 | 0.5327 | |||||||||||||||
23 | qwen3.5 | 150 | 29.256 | 1.41 | 71 | 135.48 | 524.03 | 1589 | 29.116 | 54.57 | 0.3638 | |||||||||||||||
24 | qwen3-vl | 150 | 7.629 | 1.28 | 81 | 78.04 | 1,037.84 | 538 | 7.547 | 71.28 | 0.4752 | |||||||||||||||
25 | deepseek-coder-v2 | 150 | 11.104 | 21.42 | 89 | 1.35 | 65.79 | 499 | 9.661 | 51.65 | 0.3443 | |||||||||||||||
26 | gemma4:e4b | 160 | 9.628 | 1.01 | 75 | 166.33 | 450.89 | 755 | 9.458 | 79.83 | 0.4989 | |||||||||||||||
27 | qwen3.5 | 160 | 28.695 | 1.11 | 71 | 111.20 | 638.48 | 1580 | 28.573 | 55.30 | 0.3456 | |||||||||||||||
28 | qwen3-vl | 160 | 7.594 | 1.05 | 81 | 81.06 | 999.22 | 536 | 7.509 | 71.37 | 0.4461 | |||||||||||||||
29 | deepseek-coder-v2 | 160 | 10.450 | 16.62 | 89 | 1.32 | 66.93 | 483 | 9.033 | 53.47 | 0.3342 | |||||||||||||||
30 | gemma4:e4b | 170 | 13.077 | 0.90 | 75 | 97.10 | 722.40 | 1077 | 12.976 | 83.00 | 0.4882 | |||||||||||||||
31 | qwen3.5 | 170 | 25.875 | 1.20 | 71 | 111.88 | 634.56 | 1416 | 25.758 | 54.97 | 0.3234 | |||||||||||||||
32 | qwen3-vl | 170 | 14.725 | 1.12 | 81 | 76.23 | 1,062.45 | 1045 | 14.645 | 71.15 | 0.4185 | |||||||||||||||
33 | deepseek-coder-v2 | 170 | 9.285 | 20.64 | 89 | 1.43 | 62.20 | 413 | 7.761 | 53.21 | 0.3130 | |||||||||||||||
34 | gemma4:e4b | 180 | 13.611 | 1.03 | 75 | 119.05 | 629.97 | 1119 | 13.488 | 82.96 | 0.4609 | |||||||||||||||
35 | qwen3.5 | 180 | 35.942 | 9.34 | 71 | 137.55 | 516.16 | 1942 | 35.719 | 54.37 | 0.3021 | |||||||||||||||
36 | qwen3-vl | 180 | 26.492 | 1.86 | 324 | 93.72 | 2,507.36 | 1843 | 26.307 | 70.06 | 0.3892 | |||||||||||||||
37 | deepseek-coder-v2 | 180 | 9.663 | 10.04 | 89 | 1,540.79 | 57.76 | 434 | 8.041 | 53.97 | 0.2998 | |||||||||||||||
38 | gemma4:e4b | 190 | 8.125 | 1.27 | 75 | 183.08 | 409.65 | 642 | 7.938 | 80.87 | 0.4256 | |||||||||||||||
39 | qwen3.5 | 190 | 28.234 | 1.15 | 71 | 110.77 | 640.93 | 1548 | 28.118 | 55.05 | 0.2897 | |||||||||||||||
40 | qwen3-vl | 190 | 13.160 | 1.21 | 81 | 74.62 | 1,084.89 | 939 | 13.080 | 71.78 | 0.3778 | |||||||||||||||
41 | deepseek-coder-v2 | 190 | 10.909 | 18.59 | 89 | 1.38 | 64.49 | 500 | 9.431 | 53.01 | 0.2790 | |||||||||||||||
42 | gemma4:e4b | 200 | 13.166 | 1.34 | 75 | 271.50 | 276.24 | 1048 | 12.889 | 81.31 | 0.4066 | |||||||||||||||
43 | qwen3.5 | 200 | 29.129 | 1.11 | 71 | 111.98 | 634.02 | 1594 | 29.006 | 54.95 | 0.2748 | |||||||||||||||
44 | qwen3-vl | 200 | 12.312 | 1.10 | 81 | 75.92 | 1,066.86 | 879 | 12.231 | 71.86 | 0.3593 | |||||||||||||||
45 | deepseek-coder-v2 | 200 | 11.454 | 20.71 | 89 | 1.35 | 65.60 | 527 | 10.005 | 52.67 | 0.2634 | |||||||||||||||
46 | gemma4:e4b | 210 | 10.076 | 1.09 | 75 | 97.09 | 772.46 | 1143 | 13.709 | 83.38 | 0.3970 | |||||||||||||||
47 | qwen3.5 | 210 | 40.888 | 1.26 | 71 | 110.50 | 645.52 | 2249 | 40.766 | 55.17 | 0.2627 | |||||||||||||||
48 | qwen3-vl | 210 | 9.012 | 9.05 | 81 | 73.77 | 1,097.90 | 643 | 8.925 | 72.04 | 0.3430 | |||||||||||||||
49 | deepseek-coder-v2 | 210 | 12.397 | 27.46 | 89 | 1.43 | 62.04 | 568 | 10.862 | 52.29 | 0.2490 | |||||||||||||||
50 | gemma4:e4b | 220 | 10.762 | 1.28 | 75 | 183.57 | 408.55 | 862 | 10.573 | 81.52 | 0.3705 | |||||||||||||||
51 | qwen3.5 | 220 | 28.495 | 1.27 | 71 | 110.62 | 641.83 | 1559 | 28.374 | 59.94 | 0.2725 | |||||||||||||||
52 | qwen3-vl | 220 | 16.108 | 2.27 | 81 | 89.60 | 903.94 | 1149 | 16.012 | 71.75 | 0.3261 | |||||||||||||||
53 | deepseek-coder-v2 | 220 | 9.403 | 10.73 | 90 | 1.25 | 71.64 | 439 | 8.131 | 53.98 | 0.2454 | |||||||||||||||
54 | ||||||||||||||||||||||||||
55 | ||||||||||||||||||||||||||
56 | ||||||||||||||||||||||||||
57 | ||||||||||||||||||||||||||
58 | ||||||||||||||||||||||||||
59 | ||||||||||||||||||||||||||
60 | ||||||||||||||||||||||||||
61 | ||||||||||||||||||||||||||
62 | ||||||||||||||||||||||||||
63 | ||||||||||||||||||||||||||
64 | ||||||||||||||||||||||||||
65 | ||||||||||||||||||||||||||
66 | ||||||||||||||||||||||||||
67 | ||||||||||||||||||||||||||
68 | ||||||||||||||||||||||||||
69 | ||||||||||||||||||||||||||
70 | ||||||||||||||||||||||||||
71 | ||||||||||||||||||||||||||
72 | ||||||||||||||||||||||||||
73 | ||||||||||||||||||||||||||
74 | ||||||||||||||||||||||||||
75 | ||||||||||||||||||||||||||
76 | ||||||||||||||||||||||||||
77 | ||||||||||||||||||||||||||
78 | ||||||||||||||||||||||||||
79 | ||||||||||||||||||||||||||
80 | ||||||||||||||||||||||||||
81 | ||||||||||||||||||||||||||
82 | ||||||||||||||||||||||||||
83 | ||||||||||||||||||||||||||
84 | ||||||||||||||||||||||||||
85 | ||||||||||||||||||||||||||
86 | ||||||||||||||||||||||||||
87 | ||||||||||||||||||||||||||
88 | ||||||||||||||||||||||||||
89 | ||||||||||||||||||||||||||
90 | ||||||||||||||||||||||||||
91 | ||||||||||||||||||||||||||
92 | ||||||||||||||||||||||||||
93 | ||||||||||||||||||||||||||
94 | ||||||||||||||||||||||||||
95 | ||||||||||||||||||||||||||
96 | ||||||||||||||||||||||||||
97 | ||||||||||||||||||||||||||
98 | ||||||||||||||||||||||||||
99 | ||||||||||||||||||||||||||
100 |