A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | Model name | Shape | *NN Latency | **NN FPS | ||||||||||||||||||||||
2 | MobileOne S0 | 224x224 | 11.09 ± 0.01 ms | 165.45 ± 0.22 FPS | ||||||||||||||||||||||
3 | Resnet18 | 224x224 | 19.71 ± 0.01 ms | 94.78 ± 0.25 FPS | ||||||||||||||||||||||
4 | DeepLab V3 | 256 x 256 | 48.12 ± 0.03 ms | 36.53 ± 0.64 FPS | ||||||||||||||||||||||
5 | DeepLab V3 | 513 x 513 | 253.12 ± 0.04 ms | 6.32 ± 0.09 FPS | ||||||||||||||||||||||
6 | YOLOv6n R2 | 416x416 | 29.28 ± 0.02 ms | 65.51 ± 0.06 FPS | *Reported latency or lower (latency includes download of output over USB3), model tested on 8 shaves and 1 network inference thread over 5 iterations | |||||||||||||||||||||
7 | YOLOv6n R2 | 640x640 | 66.42 ± 0.03 ms | 29.30 ± 0.16 FPS | **Reported FPS, model tested on 8 shaves and 2 network inference threads over 5 iterations | |||||||||||||||||||||
8 | YOLOv6t R2 | 416x416 | 54.09 ± 0.05 ms | 35.78 ± 0.06 FPS | ||||||||||||||||||||||
9 | YOLOv6t R2 | 640x640 | 133.60 ± 0.06ms | 14.16 ± 0.04 FPS | ||||||||||||||||||||||
10 | YOLOv6s R2 | 416x416 | 89.95 ± 0.02 ms | 20.63 ± 0.28 FPS | ||||||||||||||||||||||
11 | YOLOv6s R2 | 640x640 | 247.18 ± 0.07 ms | 6.69 ± 0.01 FPS | ||||||||||||||||||||||
12 | YOLOv6m R2 | 416x416 | 190.24 ± 0.07 ms | 8.57 ± 0.03 FPS | ||||||||||||||||||||||
13 | YOLOv6m R2 | 640x640 | 487.37 ± 0.10 ms | 3.40 ± 0.00 FPS | ||||||||||||||||||||||
14 | YOLOv6l R2 | 416x416 | 450.06 ± 0.05 ms | 3.58 ± 0.15 FPS | ||||||||||||||||||||||
15 | YOLOv6l R2 | 640x640 | 1090.63 ± 0.12 ms | 1.45 ± 0.00 FPS | ||||||||||||||||||||||
16 | YOLOv6n R2.1 | 416x416 | 29.27 ± 0.02 ms | 65.82 ± 0.27 FPS | ||||||||||||||||||||||
17 | YOLOv6n R2.1 | 640x640 | 66.40 ± 0.01 ms | 29.25 ± 0.08 FPS | ||||||||||||||||||||||
18 | YOLOv6s R2.1 | 416x416 | 68.62 ± 0.01 ms | 27.51 ± 0.07 FPS | ||||||||||||||||||||||
19 | YOLOv6s R2.1 | 640x640 | 177.50 ± 0.02 ms | 9.54 ± 0.21 FPS | ||||||||||||||||||||||
20 | YOLOv6m R2.1 | 416x416 | 164.47 ± 0.04 ms | 10.25 ± 0.06 FPS | ||||||||||||||||||||||
21 | YOLOv6m R2.1 | 640x640 | 418.89 ± 0.11 ms | 4.19 ± 0.03 FPS | ||||||||||||||||||||||
22 | YOLOv6l R2.1 | 416x416 | 340.72 ± 0.06 ms | 4.67 ± 0.30 FPS | ||||||||||||||||||||||
23 | YOLOv6l R2.1 | 640x640 | 867.46 ± 0.11 ms | 1.78 ± 0.07 FPS | ||||||||||||||||||||||
24 | YOLOv6n R3 | 416x416 | 37.76 ± 0.03 ms | 50.45 ± 0.04 FPS | ||||||||||||||||||||||
25 | YOLOv6n R3 | 640x640 | 82.05 ± 0.01 ms | 23.43 ± 0.04 FPS | ||||||||||||||||||||||
26 | YOLOv6s R3 | 416x416 | 96.00 ± 0.01 ms | 19.50 ± 0.02 FPS | ||||||||||||||||||||||
27 | YOLOv6s R3 | 640x640 | 259.71 ± 0.12 ms | 6.51 ± 0.01 FPS | ||||||||||||||||||||||
28 | YOLOv6m R3 | 416x416 | 201.36 ± 0.04 ms | 7.82 ± 0.04 FPS | ||||||||||||||||||||||
29 | YOLOv6m R3 | 640x640 | 508.29 ± 0.03 ms | 3.27 ± 0.00 FPS | ||||||||||||||||||||||
30 | YOLOv6l R3 | 416x416 | 475.65 ± 0.06 ms | 3.31 ± 0.09 FPS | ||||||||||||||||||||||
31 | YOLOv6l R3 | 640x640 | 1141.58 ± 0.05 ms | 1.38 ± 0.00 FPS | ||||||||||||||||||||||
32 | YOLOv6n R4 | 416x416 | 31.01 ± 0.02 ms | 62.17 ± 0.14 FPS | OpenVino 2022 | |||||||||||||||||||||
33 | YOLOv6s R4 | 416x416 | 90.34 ± 0.02 ms | 20.94 ± 0.10 FPS | OpenVino 2022 | |||||||||||||||||||||
34 | YOLOv6m R4 | 416x416 | 206.45 ± 0.06 ms | 7.33 ± 0.05 FPS | OpenVino 2022 | |||||||||||||||||||||
35 | YOLOv6l R4 | 416x416 | 479.60 ± 0.02 ms | 3.28 ± 0.06 FPS | OpenVino 2022 | |||||||||||||||||||||
36 | YOLOv7t | 416x416 | 37.55 ± 0.06 ms | 46.68 ± 0.48 FPS | ||||||||||||||||||||||
37 | YOLOv7t | 640x640 | 97.03 ± 0.18 ms | 17.80 ± 0.61 FPS | ||||||||||||||||||||||
38 | YOLOv7 | 416x416 | 410.03 ± 0.16 ms | 3.61 ± 0.01 FPS | ||||||||||||||||||||||
39 | YOLOv7 | 640x640 | 1009.25 ± 0.14 ms | 1.43 ± 0.00 FPS | ||||||||||||||||||||||
40 | YOLOv7x | 416x416 | 749.29 ± 0.10 ms | 2.20 ± 0.00 FPS | ||||||||||||||||||||||
41 | YOLOv7x | 640x640 | 1749.53 ± 0.13 ms | 0.57 ± 0.00 FPS | ||||||||||||||||||||||
42 | YOLOv8n | 416x416 | 56.94 ± 0.02 ms | 31.30 ± 0.16 FPS | ||||||||||||||||||||||
43 | YOLOv8n | 640x640 | 123.60 ± 0.03 ms | 14.28 ± 0.04 FPS | ||||||||||||||||||||||
44 | YOLOv8s | 416x416 | 111.87 ± 0.03 ms | 15.17 ± 0.17 FPS | ||||||||||||||||||||||
45 | YOLOv8s | 640x640 | 280.10 ± 0.04 ms | 5.81 ± 0.07 FPS | ||||||||||||||||||||||
46 | YOLOv8m | 416x416 | 273.77 ± 0.05 ms | 5.97 ± 0.02 FPS | ||||||||||||||||||||||
47 | YOLOv8m | 640x640 | 636.13 ± 0.03 ms | 2.71 ± 0.01 FPS | ||||||||||||||||||||||
48 | YOLOv8l | 416x416 | 601.94 ± 0.08 ms | 2.67 ± 0.02 FPS | ||||||||||||||||||||||
49 | YOLOv8l | 640x640 | 1169.15 ± 0.06 ms | 1.28 ± 0.00 FPS | ||||||||||||||||||||||
50 | YOLOv8x | 416x416 | 790.16 ± 0.06 ms | 2.11 ± 0.00 FPS | ||||||||||||||||||||||
51 | YOLOv8x | 640x640 | 2097.45 ± 0.17 ms | 0.68 ± 0.00 FPS | ||||||||||||||||||||||
52 | YOLOv9t | 416x416 | 46.09 ± 0.08 ms | 21.70 ± 0.04 FPS | ||||||||||||||||||||||
53 | YOLOv9t | 640x640 | 93.60 ± 1.40 ms | 10.69 ± 0.16 FPS | ||||||||||||||||||||||
54 | YOLOv9s | 416x416 | 78.49 ± 0.30 ms | 12.74 ± 0.05 FPS | ||||||||||||||||||||||
55 | YOLOv9s | 640x640 | 179.31 ± 0.71 ms | 5.58 ± 0.02 FPS | ||||||||||||||||||||||
56 | YOLOv9m | 416x416 | 212.31 ± 0.39 ms | 4.71 ± 0.01 FPS | ||||||||||||||||||||||
57 | YOLOv9m | 640x640 | 393.13 ± 0.54 ms | 2.54 ± 0.00 FPS | ||||||||||||||||||||||
58 | YOLOv9c | 416x416 | 259.44 ± 0.85 ms | 3.85 ± 0.01 FPS | ||||||||||||||||||||||
59 | YOLOv9c | 640x640 | 553.39 ± 5.78 ms | 1.81 ± 0.02 FPS | ||||||||||||||||||||||
60 | YOLOv10n | 416x416 | 36.95 ± 0.28 ms | 27.07 ± 0.20 FPS | ||||||||||||||||||||||
61 | YOLOv10n | 640x640 | 79.21 ± 0.24 ms | 12.62 ± 0.04 FPS | ||||||||||||||||||||||
62 | YOLOv10s | 416x416 | 71.29 ± 0.19 ms | 14.03 ± 0.04 FPS | ||||||||||||||||||||||
63 | YOLOv10s | 640x640 | 159.72 ± 0.26 ms | 6.26 ± 0.01 FPS | ||||||||||||||||||||||
64 | YOLOv10m | 416x416 | 165.26 ± 0.71 ms | 6.05 ± 0.03 FPS | ||||||||||||||||||||||
65 | YOLOv10m | 640x640 | 350.23 ± 0.30 ms | 2.86 ± 0.00 FPS | ||||||||||||||||||||||
66 | YOLOv10b | 416x416 | 244.92 ± 0.70 ms | 4.08 ± 0.01 FPS | ||||||||||||||||||||||
67 | YOLOv10b | 640x640 | 511.49 ± 0.87 ms | 1.96 ± 0.00 FPS | ||||||||||||||||||||||
68 | YOLOv10l | 416x416 | 313.59 ± 0.26 ms | 3.19 ± 0.00 FPS | ||||||||||||||||||||||
69 | YOLOv10l | 640x640 | 644.12 ± 0.77 ms | 1.55 ± 0.00 FPS | ||||||||||||||||||||||
70 | YOLOv10x | 416x416 | 500.72 ± 0.67 ms | 2.00 ± 0.00 FPS | ||||||||||||||||||||||
71 | YOLOv10x | 640x640 | 1008.96 ± 43.68 ms | 0.99 ± 0.04 FPS | ||||||||||||||||||||||
72 | YOLO11n | 416x416 | 35.61 ± 0.10 ms | 28.08 ± 0.08 FPS | ||||||||||||||||||||||
73 | YOLO11n | 640x640 | 78.11 ± 0.34 ms | 12.80 ± 0.06 FPS | ||||||||||||||||||||||
74 | YOLO11s | 416x416 | 82.14 ± 0.12 ms | 12.17 ± 0.02 FPS | ||||||||||||||||||||||
75 | YOLO11s | 640x640 | 179.27 ± 0.37 ms | 5.58.± 0.01 FPS | ||||||||||||||||||||||
76 | YOLO11m | 416x416 | 256.20 ± 0.30 ms | 3.90 ± 0.00 FPS | ||||||||||||||||||||||
77 | YOLO11m | 640x640 | 428.97 ± 1.79 ms | 2.33 ± 0.01 FPS | ||||||||||||||||||||||
78 | YOLO11l | 416x416 | 310.84 ± 17.83 ms | 3.23 ± 0.19 FPS | ||||||||||||||||||||||
79 | YOLO11l | 640x640 | 539.69 ± 0.14 ms | 1.85 ± 0.00 FPS | ||||||||||||||||||||||
80 | YOLO11x | 416x416 | 545.43 ± 0.17 ms | 1.83 ± 0.00 FPS | ||||||||||||||||||||||
81 | YOLO11x | 640x640 | 1252.29 ± 48.61 ms | 0.80 ± 0.03 FPS | ||||||||||||||||||||||
82 | ResNet-50 | 224 x 224 | 56.47 ± 0.05 ms | 26.44 ± 0.10 FPS | ||||||||||||||||||||||
83 | ||||||||||||||||||||||||||
84 | ||||||||||||||||||||||||||
85 | ||||||||||||||||||||||||||
86 | ||||||||||||||||||||||||||
87 | ||||||||||||||||||||||||||
88 | ||||||||||||||||||||||||||
89 | ||||||||||||||||||||||||||
90 | ||||||||||||||||||||||||||
91 | ||||||||||||||||||||||||||
92 | ||||||||||||||||||||||||||
93 | ||||||||||||||||||||||||||
94 | ||||||||||||||||||||||||||
95 | ||||||||||||||||||||||||||
96 | ||||||||||||||||||||||||||
97 | ||||||||||||||||||||||||||
98 | ||||||||||||||||||||||||||
99 | ||||||||||||||||||||||||||
100 |