A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | AA | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | Performance Comparisons (TF 2.0 on DGX Station) | ||||||||||||||||||||||||||
2 | Task | GPUs | AMP/XLA | Val Acc (Avg) | Time-to-result | Peak Throughput | E2E Speed-up | Throughput Speed-up | |||||||||||||||||||
3 | CoLA | 1 x V100 16GB | 0.824 | 451 | 59 | 1.0 | 1.0 | ||||||||||||||||||||
4 | CoLA | 1 x V100 16GB | AMP | 0.820 | 284 | 98 | 1.6 | 1.7 | |||||||||||||||||||
5 | CoLA | 1 x V100 16GB | AMP+XLA | 0.823 | 234 | 157 | 1.9 | 2.7 | |||||||||||||||||||
6 | CoLA | 4 x V100 16GB | 0.812 | 207 | 218 | 2.2 | 3.7 | ||||||||||||||||||||
7 | CoLA | 4 x V100 16GB | AMP | 0.828 | 184 | 365 | 2.5 | 6.2 | |||||||||||||||||||
8 | CoLA | 4 x V100 16GB | AMP+XLA | 0.828 | 251 | 505 | 1.8 | 8.6 | |||||||||||||||||||
9 | MRPC | 1 x V100 16GB | 0.835 | 204 | 58 | 1.0 | 1.0 | ||||||||||||||||||||
10 | MRPC | 1 x V100 16GB | AMP | 0.823 | 134 | 97 | 1.5 | 1.7 | |||||||||||||||||||
11 | MRPC | 1 x V100 16GB | AMP+XLA | 0.827 | 141 | 158 | 1.4 | 2.7 | |||||||||||||||||||
12 | MRPC | 4 x V100 16GB | 0.827 | 150 | 218 | 1.4 | 3.8 | ||||||||||||||||||||
13 | MRPC | 4 x V100 16GB | AMP | 0.817 | 143 | 365 | 1.4 | 6.3 | |||||||||||||||||||
14 | MRPC | 4 x V100 16GB | AMP+XLA | 0.818 | 222 | 529 | 0.9 | 9.1 | |||||||||||||||||||
15 | SST2 | 1 x V100 16GB | 0.922 | 3436 | 59 | 1.0 | 1.0 | ||||||||||||||||||||
16 | SST2 | 1 x V100 16GB | AMP | 0.918 | 2088 | 97 | 1.6 | 1.6 | |||||||||||||||||||
17 | SST2 | 1 x V100 16GB | AMP+XLA | 0.922 | 1352 | 158 | 2.5 | 2.7 | |||||||||||||||||||
18 | SST2 | 4 x V100 16GB | 0.929 | 1025 | 216 | 3.4 | 3.7 | ||||||||||||||||||||
19 | SST2 | 4 x V100 16GB | AMP | 0.926 | 672 | 364 | 5.1 | 6.2 | |||||||||||||||||||
20 | SST2 | 4 x V100 16GB | AMP+XLA | 0.925 | 601 | 508 | 5.7 | 8.6 | |||||||||||||||||||
21 | |||||||||||||||||||||||||||
22 | |||||||||||||||||||||||||||
23 | |||||||||||||||||||||||||||
24 | |||||||||||||||||||||||||||
25 | |||||||||||||||||||||||||||
26 | |||||||||||||||||||||||||||
27 | |||||||||||||||||||||||||||
28 | |||||||||||||||||||||||||||
29 | |||||||||||||||||||||||||||
30 | |||||||||||||||||||||||||||
31 | |||||||||||||||||||||||||||
32 | |||||||||||||||||||||||||||
33 | |||||||||||||||||||||||||||
34 | |||||||||||||||||||||||||||
35 | |||||||||||||||||||||||||||
36 | |||||||||||||||||||||||||||
37 | |||||||||||||||||||||||||||
38 | |||||||||||||||||||||||||||
39 | |||||||||||||||||||||||||||
40 | |||||||||||||||||||||||||||
41 | |||||||||||||||||||||||||||
42 | |||||||||||||||||||||||||||
43 | |||||||||||||||||||||||||||
44 | |||||||||||||||||||||||||||
45 | |||||||||||||||||||||||||||
46 | |||||||||||||||||||||||||||
47 | |||||||||||||||||||||||||||
48 | |||||||||||||||||||||||||||
49 | |||||||||||||||||||||||||||
50 | |||||||||||||||||||||||||||
51 | |||||||||||||||||||||||||||
52 | |||||||||||||||||||||||||||
53 | |||||||||||||||||||||||||||
54 | |||||||||||||||||||||||||||
55 | |||||||||||||||||||||||||||
56 | |||||||||||||||||||||||||||
57 | |||||||||||||||||||||||||||
58 | |||||||||||||||||||||||||||
59 | |||||||||||||||||||||||||||
60 | |||||||||||||||||||||||||||
61 | |||||||||||||||||||||||||||
62 | |||||||||||||||||||||||||||
63 | |||||||||||||||||||||||||||
64 | |||||||||||||||||||||||||||
65 | |||||||||||||||||||||||||||
66 | |||||||||||||||||||||||||||
67 | |||||||||||||||||||||||||||
68 | |||||||||||||||||||||||||||
69 | |||||||||||||||||||||||||||
70 | |||||||||||||||||||||||||||
71 | |||||||||||||||||||||||||||
72 | |||||||||||||||||||||||||||
73 | |||||||||||||||||||||||||||
74 | |||||||||||||||||||||||||||
75 | |||||||||||||||||||||||||||
76 | |||||||||||||||||||||||||||
77 | |||||||||||||||||||||||||||
78 | |||||||||||||||||||||||||||
79 | |||||||||||||||||||||||||||
80 | |||||||||||||||||||||||||||
81 | |||||||||||||||||||||||||||
82 | |||||||||||||||||||||||||||
83 | |||||||||||||||||||||||||||
84 | |||||||||||||||||||||||||||
85 | |||||||||||||||||||||||||||
86 | |||||||||||||||||||||||||||
87 | |||||||||||||||||||||||||||
88 | |||||||||||||||||||||||||||
89 | |||||||||||||||||||||||||||
90 | |||||||||||||||||||||||||||
91 | |||||||||||||||||||||||||||
92 | |||||||||||||||||||||||||||
93 | |||||||||||||||||||||||||||
94 | |||||||||||||||||||||||||||
95 | |||||||||||||||||||||||||||
96 | |||||||||||||||||||||||||||
97 | |||||||||||||||||||||||||||
98 | |||||||||||||||||||||||||||
99 | |||||||||||||||||||||||||||
100 |