| A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | AA | AB | AC | AD | AE | AF | AG | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | Tree layers | ||||||||||||||||||||||||||||||||
2 | AGI by 2070 | Intense competition | Fast take-off | Unipolar | Misaligned AI | Loss of control | Unrecoverable | ||||||||||||||||||||||||||
3 | Mild competition | Slow take-off | Multipolar | Aligned AI | Non loss of control | Recoverable | |||||||||||||||||||||||||||
4 | |||||||||||||||||||||||||||||||||
5 | Loss of control | Non loss of control | How probability mass of all AI related catastrophes splits up into recoverability | p(unrecoverability coming from loss of control) | |||||||||||||||||||||||||||||
6 | Unrecoverable | 21.91% | 23.27% | 45.18% | 49% | ||||||||||||||||||||||||||||
7 | Recoverable | 12.81% | 42.01% | 54.82% | 23% | ||||||||||||||||||||||||||||
8 | All catastrophes | 34.72% | 65.28% | 100.00% | |||||||||||||||||||||||||||||
9 | |||||||||||||||||||||||||||||||||
10 | 26% | p(AGI catastrophe | AGI by 2070) | |||||||||||||||||||||||||||||||
11 | |||||||||||||||||||||||||||||||||
12 | Loss of control | Non loss of control | How probability mass of all AI related catastrophes splits up into recoverability | ||||||||||||||||||||||||||||||
13 | Unrecoverable | 5.7% | 6.0% | 11.7% | |||||||||||||||||||||||||||||
14 | Recoverable | 3.3% | 10.9% | 14.3% | |||||||||||||||||||||||||||||
15 | All catastrophes | 9.0% | 17.0% | 26.0% | |||||||||||||||||||||||||||||
16 | |||||||||||||||||||||||||||||||||
17 | |||||||||||||||||||||||||||||||||
18 | Fast | 80% | Unipolar | 215% | Aligned | 285% | 0.35625 | ||||||||||||||||||||||||||
19 | Slow | Multipolar | Misaligned | 515% | 0.64375 | ||||||||||||||||||||||||||||
20 | |||||||||||||||||||||||||||||||||
21 | |||||||||||||||||||||||||||||||||
22 | |||||||||||||||||||||||||||||||||
23 | If catastrophe happens, what caused it? | Is the catastrophe recoverable? | Scenario-weighted probabilities of catastrophe recoverability | ||||||||||||||||||||||||||||||
24 | Loss of control | Loss of control | Non loss of control | Non loss of control | Loss of control | Loss of control | Non loss of control | Non loss of control | |||||||||||||||||||||||||
25 | Overall p() | Loss of control | Non loss of control | Unrecoverable | Recoverable | Unrecoverable | Recoverable | Unrecoverable | Recoverable | Unrecoverable | Recoverable | ||||||||||||||||||||||
26 | Misaligned AI | 70% | → | 13% | 65% | 35% | 75% | 25% | 55% | 45% | 6% | 2% | 2% | 2% | |||||||||||||||||||
27 | Unipolar | 60% | |||||||||||||||||||||||||||||||
28 | Aligned AI | 30% | → | 5% | 15% | 85% | 20% | 80% | 35% | 65% | 0% | 1% | 2% | 3% | |||||||||||||||||||
29 | Fast take-off | 50% | |||||||||||||||||||||||||||||||
30 | Misaligned AI | 80% | → | 10% | 70% | 30% | 80% | 20% | 55% | 45% | 5% | 1% | 2% | 1% | |||||||||||||||||||
31 | Multipolar | 40% | |||||||||||||||||||||||||||||||
32 | Aligned AI | 20% | → | 2% | 17% | 83% | 25% | 75% | 35% | 65% | 0% | 0% | 1% | 1% | |||||||||||||||||||
33 | Intense competition | 60% | |||||||||||||||||||||||||||||||
34 | Misaligned AI | 60% | → | 5% | 40% | 60% | 55% | 45% | 45% | 55% | 1% | 1% | 1% | 2% | |||||||||||||||||||
35 | Unipolar | 30% | |||||||||||||||||||||||||||||||
36 | Aligned AI | 40% | → | 4% | 5% | 95% | 10% | 90% | 25% | 75% | 0% | 0% | 1% | 3% | |||||||||||||||||||
37 | Slow take-off | 50% | |||||||||||||||||||||||||||||||
38 | Misaligned AI | 65% | → | 14% | 45% | 55% | 60% | 40% | 45% | 55% | 4% | 2% | 3% | 4% | |||||||||||||||||||
39 | Multipolar | 70% | |||||||||||||||||||||||||||||||
40 | Aligned AI | 35% | → | 7% | 7% | 93% | 15% | 85% | 25% | 75% | 0% | 0% | 2% | 5% | |||||||||||||||||||
41 | |||||||||||||||||||||||||||||||||
42 | Misaligned AI | 65% | → | 6% | 50% | 50% | 65% | 35% | 50% | 50% | 2% | 1% | 1% | 1% | |||||||||||||||||||
43 | Unipolar | 75% | |||||||||||||||||||||||||||||||
44 | Aligned AI | 35% | → | 3% | 10% | 90% | 15% | 85% | 30% | 70% | 0% | 0% | 1% | 2% | |||||||||||||||||||
45 | Fast take-off | 30% | |||||||||||||||||||||||||||||||
46 | Misaligned AI | 70% | → | 2% | 60% | 40% | 70% | 30% | 50% | 50% | 1% | 0% | 0% | 0% | |||||||||||||||||||
47 | Multipolar | 25% | |||||||||||||||||||||||||||||||
48 | Aligned AI | 30% | → | 1% | 12% | 88% | 20% | 80% | 30% | 70% | 0% | 0% | 0% | 1% | |||||||||||||||||||
49 | Mild competition | 40% | |||||||||||||||||||||||||||||||
50 | Misaligned AI | 50% | → | 7% | 30% | 70% | 45% | 55% | 40% | 60% | 1% | 1% | 2% | 3% | |||||||||||||||||||
51 | Unipolar | 50% | |||||||||||||||||||||||||||||||
52 | Aligned AI | 50% | → | 7% | 1% | 99% | 5% | 95% | 20% | 80% | 0% | 0% | 1% | 6% | |||||||||||||||||||
53 | Slow take-off | 70% | |||||||||||||||||||||||||||||||
54 | Misaligned AI | 55% | → | 8% | 35% | 65% | 50% | 50% | 40% | 60% | 1% | 1% | 2% | 3% | |||||||||||||||||||
55 | Multipolar | 50% | |||||||||||||||||||||||||||||||
56 | Aligned AI | 45% | → | 6% | 2% | 98% | 10% | 90% | 20% | 80% | 0% | 0% | 1% | 5% | |||||||||||||||||||
57 | |||||||||||||||||||||||||||||||||
58 | 100% | 464% | 1136% | 620.00% | 980.00% | 600.00% | 1000.00% | 21.91% | 12.81% | 23.27% | 42.01% | ||||||||||||||||||||||
59 | 29% | 71% | 1600.00% | 1600.00% | 34.72% | 65.28% | |||||||||||||||||||||||||||
60 | 19.38% | 30.63% | 18.75% | 31.25% | |||||||||||||||||||||||||||||
61 | 50.00% | 50.00% | |||||||||||||||||||||||||||||||
62 | |||||||||||||||||||||||||||||||||
63 | |||||||||||||||||||||||||||||||||
64 | |||||||||||||||||||||||||||||||||
65 | |||||||||||||||||||||||||||||||||
66 | |||||||||||||||||||||||||||||||||
67 | |||||||||||||||||||||||||||||||||
68 | |||||||||||||||||||||||||||||||||
69 | |||||||||||||||||||||||||||||||||
70 | |||||||||||||||||||||||||||||||||
71 | |||||||||||||||||||||||||||||||||
72 | |||||||||||||||||||||||||||||||||
73 | |||||||||||||||||||||||||||||||||
74 | |||||||||||||||||||||||||||||||||
75 | |||||||||||||||||||||||||||||||||
76 | |||||||||||||||||||||||||||||||||
77 | |||||||||||||||||||||||||||||||||
78 | |||||||||||||||||||||||||||||||||
79 | |||||||||||||||||||||||||||||||||
80 | |||||||||||||||||||||||||||||||||
81 | |||||||||||||||||||||||||||||||||
82 | |||||||||||||||||||||||||||||||||
83 | |||||||||||||||||||||||||||||||||
84 | |||||||||||||||||||||||||||||||||
85 | |||||||||||||||||||||||||||||||||
86 | |||||||||||||||||||||||||||||||||
87 | |||||||||||||||||||||||||||||||||
88 | |||||||||||||||||||||||||||||||||
89 | |||||||||||||||||||||||||||||||||
90 | |||||||||||||||||||||||||||||||||
91 | |||||||||||||||||||||||||||||||||
92 | |||||||||||||||||||||||||||||||||
93 | |||||||||||||||||||||||||||||||||
94 | |||||||||||||||||||||||||||||||||
95 | |||||||||||||||||||||||||||||||||
96 | |||||||||||||||||||||||||||||||||
97 | |||||||||||||||||||||||||||||||||
98 | |||||||||||||||||||||||||||||||||
99 | |||||||||||||||||||||||||||||||||
100 |