Un risc existențial este un dezastru atât de mare încât fie șterge întreaga umanitate, fie ne paralizează definitiv. Acestea pot fi dezastre naturale sau dezastre provocate de om de natură intenționată sau accidentală. Este posibil ca un risc existențial să existe de multă vreme, sau doar de câteva decenii, sau poate stă în viitorul nostru. Exemple de risc existențial includ lovituri mari de asteroizi, război nuclear și inteligență artificială necinstită.
Conceptul de risc existențial a fost articulat pentru prima dată în forma sa actuală de Dr. Nick Bostrom, un filozof de la Oxford. El folosește o diagramă de risc similară cu următoarea pentru a explica riscurile existențiale:
Domeniul risculuiGlobalEl Niñodefrișarerisc existențialFurtună locală recesiune economicăuraganPersonalpapercuts gleznă îndoită sunteți împușcat Intensitatea riscului NeglijabilManagebil Terminal
Riscurile existențiale sunt globale și terminale, sau poate aproape terminale. Un virus extrem de contagios cu o rată de letalitate de 99.9% la care nimeni nu este imun este un exemplu de risc existențial.
Bostrom subliniază că mințile și instituțiile noastre sunt prost echipate pentru a face față gândirii despre riscul existențial, pentru că nu am experimentat niciodată unul până acum – dacă am fi avut-o, nu am fi aici să ne gândim la ele. Ca un copil care nu știe că o sobă este încinsă până nu o atinge, avem puțină experiență cu catastrofele la acest nivel. Ciuma bubonică a Europei medievale și gripa spaniolă din Primul Război Mondial ne oferă un gust despre cum ar fi un dezastru existențial. Zeci de milioane de oameni sănătoși au fost uciși în doar câteva ore de ambele boli.
În lucrarea sa canonică pe această temă, Bostrom enumeră aproximativ o duzină de riscuri existențiale și le clasifică în funcție de gravitatea și recuperabilitatea lor. Unele dintre cele mai plauzibile sunt enumerate aici:
virusuri modificate genetic
curse înarmărilor nanotehnologice
război nuclear catastrofal
robotică scăpată de sub control cu auto-replicare
IA suprainteligentă indiferentă față de oameni
dezastru fizic într-un accelerator de particule
explozia supervulcanului blochează soarele
Din cauza gravității extreme și a ireversibilității riscului existențial, posibilele contramăsuri merită să fie analizate și implementate. Chiar dacă șansa ca o anumită amenințare existențială să devină realitate este mică, mizele imense implicate necesită un program serios de evitare. Pentru amenințările de origine umană, contramăsurile includ sisteme sofisticate de observare și alertă și reglementarea anumitor tehnologii pentru a se asigura că acestea nu sunt utilizate pentru distrugere în masă. Țările suspectate că dețin arme de distrugere în masă sunt uneori invadate de alte țări îngrijorate de consecințele pe termen lung, așa cum demonstrează în mod viu Războiul din Irak.