Existential risk and the future of humanity, luidt de ondertitel. Geen kleinigheid dus, dit boek. De helft van het boek bestaat uit voetnoten en bijlages – het is duidelijk dat de auteur aan Oxford filosofie doceert. En dat maakt het The Precipice juist goed; het boek zit bomvol interessante feiten die ook nog goed onderbouwd (en doorgerekend) worden. Laten we Ord daarvoor prijzen: er zijn al genoeg feitenvrije meningen over…alles.

Toby Ord zet de risico’s dat wij uitsterven – dat de mens geheel wordt uitgeroeid – op een rij. Welke gebeurtenis gaat ons de genadeklap geven? Er zijn drie soorten existentiële risico’s: natuurlijke risico’s, mens-gemaakte risico’s en toekomstige risico’s (met name AI). Het lot van de dinosauriërs zal ons niet treffen; we hebben alle kometen in het snotje, en degene die op de aarde zouden kunnen storten zijn niet groot genoeg om ons existentieel te bedreigen. Wel zouden er in dat geval miljoenen doden kunnen vallen, maar als soort overleven we het.
Gevaarlijker zijn uitbarstingen van supervulkanen die een aslaag over de aarde kunnen leggen en ons zo letterlijk laten stikken. Van de risico’s van eigen makelij springen klimaatverandering, vernietiging van de natuur en nucleaire wapens eruit. Hoewel rekenkundig waarschijnlijk geen existentieel risico, schat Toby Ord de risico’s van elk van deze drie apart hoger in dan die van de natuurlijke risico’s bij elkaar.

Nog groter gevaar lopen we als het technologisch mogelijk wordt dat mensen pandemieën over de aarde laten gaan: – bioterrorisme dus. Een degelijke aanval zal ons doen terugverlangen naar de huidige coronaperikelen. Echter, de grootste bedreiging voor het menselijk potentieel komt voor rekening van ongecontroleerde AI: 1 op 10 kans dat slimme intelligentie, gone rogue, onze ondergang wordt.

Alles wikkend en wegend schat Toby Ord de kans dat we in de komenden 100 jaar uitsterven op 1 op 6. Extreem hoog, naar mijn mening. Alsof we Russisch roulette spelen met onze toekomst. Maar dus ook 5/6 kans dat dit niet gebeurt! Willen we onze menselijke potentie niet in de knop laten breken dan zullen we wel met man en macht de schouders eronder moeten zetten. Het mag niet een academische exercitie blijven – overleven doe je met zijn allen.

En dat terwijl we pas aan het begin staan: wij mensen zijn nog maar 200.000 jaar bezig. We hebben misschien nog wel 9.800.000 jaar te gaan. We gaan nog zoveel spannends meemaken. Een kans die we niet mogen laten lopen. Omdat er zoveel waardevols in het verschiet ligt. En omdat we niet mogen beslissen over toekomstige generaties. Immers, waarom zou een leven nu, meer waard zijn dan een leven over 2 miljoen jaar? Wij zijn het aan ons (verre) nageslacht verplicht om niet uit te sterven.

Toch is dit ook de achilleshiel van het betoog: want waarom is het – in absolute zin – erg als we uitsterven? De aarde zal ons dankbaar zijn: ze krijgt dan even een adempauze. En de ongeboren generaties kunnen niet treuren om het feit dat ze niet geboren zullen worden.

Een filosofische vraag wellicht, maar wel een die de filosoof Ord iets beter had mogen beantwoorden.

Podcast van 80.000 hours

Boekhandel