Betere toekomsten

Stel dat de mensheid deze eeuw doorkomt. Daarmee is nog niets gezegd over de vraag of wat daarna komt goed is.

Waar gaat dit over?

Er zijn veel toekomsten mogelijk waarin we blijven bestaan. Sommige zijn veel beter dan andere. Dit probleemgebied gaat over de vraag hoe goed de verre toekomst wordt, als we blijven bestaan. Er kan dan nog van alles misgaan. Zeggenschap over zeer krachtige technologie kan bij heel weinig mensen terechtkomen. Waarden die we nu toevallig hebben, kunnen onomkeerbaar worden vastgelegd door techniek die correctie achteraf moeilijk maakt. En er kunnen enorme aantallen wezens ontstaan of blijven bestaan wier belangen voor niemand meetellen.

Deze redenering komt uit de essayreeks Better Futures* van Forethought, een Brits onderzoeksinstituut. Deze pagina vat in een paar honderd woorden een betoog van duizenden woorden samen. Lees het origineel als je wilt beoordelen of het klopt.

Niet hetzelfde als overleven

Dit vacaturebord heeft een apart probleemgebied over Global Catastrophic Risk (GCR): pandemieën, kernwapens, ongelukken met krachtige technologie. Dat gaat over de vraag of we het halen. Dit probleemgebied gaat over de vraag of de wereld die daarna overblijft iets waard is. Een wereld die de eeuw doorkomt en vervolgens permanent vastzit onder een regime dat niemand meer omver kan werpen, is geen ramp in de gebruikelijke zin. Er komen niet massaal mensen om. Toch is er iets groots verloren.

Waarom staat dit hier?

Twee dingen pleiten ervoor, één ertegen.

De belangrijkheid. Stel dat we deze eeuw doorkomen. Dan valt de grootste winst niet te halen bij het overleven zelf, maar bij de vraag hoe goed de wereld daarna is.

De verwaarlozing. Mensen maken zich van nature zorgen over directe rampen die hen zelf en hun naasten kunnen treffen. Weinig mensen werken aan de vraag hoe de wereld eruitziet als we het halen — ook binnen effectief altruïsme (EA).

Daartegenover staat de oplosbaarheid. Het is onduidelijk wat je nu concreet kunt doen. Dat is het sterkste bezwaar, en de auteurs erkennen het zelf.

Wat valt eronder?

• AI-beleid en machtsverhoudingen — de regels en instituties die bepalen wie zeggenschap heeft over geavanceerde AI, en hoe je voorkomt dat die zeggenschap bij één partij belandt.
• Democratische instituties — of tegenmacht, rechtsstaat en maatschappelijk toezicht bestand zijn tegen technologie die surveillance en beïnvloeding goedkoop maakt.
• Uitbreiding van je morele cirkel — wiens belangen meetellen. Nu al dieren; mogelijk ooit digitale systemen met een eigen ervaring.
• Ruimtevaartrecht en zeggenschap in de ruimte — wie aanspraak mag maken op grondstoffen buiten de aarde. Het huidige verdragsrecht is daar vaag over.

Wat voor werk is dit in Nederland?

Weinig van dit werk heet zo. Je vindt het bij een ministerie dat zich met AI-beleid of digitalisering bezighoudt, bij een toezichthouder op algoritmes of gegevensbescherming, en bij een onafhankelijk kennisinstituut dat regering en parlement adviseert over technologie. Verder gaat het om universitaire groepen in ruimterecht, technologiefilosofie of staatsrecht, om organisaties die procederen over digitale grondrechten, en om vermogensfondsen die kiezen welk onderzoek geld krijgt.

We beweren niet dat elke baan bij zo'n werkgever bijdraagt. De vacatures hier zijn geselecteerd, niet doorgelicht.