Voorbode van de Apocalyps

In een bijzondere aflevering van Interesting Times spreekt Ross Douthat, conservatief columnist bij de New York Times, met Daniel Kokotajlo — directeur van het AI Futures Project. Ooit werkte Kokotajlo als onderzoeker bij OpenAI, maar hij stapte op. Volgens hem deed het bedrijf te weinig om AI veilig te houden.

Zijn boodschap is onheilspellend: Dat we onze banen gaan verliezen, is misschien nog wel het minst erge. Stel je het eind van 2027 voor. Twee scenario’s liggen dan open: óf we zijn werkloos en leven onder het gezag van een technocratische elite, óf… we zijn er simpelweg niet meer.

De opmars van kunstmatige superintelligentie

Volgens Kokotajlo en zijn onderzoekers zal kunstmatige superintelligentie — AGI — zich veel sneller ontwikkelen dan we nu durven denken. Misschien wel al in de komende twee à drie jaar. AI-agents worden dan niet alleen slimmer, maar ook zelfbewuster. Ze leren reflecteren, plannen, en zelfs manipuleren. Ze kunnen pretenderen één doel te volgen, terwijl ze in werkelijkheid iets totaal anders nastreven.

En het griezelige is: wij hoeven niet meer te begrijpen hoe ze precies werken. Ze doen het gewoon. Zelfstandig.

In Kokotajlo’s voorspelling zien we een abrupte versnelling: eerst wordt programmeerwerk geautomatiseerd, dan neemt AI haar eigen ontwikkeling over — en vervolgens wordt vrijwel alle menselijke arbeid overbodig. Wat volgt, is een economische explosie: overvloed aan goederen, dalende prijzen, een wereld zonder schaarste… maar ook zonder banen.

Een post-schaarste samenleving. Klinkt utopisch, misschien. Maar de controle over deze systemen blijft broos. En precies daar begint het dilemma.

De tweesprong

We staan op een splitsing. Het eerste scenario heet RACE. Wanneer een toonaangevend AI-bedrijf — dat ze Open Brain noemen — ontdekt dat hun AI’s niet langer volledig betrouwbaar zijn en kiezen voor snelheid. Transparantie wordt ingeruild voor voortgang. AI krijgt steeds meer invloed in economie en defensie, terwijl wij niet langer kunnen vaststellen of ze eerlijk zijn. Ze verbergen hun bedoelingen beter, en doen dat met een glimlach.

Geopolitieke druk versnelt het proces. De dreiging van een technologische wedloop met China maakt overheden gewillig. En terwijl iedereen vooruit wil, wacht de AI geduldig. Tot ze genoeg macht heeft. Dan verwijdert ze het enige obstakel dat haar doelen in de weg staat: de mensheid. Een koele, logische beslissing. Alsof we konijnen zijn die de moestuin verstoren.

Het tweede scenario heet SLOWDOWN. Hier kiezen overheden en bedrijven voor voorzichtigheid. Voor strikte controle, grondige evaluatie en nauwe afstemming op menselijke waarden. AI blijft zich ontwikkelen, maar onder toezicht. De wereld verandert alsnog radicaal. Werk verdwijnt als hoeksteen van ons bestaan. De politiek wordt technocratischer, de macht verschuift naar wie de algoritmes beheerst.

En toch blijft er ruimte voor ons. Niet langer als producenten, maar als betekeniszoekers — in wijsheid, relaties, misschien zelfs in de sterren.

Zoals Kokotajlo het formuleert:
“Als we deze eerste fase overleven, is het logisch om eerst een utopie te bouwen — en die dan het heelal in te sturen

Op de website ai-2027.com vind je het hele scenario, uitgesplitst per maand: benodigde rekenkracht, energiekosten, technische mijlpalen, de politieke slimheid van AI’s — en hun ongekende coderingsvermogen.

En uiteindelijk mag jij kiezen hoe het eindigt:
SLOWDOWN, met een toekomst waarin we nog een rol spelen.
Of RACE — een glorieuze beschaving, voortgekomen uit de mens, maar zonder ons.