Revenge on the Nerds

Als we niet oppassen, wordt onze toekomst alleen bepaald door tech-nerds. Die hebben briljante geesten als het gaat om het ontwerpen en bouwen van dingen, maar vaak nauwelijks verstand van de impact die hun technologie heeft.

Het boek The AI Mirror van Shannon Vallor gaat over de impact die AI heeft op de mens en onze samenleving. Vallor is kritisch op de ontwikkelaars van AI, maar vooral op de vragen die we onszelf als maatschappij niet stellen. Vallor is een professor van Ethiek van Data en Kunstmatige Intelligentie aan het Edinburgh Futures Institute van de Universiteit van Edinburgh. En hoewel het boek niet heel makkelijk leest, zijn de conclusies erg goed om over na te denken.

De ‘AI-kan-ons-allemaal-vernietigen’-mythe

Zij zegt: de kans dat een AI-systeem ‘rogue’ gaat—bijvoorbeeld alle kernwapens hackt en de mensheid vernietigt—is veel meer een verhaal dat is ingegeven door culturele bagage dan door echte feiten.

Al in 1872, op het hoogtepunt van de industriële revolutie, verscheen het boek Erewhon van Samuel Butler. Dat gaat over een land waar robots, aangedreven door stoom, een ander evolutionair pad volgen en uiteindelijk krachtige vervangers van de mensheid worden. Uiteindelijk worden ze agressief tegenover de biologische menselijke familie. Terminator, anyone? (Dit boek kwam dus 112 jaar eerder uit.)

Wat Vallor hiermee wil zeggen: het komt door onze eigen neiging als mensen om alles te willen veroveren, dat we bang zijn dat een ‘intelligent’ systeem ons wil veroveren. Het is een spiegel van onszelf.

AI is niet intelligent

AI is een spiegel, zegt Vallor. Een spiegel van alles wat wij als mensheid hebben meegemaakt. Het laat ons zien welke conclusies we in het verleden trokken en wat we daarna hebben gedaan.

Als je een dier voor een spiegel zet, merk je meteen dat het dier dat niet doorheeft. Omdat de reflectie zo levensecht is, gaat het beest—vaak—de aanval in tegen z’n eigen spiegelbeeld. Zo werkt AI ook voor mensen. Het voelt zo echt dat we er allerlei waarden aan gaan hangen, alsof er echt een nieuw persoon is ontstaan.

Maar zeg nou eerlijk: als je jezelf in de spiegel ziet, betekent dat dan dat er opeens twee van jou zijn? Tuurlijk niet. Het is een spiegel. En zo moet je AI ook zien.

Morele gymnastiek: use it or lose it

En toch is er een kans dat de mensheid ten onder gaat aan AI—maar niet door de rogue-AI-theorie die door de makers wordt aangehangen. Overigens, volgens Vallor wordt die theorie vooral aangehangen om nog meer overheids- en investeerdersgeld op te halen.

Nee, AI is een bedreiging voor de mensheid omdat we het verkeerd gaan gebruiken. Uitgelegd in 3 punten:

De concentratie van macht. Stel: veel werk dat wij nu nog doen, wordt overgenomen door machines. Met andere woorden, nuttige kennis—nu vaak nog opgesloten in de breinen van mensen—wordt ‘bevrijd’. Dat berooft veel mensen niet alleen van de mogelijkheid om een hoger inkomen te vergaren, maar ook van de mogelijkheid om een stem te hebben in besluitvorming. Macht wordt steeds meer geconcentreerd bij een paar individuen die eigenaar zijn van de AI.

Herhaling van het verleden. De neiging van ons mensen is al snel om AI te geloven. AI kan zo goed bullshitten (beter woord dan hallucineren) dat we de neiging hebben om het kritiekloos over te nemen.

Maar dan slepen we dus alle verkeerde aannames en fouten die we in het verleden hebben gemaakt, mee de toekomst in. Bijvoorbeeld: de toeslagenaffaire in Nederland wordt expliciet in het boek genoemd. Maar ook CV-selectie-AI’s, waarbij vrouwen die bij een schaakclub zaten meteen werden gedowngraded. Of AI’s die vaccins toekenden, waarbij senioren die nauwelijks met COVID-patiënten werkten wél het vaccin kregen, en junioren die wél met deze groep werkten níét.

De echte bedreiging: we stoppen met denken

En dát is volgens Vallor de echte dreiging: we stoppen met denken. Stel: je kunt op twee manieren de top van een berg bereiken:

1. Je loopt erheen, ploetert voort, valt bijna, neemt het uitzicht in je op, en bereikt na drie dagen de top.

2. Je wordt met een reuzenkatapult in een paar seconden naar de top geschoten.

Wie kent de berg beter? Wie heeft een beter overzicht? Wie kan betere beslissingen nemen? Natuurlijk is dat in situatie 1.

Toch kiezen we, onder druk van AI, steeds meer voor optie 2. Ons economische systeem beloont mensen die geen writer’s block hebben, die direct met een ‘creatieve’ oplossing komen, die instant een schijnbaar goede analyse klaar hebben.

Maar nemen we onszelf daarmee niet de mogelijkheid af om morele beslissingen te nemen? Om door denken en praten met anderen tot een afweging te komen?

Een AI voor een betere wereld bouwen

En dus is dit de oproep van Vallor: ga AI beter gebruiken!

Nu is AI vooral een herhaling van het verleden, van de status quo. Met een focus op efficiëntie (lees: nu nog minder mensen aan het werk). Terwijl AI juist zou moeten focussen op het versterken van onze menselijke capaciteiten—zoals moreel oordeel, empathie en solidariteit.

AI zou ons niet meteen de oplossing moeten geven, maar ons juist moeten helpen met denken. Bijvoorbeeld bij het oplossen van complexe problemen zoals klimaatverandering en gezondheidszorg voor iedereen, zonder nieuwe vormen van ongelijkheid te creëren.

AI zou moeten worden gebruikt om een wereld te creëren waarin iedereen kan floreren.

En dat kan je niet alleen aan de tech-bro’s overlaten.