Dit opinieartikel is gepubliceerd in dagblad Trouw op 6 mei 2022 (link).
Getuige de wereldwijde reacties is het niemand ontgaan dat techmiljardair Elon Musk recent Twitter heeft gekocht. Daardoor heeft Musk voortaan onwaarschijnlijk veel invloed op het maatschappelijke debat en de regels daaromtrent. Zelf zegt hij de nieuw verworven macht te zullen gebruiken om de vrijheid van meningsuiting te verdedigen, maar dat één man die macht überhaupt heeft, is zeer onwenselijk.
Maar Musks macht over onze toekomst beperkt zich niet tot Twitter. In de komende eeuw gaan we elektrisch rijden, bijvoorbeeld in een Tesla van Elon. We gaan grootschaliger de ruimte in, met raketten van Musk. En tenslotte zou dit wel eens de eeuw kunnen worden van de AGI: artificial general intelligence of algemene kunstmatige intelligentie. En ook daar heeft Musk een stevige vinger in de pap.
Schaken én autorijden
Gewone kunstmatige intelligentie (AI) is vaak beter dan wij in één taak, zoals schaken, Go spelen, of autorijden, maar niet in meerdere taken. Algemene kunstmatige intelligentie (AGI) zou wél een breed spectrum aan taken aankunnen en zou zelfs elke denkbare taak beter kunnen uitvoeren dan wijzelf. De technologie bestaat nog niet, maar de meeste AI-wetenschappers denken dat dat deze eeuw zal gebeuren.
Omdat AGI per definitie beter is in cognitieve taken dan wij, kan het nog veel meer banen vervangen. Het kan ook fysieke zaken gaan aansturen, zoals drones, robots, wapens, of fabrieken. De eerste stappen in die richting zijn al gezet met MuZero van Deepmind, die 57 verschillende computerspelletjes kon spelen, zonder dat de regels hem hoefden te worden uitgelegd.
Wat zijn ‘onze’ waarden?
Dat biedt potentieel enorme kansen, maar brengt ook risico’s met zich mee. Kunnen we technologie die slimmer is dan wijzelf straks nog wel controleren? Op dit moment is hiervoor geen betrouwbare methode bekend, ondanks zo’n twintig jaar onderzoek hiernaar.
Techmiljardairs als Elon Musk sponsoren daarom instituten die onderzoek doen naar de vraag hoe we AGI straks kunnen laten handelen naar onze waarden. Prima, maar wie bedoelen we met ‘onze’ als het gaat om ‘onze waarden’? Als AGI machtiger, want slimmer, kan worden dan wij, wie heeft dan de touwtjes straks in handen? Misschien wel Elon Musk en zijn collega-techmiljardairs. Hun invloed op de vormgeving van de eenentwintigste eeuw is buitenproportioneel groot en daarmee riskant.
Dat technologieën in ontwikkeling – behalve AGI ook biotech en nanotech – een groot stempel op de toekomst gaan drukken, staat vast. Dat die invloedrijke ontwikkelingen niet in de handen van een klein clubje miljardairs thuishoren ook. Juist op dit politiek nog nauwelijks ontgonnen terrein, moeten overheden daarom als de wiedeweerga aan de slag om invloed terug te veroveren. Met beperkte middelen kan Nederland leidend worden in onderzoek naar de controle en democratisering van toekomstige technologie. Klinkt misschien vaag, maar is cruciaal.
Stel een topambtenaar voor existentiële risico’s aan
Door ons eigen onderzoek op te starten, bouwen we aan een democratisch tegenwicht voor de macht van de techmiljardairs. Als onze overheid dat doet, kan Nederland wereldwijd een leidende rol opeisen, want wij zijn niet het enige land ter wereld dat nu achter de feiten aanhobbelt. Installeer daarom een directeur-generaal voor existentiële risico’s op het ministerie van binnenlandse zaken. Voeg tech-gedreven existentiële risico’s toe aan de Geïntegreerde Risicoanalyse Nationale Veiligheid. En richt een Planbureau voor Existentiële Risico’s in, dat zelf onderzoek kan gaan doen.
Verontwaardiging als antwoord op de aanzienlijke macht van mannen als Musk, lost niks op. Als we niet willen dat ‘techcowboys’ zo veel invloed op ons hebben – op onze communicatie en op onze toekomst – is het tijd om zelf in een democratische tegenmacht te investeren.
