Ilyaz Nasrullah betoogt in het laatste deel van zijn serie over artificiële intelligentie (AI) in Trouw dat bezorgdheid over menselijk uitsterven door AI niet alleen misplaatst zou zijn, maar zelfs kwade opzet, in de vorm van reclame voor AI-producten. Dit zou mooi zijn, maar is helaas geenszins het geval. AI is een existentieel risico, en we moeten doen wat we kunnen om dit risico zo ver mogelijk te reduceren.
De gedachte dat AI uiteindelijk intelligenter zou kunnen worden dan de mens, en dat we AI dan mogelijk niet meer onder controle kunnen houden, klinkt misschien sci-fi, maar is dit helaas niet. Vele leidende academici, al vanaf Alan Turing (1951), maakten zich hier zorgen over. Ook twee van de drie ‘vaders van de AI’, Geoffrey Hinton en Yoshua Bengio, denken niet alleen dat AI van menselijk niveau menselijk uitsterven zou kunnen veroorzaken, maar ook dat dit een urgent probleem is dat we zo snel mogelijk moeten oplossen. Dit zijn academici zonder belangen in de industrie: Hinton zegde zelfs zijn baan bij Google op om te kunnen zeggen wat hij denkt. En zoals de door Nasrullah geciteerde Stuart Russell, die eveneens zeer bezorgd is, pas in een interview in NRC zei: “Turing waarschuwde in 1951 al dat we het risico lopen dat de machines het overnemen. Had hij aandelen in Google?”
In 1951 was de hoeveelheid data en rekenkracht die tot de beschikking van de toenmalige voorlopers van de computer stond, triljoenen keren kleiner dan die in onze eigen hersenen. Maar we hebben, met name de afgelopen tien jaar, door exponentiële groei in data en rekenkracht, samen met pijlsnelle verbetering van algoritmes, een enorme inhaalslag gemaakt. Op dit moment zijn de hoeveelheden data, rekenkracht, en neuronen die gebruikt worden in AI vergelijkbaar met die in onze eigen hersenen.
En, hoewel AI nog geen menselijk niveau bereikt heeft, zijn de resultaten er wel degelijk naar: AI-modellen schrijven inmiddels essays, maken allerlei examens beter dan mensen, kunnen helpen met programmeren, etc. En, belangrijk: één model kan al deze verschillende taken aan, wat enkele jaren geleden nog ondenkbaar was. Hoe lang gaat het nog duren voordat AI-modellen ook onderzoek naar AI net zo goed kunnen doen als mensen, en we dus een nog veel snellere explosie van de technologie kunnen verwachten? Volgens voorspellingswebsite Metaculus zou AGI (AI van menselijk niveau) al in 2026 een feit kunnen zijn. Hoewel er veel onzekerheid is, denken ook velen in de AI-industrie zelf dat AGI ruim voor het eind van dit decennium een reële mogelijkheid is.
Nasrullah maakt overigens een veel gemaakte fout in het schrijven over dit risico: hij doet alsof het risico zou zijn dat AI “een eigen wil ontwikkelt”. Dit is waarschijnlijk niet het probleem: de AI voert simpelweg uit wat wij hem gevraagd hebben, maar doet dat met ijzingwekkende vaardigheid. En veel doelen, variërend van het maken van zoveel mogelijk paperclips tot het met perfecte nauwkeurigheid voorspellen van het volgende woord in een zin (zoals de huidige taalmodellen proberen), gaan beter in een universum zonder mensen. Daarbij is er het evolutionaire argument: als AI alles beter kan dan wij, en in tegenstelling tot onszelf steeds beter wordt, hebben wij een enorm evolutionair nadeel. En in een wereld waarin wij een evolutionair nadeel hebben, en hulpbronnen eindig zijn, ziet het er op de lange termijn niet goed voor ons uit.
Deze zorgen werden afgelopen jaar onder andere geuit door de ondertekenaars van een open verklaring van het Center for AI Safety, waarin staat dat vermindering van het risico op menselijk uitsterven een wereldwijde prioriteit zou moeten zijn, vergelijkbaar met het voorkomen van een pandemie of kernoorlog. Deze verklaring werd ondertekend door 262 AI-wetenschappers, waaronder de eerder genoemde vaders van de AI.
Gelukkig is er, mede als reactie hierop, gehoor gegeven aan de oproep om de existentiële risico’s van AI van menselijk niveau te reduceren. Hierom heeft de Europese Commissie deze risico’s erkend, is er door het VK een halfjaarlijkse AI Safety Summit opgezet waar ook onze staatssecretaris bij aanwezig was, en heeft Biden een executive order uitgevaardigd die tracht de ergste AI-risico’s te beperken. Sceptici zoals Nasrullah voeren hier een achterhoedegevecht.
Gelukkig heeft AI nog geen menselijk niveau bereikt. Helaas weet niemand wanneer dit precies gebeurt, totdat het gebeurd is. Maar omdat sommige uitstervingsscenario’s al snel optreden na het door de AI bereiken van menselijk niveau, is het zeer onverstandig om met deze discussie, en met beleidsmaatregelen, te wachten tot het zover is.
