“ChatGPT is echt heel dom en volkomen onbetrouwbaar”, schrijft Ilyaz Nasrullah in zijn column (Trouw, woensdag 4 januari), over het recent gelanceerde AI-model van OpenAI. Hij stelt daarin dat Large Language Models zoals ChatGPT geen ‘begrip’ hebben van wat ze doen.
Toen ik ChatGPT een opiniestuk voor NRC Handelsblad liet schrijven (“Waakzaam blijven bij het vervagen van de grens tussen echt en AI”, NRC Handelsblad 15 december), mailde de redacteur me “het had een hoofdredactioneel commentaar van NRC kunnen zijn”. Computerpionier Alan Turing stelde in 1950 dat AI van menselijk niveau gerealiseerd zou zijn als een mens tijdens een gesprek niet meer het onderscheid tussen AI en echt kan waarnemen (de Turingtest). Volgens mij voldoet ChatGPT daar in veel gevallen al aan, zoals de mail van deze redacteur laat zien. Dit kan blijkbaar met of zonder wat Nazrullah ‘begrip’ noemt.
Maar een belangrijker punt is dat het bij AI niet gaat om het heden, maar om de toekomst. Tien jaar geleden kon AI nog bijna niets. Nu schrijft het niet alleen stukken voor in de krant, maar maakt het ook afbeeldingen, wint het spelletjes Go, Stratego, StarCraft en Diplomacy van de mens, en lost het het protein folding vraagstuk op, een fundamentele doorbraak in de biologie. Waar zijn we over tien jaar, of over vijftig?
Ik denk dat AI zeker de cognitieve vermogens van de mens gaat overstijgen in het komende decennium. ChatGPT is nog niet perfect, maar het geeft ons wel een blik in de toekomst. En in die toekomst wordt AI nog enorm veel beter, terwijl de menselijke cognitie ongeveer gelijk blijft. AI zal daarom steeds meer wetenschappelijke doorbraken gaan creëren. Daaronder zullen zich ook verbeteringen aan algoritmes en hardware bevinden, waardoor AI nog beter zal worden. Steeds slimmere AI zal dus steeds slimmere AI gaan creëren, in een positieve feedback loop die best wel eens tot ver voorbij de menselijke cognitie zou kunnen voeren op alle relevante domeinen.
Dit kan geweldige kansen creëren, maar brengt ook enorme risico’s met zich mee. Bijna geen enkele baan zal onaangetast blijven. Economische ongelijkheid kan enorm toenemen, zeker als we geen afdoende herverdelingsmechanismes hebben. En met economische verschuivingen kunnen ook fundamentele machtsverschuivingen zich aandienen. Wie haar of zijn inkomen, eigenwaarde, en maatschappelijke positie tot nu toe ontleende aan cognitieve arbeid, moet zich achter de oren gaan krabben.
En dit is het positieve scenario. Er is ook een groep AI-wetenschappers zoals Stuart Russell (Universiteit van Californië – Berkeley) en filosofen zoals Nick Bostrom en Toby Ord (Universiteit van Oxford) die denken dat AI, als deze ons cognitief verre de baas is, mogelijk helemaal niet meer te controleren zal zijn. Zoals onze zucht naar steeds meer hulpbronnen tot het uitsterven van vele diersoorten leidt, zo zou het nastreven van een slecht doordacht doel door een superieure AI volgens deze wetenschappers tot ons evolutionaire eindstation kunnen leiden. Zo lang niemand heeft aangetoond dat oncontroleerbare AI onmogelijk is, zijn ook dit risico’s die we serieus moeten nemen – en actief moeten proberen in te perken, bijvoorbeeld door meer onderzoek ernaar te doen.
Het is makkelijk om een paar voorbeelden te geven van wat AI nog niet kan, en dan te concluderen dat we ons niet zo druk moeten maken. De discussie zou in plaats daarvan moeten gaan over wat de toekomst wordt van AI, en hoe we de grootste risico’s die met name AI van menselijk niveau oplevert, onder controle kunnen houden.
