Het besef dat er van de ongecontroleerde, onbeperkte toepassing van geavanceerde artificiële intelligentie (AI) een vernietigende werking – een existentieel risico – uitgaat, lijkt steeds meer in te dalen.
Marietje Schaake, voormalig Europarlementariër en directeur bij het Cyber Policy Center van de Stanford universiteit, waarschuwde gisteravond op CNN: “Misschien zou de urgentie die we horen van de experts die in de AI-bedrijven werken ons allemaal aan het denken moeten zetten: wat weten zij dat wij niet weten? En hoe kunnen we er precies achter komen wat er aan de hand is?”
Schaake zei hierna met zoveel woorden: “We moeten ons realiseren waar mensen het over hebben: de vernietiging van de menselijke soort. Het einde van de menselijke beschaving. Wie zou met dat risico willen blijven spelen? Het is bijna absurd als je erover nadenkt, maar het gebeurt op dit moment.”
Schaake deed haar uitspraken nadat eerder deze week AI-pionier Geoff Hinton zijn baan bij Google opzegde en eveneens waarschuwde: “AI kan het voortbestaan van de mensheid bedreigen”. Ook volgens Sam Altman, CEO van OpenAI, kan AI “voor ons allemaal het licht uitdoen”.
In Nederland zei Wim Nuijten, wetenschappelijk directeur van het Eindhoven Artificial Intelligence Systems Institute (EAISI) van de Technische Universiteit Eindhoven en ondertekenaar van de recente open brief die vraagt om een AI-pauze van zes maanden, vorige week: “AI heeft de potentie om de mensheid te redden, maar ook om die uit te roeien.” Hij denkt nog niet dat GPT-4, één van de meest geavanceerde AI-modellen, al gevaarlijk is, maar hij waarschuwt wel voor de toekomst: “mocht het systeem echt dichtbij een kunstmatige algemene intelligentie zijn, dan heeft het, en zeker zijn opvolgers, de potentie om een einde te maken aan het leven op aarde.”
Het Existential Risk Observatory, een Nederlandse stichting die het debat over kunstmatige intelligentie informeert, deelt die bezorgdheid. “Een moratorium op de training van AI-modellen met een grotere complexiteit dan GPT-4 zou een stap in de goede richting zijn om eventuele catastrofes af te wenden”, aldus Ruben Dieleman, Campagneleider Nederland.
