In zijn iconische boek ‘Thinking, Fast and Slow‘ uit 2011 presenteert psycholoog Daniel Kahneman toegankelijk leeswerk tot de belangrijkste resultaten van zijn uitgebreide onderzoek naar cognitieve vooroordelen en heuristieken, uitgevoerd met Amos Tversky in de jaren zeventig. Hun resultaten daagden het conventionele economische paradigma van menselijke rationaliteit uit en hielpen bij het vinden van het gebied van gedragseconomie. In het hoofdstuk uit 2008 ‘Cognitieve vooroordelen die mogelijk de beoordeling van mondiale risico’s beïnvloeden‘, overweegt Eliezer Yudkowsky hoe sommige van de door Kahneman en andere geschetste vooroordelen ons oordeel kunnen beïnvloeden als we nadenken over catastrofale risico’s. In deze blogpost worden enkele van deze vooroordelen besproken en de impact die ze kunnen hebben op percepties van existentiële risico’s.

Beschikbaarheidsbias

Een van de bekendste cognitieve vooroordelen, en ook een van de meest relevante voor de studie van existentiële risico’s, is de beschikbaarheidsbias (availability bias). Dit is het resultaat van de automatische methode om snel de waarschijnlijkheid van een gebeurtenis te beoordelen door eerdere gedenkwaardige voorbeelden van een dergelijke gebeurtenis op te roepen. Hoewel dit in veel gevallen een acceptabele schattingstechniek is, is het duidelijk ongeldig bij het beschouwen van gebeurtenissen waarvoor er geen historische gebeurtenissen zijn. Bias kan ook worden waargenomen bij het vergelijken van de waarschijnlijkheden van twee gerelateerde gebeurtenissen. Wanneer bijvoorbeeld wordt gevraagd naar verschillende doodsoorzaken, schatten de proefpersonen dat ongevallen jaarlijks ongeveer evenveel sterfgevallen veroorzaken als ziekten, ondanks dat ziekten ongeveer 16 keer zoveel sterfgevallen veroorzaken als ongevallen. De hypothese is dat dit het gevolg is van de overweldigende zichtbaarheid van sterfgevallen veroorzaakt door ongevallen in het nieuws, in vergelijking met de berichtgeving over sterfgevallen door ziekte die mensen op een dwaalspoor brengt wanneer hen wordt gevraagd om de waarschijnlijkheid van elke oorzaak in te schatten. Inderdaad, in 1979 toonden Barbara Combs en Paul Slovic aan dat misvattingen over de waarschijnlijkheid van verschillende doodsoorzaken sterk correleerden met het relatieve aantal krantenartikelen over elke oorzaak 1.

Verankering

Verankering verwijst naar het fenomeen waardoor kwantitatieve oordelen onbewust kunnen worden beïnvloed door de overweging van eerdere (potentieel niet-gerelateerde) waarden. Een experiment dat in 1974 door Tversky en Kahneman werd uitgevoerd, was om proefpersonen te vragen of ze dachten dat het percentage Afrikaanse landen dat lid was van de VN hoger of lager was dan een willekeurig getal tussen 0 en 100, gekozen uit een ‘Wheel of Fortune’-achtige spinner. Onmiddellijk daarna werd de proefpersoon gevraagd om hun ware schatting te geven. Tversky en Kahneman ontdekten dat de schattingen van de proefpersonen sterk werden beïnvloed door het aantal dat op het rad was verschenen, ondanks het feit dat de proefpersonen wisten dat het aantal volledig willekeurig was gegenereerd. De mediane schattingen voor proefpersonen die willekeurige getallen van 10 en 65 hadden gekregen, waren bijvoorbeeld respectievelijk 25% en 45%. 2

Yudkowsky breidt dit concept uit tot dat van de logische drogreden van generalisatie van fictief bewijs. Hij stelt dat, gegeven hoe menselijke oordelen kunnen worden vertekend door duidelijk irrelevante voorafgaande informatie, onze oordelen op dezelfde manier kunnen worden beïnvloed door fictieve verhalen, ondanks de wetenschap dat fictie niet noodzakelijk een nauwkeurige weergave van de werkelijkheid is. Met betrekking tot existentiële risico’s wijst Yudkowsky erop dat zowel de publieke als de academische perceptie van de gevaren van kunstmatige intelligentie vatbaar kan zijn voor onbewuste beïnvloeding van sci-fi-presentaties zoals The Terminator of HAL uit 2001: A Space Odyssey. Dit wordt zeker niet geholpen door de benadering van ‘journalisten die erop staan ​​een foto van de Terminator te plaatsen op elk afzonderlijk artikel dat ze over dit onderwerp publiceren [AI-veiligheid]3. De situatie is misschien niet veel beter in de academische wereld, met Yudkowsky die dat beweert; ‘Het is niet ongebruikelijk dat in een discussie over existentiële risico’s de categorieën, keuzes, consequenties en strategieën worden afgeleid uit films, boeken en televisieprogramma’s. Er zijn subtielere nederlagen, maar dit is regelrechte overgave.’ 4

Verwaarlozing van het bereik

De laatste vooringenomenheid die we hier zullen bespreken, is die van verwaarlozing van het bereik – wanneer een onderwerp een ongevoeligheid vertoont voor de schaal van een probleem. Een experiment dat dit effect duidelijk aantoont, is uitgevoerd door Desvousges et al. in 1993, waarin de proefpersonen werden opgesplitst in drie groepen die werden gevraagd hoeveel geld ze zouden willen doneren om 2.000, 20.000 of 200.000 vogels te redden van verdrinking in olievijvers 5. Ondanks de omvang van het probleem (d.w.z. het aantal getroffen vogels) variërend met een factor 100, waren de mediane reacties $ 80 voor de groep die ongeveer 2.000 vogels vroeg, $ 78 om 20.000 vogels te redden en $ 88 om 200.000 vogels te redden. Er zijn een aantal theorieën voorgesteld om dit fenomeen te verklaren, waaronder de affectheuristiek, die ervoor zorgt dat proefpersonen zich een of een handvol ongelukkige vogels voorstellen die niet in staat zijn om uit de olievijver te ontsnappen, en hun reactie baseren op dit emotionele beeld; of de aankoop van morele bevrediging, dat betekent dat proefpersonen hoeveel ze onbewust ook zouden betalen om te beschouwen als een goede daad, ongeacht of die daad 2.000 vogels of 200.000 redt.

Filosoof Toby Ord heeft het probleem van verwaarlozing van de reikwijdte toegepast op existentiële risico’s, met het argument dat dit ertoe kan leiden dat veel mensen de betekenis van dergelijke catastrofale gebeurtenissen onderschatten. Om hem uitgebreid te citeren:

‘We hebben bijvoorbeeld de neiging om een ​​nucleaire oorlog als een totale ramp te beschouwen, dus we slagen er niet in om een ​​onderscheid te maken tussen kernoorlogen tussen landen met een handvol kernwapens (waarbij miljoenen zouden sterven) en een nucleaire confrontatie met duizenden kernwapens (waarbij een duizend keer zoveel mensen zouden sterven, en onze hele toekomst kan worden vernietigd). Aangezien existentieel risico zijn belangrijkste morele belang ontleent aan de omvang van wat er op het spel staat, leidt verwaarlozing ervan ertoe dat we het belang ervan ernstig onderschatten.’ 6

De bovenstaande discussie beslaat slechts een klein hoekje van de literatuur over cognitieve vooroordelen en heuristieken, en we raden Yudkowsky’s artikel ten zeerste aan aan geïnteresseerden. Ondanks de ongelooflijke moeilijkheid om de effecten ervan te overwinnen, concludeert Yudkowsky dat kennis van dergelijke vooroordelen ‘kennis [die] nodig is voor een student van existentieel risico’ en dat het vakgebied behoefte heeft aan ‘experimentele literatuur die specifiek is voor de psychologie van existentieel risico. ‘ Onderzoek naar existentiële risico’s staat nog in de kinderschoenen en we moeten nog de gewenste wetenschappelijke en analytische instrumenten ontwikkelen die een grote bijdrage zouden leveren om de nauwkeurigheid van ons onderwerp als wetenschappelijke discipline te waarborgen. Zoals het er nu uitziet, zijn veel van de schattingen van existentiële risico’s en beschrijvingen van de gerelateerde catastrofes grotendeels gebaseerd op subjectieve, individuele beoordelingen, waardoor ze een vruchtbaar land zijn voor de verspreiding van cognitieve vooroordelen met mogelijk drastische effecten.

  1. Combs B, Slovic P. Krantenbericht over doodsoorzaken. Journalistiek kwartaalblad. 1979;56(4):837-849. doi: 10.1177/107769907905600420

  2. Tversky, Amos en Daniel Kahneman. “Oordeel onder onzekerheid: heuristieken en vooroordelen.” Wetenschap, vol. 185, nee. 4157, 1974, blz. 1124-1131. JSTOR, www.jstor.org/stable/1738360.
  3. https://intelligence.org/2018/02/ 28/sam-harris-en-eliezer-yudkowsky/
  4. Yudkowsky, Eliezer. 2008. “Cognitieve vooroordelen die mogelijk van invloed zijn op de beoordeling van wereldwijde risico’s.” In Global Catastrophic Risks, onder redactie van Nick Bostrom en Milan M. Ćirković, 91–119. New York: Oxford University Press.
  5. Desvousges, William H., F. Reed Johnson, Richard W. Dunford, Kevin J. Boyle, Sara P. Hudson en K. Nicole Wilson. 1993. “Het meten van schade aan natuurlijke hulpbronnen met voorwaardelijke waardering: validiteits- en betrouwbaarheidstests.” In Hausman 1993, 91-164.
  6. Orde, Toby. (2020). The Precipice: Existentieel risico en de toekomst van de mensheid, (Londen: Bloomsbury). Pagina 61.