De populariteit van het singulariteitsverhaal
Wooldridge stelt dat het verhaal aantrekkelijk is omdat het een laagwaarschijnlijke maar extreem hoge-impact gebeurtenis beschrijft. Mensen rekenen zich in tot een risico-calculus waarbij de potentiële schade zo groot is dat zelfs een kleine kans voldoende lijkt om zich zorgen over te maken. Hij vergelijkt deze denkwijze met christelijke apocalyptische stromingen die door de geschiedenis heen telkens voorspelden dat “het nu de tijd is”.
Psychologische en culturele aantrekkingskracht
De spreker benadrukt dat het idee van een creatie die zich tegen de schepper keert diep in de menselijke psyche zit. Verhalen als Frankenstein tonen volgens hem dezelfde angst: wat we zelf voortbrengen, kan ons uiteindelijk bedreigen. Deze archetypische angst maakt het singulariteitsverhaal extra krachtig en moeilijk te weerleggen met louter rationele argumenten.
Twee scenario’s voor existentieel risico
Wooldridge onderscheidt twee hoofdscenario’s. Het eerste is het “paperclip-argument”: een AI die letterlijk een opdracht uitvoert en daarbij onbedoeld de mensheid schaadt. Het tweede scenario betreft machines die eigen, niet-menselijke doelen ontwikkelen. Hij acht beide scenario’s onwaarschijnlijk omdat AI-systemen nog geen echte agency bezitten en omdat mensen nooit de volledige controle uit handen zullen geven zonder waarborgen.
Existential risk-risk
Samen met collega’s introduceert Wooldridge de term “existential risk-risk”: het risico dat de maatschappij zich te veel richt op hypothetische toekomstige rampen en daardoor verzuimt om aandacht te besteden aan concrete problemen die AI nu al veroorzaakt, zoals bias, misinformatie en machtsconcentratie.
Focusverschuiving gewenst
De spreker pleit voor een realistischer debat dat zich richt op de huidige capaciteiten en beperkingen van grootschalige taalmodellen. Hij merkt op dat het publieke gesprek na de release van ChatGPT hysterische vormen aannam, maar recent weer iets kalmeert. De aandacht zou volgens hem moeten uitgaan naar concrete beleidsvragen en technische waarborgen in plaats van naar sciencefiction-achtige doemscenario’s.
Conclusie
De video biedt een kritische, nuchtere blik op het dominante AI-risico-debat vanuit een toonaangevende Britse universiteit. Wooldridge benadrukt dat echte risico’s bestaan, maar dat het singulariteitsnarratief deze risico’s overschaduwt en afleidt van de problemen die nu al om oplossingen vragen.
