Nachtmerrie

Alom gerespecteerde wetenschappers en ondernemers, zoals Stephen Hawking, Elon Musk en Bill Gates, liggen ’s nachts letterlijk wakker van zo’n scenario. Want in dat geval staan we er niet zo goed voor. Vanuit een puur rationeel standpunt bekeken kun je de mens namelijk beschouwen als de grootste bedreiging voor deze planeet. Een beetje verstandig AI-systeem zou ons dus zo snel mogelijk willen deleten. Zo’n vaart hoeft het echter niet te lopen, betoogt Verschueren. “Tegenover die pessimisten heb je evengoed experts die vooral goede kanten zien aan de huidige ontwikkelingen in AI en aanverwante technologieën. Je hebt bijvoorbeeld de beweging van de transhumanisten, die vinden dat de mens zichzelf kan en zelfs moet verbeteren met behulp van technologie. Ray Kurzweil, die baanbrekend werk heeft verricht in de ontwikkeling van scanner- en spraaktechnologie, is daar zowat het gezicht van geworden. In zijn visie is de singularity het moment waarop de mensheid met behulp van technologie zijn ware potentieel ontketent en waarop we in staat zullen zijn om al onze problemen op te lossen: honger en armoede, maar ook werkdruk en files. Ook een toekomstbeeld waarin we onsterfelijk worden en andere planeten gaan koloniseren behoort dan tot de mogelijkheden.”

Niet meer veraf

Dat de singularity ooit gaat plaatsvinden, is zo goed als zeker, meent Verschueren: “Er worden nu in zoveel domeinen in zo’n hoog tempo drastische stappen gezet dat de kans op onvoorstelbare gevolgen steeds groter wordt. Wetenschappers als Kurzweil durven er zelfs al een datum op te plakken. Volgens hem zal de singularity ruwweg rond het jaar 2045 plaatsvinden. Die berekening is gebaseerd op nieuwe inzichten in Moore’s Law, waaruit men kan concluderen dat de processorsnelheid van computerchips tegen dan snel genoeg zal zijn om in real-time het menselijke brein te emuleren.” 2045 is niet meer zo veraf dus het is hoog tijd om ons erop voor te bereiden, zou je denken. Maar laat dat nu net het grote probleem zijn van de singularity. “Hoe kun je je voorbereiden op het onvoorspelbare?”, vraagt Verschueren zich af. “Er is geen beginnen aan. Het enige wat je kunt doen is alle mogelijke ‘Wat als?’-scenario’s bedenken en daarop alvast een reactie proberen te formuleren. Misschien wordt de singularity bijvoorbeeld niet door AI veroorzaakt, maar door nanotechnologie. Het is namelijk niet ondenkbaar dat we in dat domein ooit op het punt aanbelanden waarop we elke mogelijke grondstof kunnen namaken. Dat zou heel ons economisch bestel doen instorten, want dat is gebaseerd op de schaarste van grondstoffen. Als we dus zelf een onbeperkte voorraad grondstoffen kunnen creëren, zou dat een enorme schok teweegbrengen met gevolgen die niet te overzien zijn.”

Echt of science fiction?

Kunnen we dan niets doen behalve afwachten tot zo’n economische apocalyps uitbreekt? Toch wel, vindt Verschueren: “Het zou geen kwaad kunnen als wetenschappers en ondernemers wat vaker stilstonden bij de ethische en maatschappelijke gevolgen van nieuwe technologische evoluties. We moeten er ons bewust van zijn dat elke nieuwe stap in de vooruitgang de singularity in gang kan zetten. Dat kan dus ook gewoon per ongeluk zijn. Het lijken wel verhalen voor sciencefictionfilms maar de kans dat het ooit werkelijkheid wordt, is groter dan ooit.”