Waarom de singulariteit zal gebeuren – maar niet voor 2045

De technische singulariteit, bedacht door Vernor Vinge en later gepopulariseerd door Ray Kurzweil, is iets dat echt sterke meningen oproept. Een voorbeeld: een tijdje geleden stond dit artikel op de voorpagina van Version2 (grote Deense IT-mediasite) – de kop in het Engels luidde: “Auteur: Singularity is slechte science fiction zonder wetenschap”. Ik heb in de loop der jaren veel van dit soort artikelen gezien.

Wat heel interessant is, is dat mensen ofwel de Kool-Aid lijken te drinken OF nee-zeggers zijn die geloven dat de singulariteit nooit zal gebeuren. Of mensen lijken te geloven dat we eeuwig zullen leven of dat alles slechts hetzelfde zal blijven. Deze polariserende benadering irriteert me mateloos:
Ik denk echt dat mensen die horen over “de singulariteit” het vaak helemaal mis hebben.

Het is echter gemakkelijk om het helemaal mis te hebben.

In de afgelopen tien jaar heeft de Singularity University, opgericht door Peter Diamandis en Ray Kurzweil, de Singularity gepopulariseerd met dikke marketing en zeer dure toegangsprijzen. Dikke marketing gecombineerd met beloften van upload in de cloud en eeuwig leven.

Ondanks de dikke marketing ben ik het er echter niet mee eens dat de Singularity “slechte science fiction zonder wetenschap” is – ik denk dat het de toekomst is waar we naar op weg zijn. Snel. Ik denk alleen dat Peter Diamandis en Ray Kurzweil erg teleurgesteld zullen raken als ze verwachten eeuwig te leven.

Wat is de singulariteit?

Ik heb zo veel verschillende interpretaties gezien van wat “de singulariteit” is: alles van “superintelligente AI” tot “wanneer we eeuwig kunnen leven”. Zelfs het niet hebben van het juiste referentiepunt is een probleem: je kunt niet discussiëren over de vraag of iets wel of niet zal gebeuren als je niet eens je referentiepunt kent.

De term “singulariteit” wordt in de natuurkunde gebruikt als iets waar we niet voorbij kunnen kijken. In de “technische singulariteit”, is het hetzelfde. Het is een punt in de toekomst, waar de technologie zich zo snel ontwikkelt, dat de resultaten ondoorgrondelijk zullen zijn.

Neem de mens zo’n 70.000 jaar geleden, net rond de cognitieve revolutie. Als je een tijdmachine zou nemen en er een willekeurig mens uit die tijd in zou zetten, op de “update time”-knop zou klikken, en hem ons heden zou laten zien… Ons arme mens zou de huidige wereld als ondoorgrondelijk zien. Hij zou niet weten wat er in hemelsnaam aan de hand was: auto’s, internet en vliegtuigen. Ik denk dat het eerlijk is om te zeggen dat 2020 ondoorgrondelijk is vanuit het perspectief van iemand van 70.000 jaar geleden… Het argument is dat de Singulariteit, zoiets is vanuit ons perspectief.

Het idee van de singulariteit is sterk gepopulariseerd door Ray Kurzweil. Ray Kurzweil is de auteur van meerdere boeken, maar “The Singularity is Near”, geschreven in 2005, is de meest populaire. Later richtte hij samen met Peter Diamandis de Singularity University op, die de term op wereldwijde schaal verder heeft gepopulariseerd.

Ray Kurzweil beweert dat de singulariteit in 2045 zal plaatsvinden. De redenering is dat informatica niet lineair, maar exponentieel verbetert. Door de ontwikkeling te voorspellen, stelt hij dat in 2029 kunstmatige intelligentie net zo slim zal zijn als de mens, en van daaruit zal verbeteren totdat de snelheid zo sterk is verbeterd dat we in 2045 de singulariteit bereiken.

Kan de singulariteit gebeuren?

Nu, terug naar het heden in 2020: lijkt het realistisch?

Laten we eerlijk zijn. Als je met Siri praat, lijkt het niet waarschijnlijk dat je over slechts 10 jaar het verschil niet meer ziet tussen een mens en je assistent aan de telefoon. Heck, zelfs vandaag vroeg ik Siri op mijn AirPods “gaat het regenen vandaag?”, en ze antwoordt: “Hier is wat ik vond op ‘The Beatles’…

Dingen lijken sneller te gaan. Maar kunstmatige intelligentie van een menselijk niveau in 10 jaar? Of technologie die zo sterk verbetert dat we de wereld niet kunnen doorgronden in slechts 25 jaar (2045 vs 2020)?

Het is duidelijk dat er iets heel erg drastisch moet gebeuren… Elke natuurlijke intuïtie vertelt ons duidelijk dat dit onrealistisch is.

Waarom AI (kunstmatige intelligentie) steeds ter sprake komt

In de rest van het artikel ga ik AI blijven herhalen alsof het hetzelfde is als de Singulariteit. Dat is duidelijk niet het geval. Maar AI is wel een belangrijk onderdeel van het bereiken van de Singulariteit.

De Singulariteit gaat ervan uit dat de snelheid van alles sneller, en sneller, en sneller en sneller zal toenemen – totdat het zo snel wordt dat het te snel is om te begrijpen. Dat zal nooit gebeuren met onze menselijke hersenen – we zijn gewoon niet gebouwd voor dat soort ontwikkelingen.

Daarom is een van de belangrijkste aannames, dat we AI aan het werk krijgen. Niet alleen Siri een beetje verbeteren, maar een echte AI – niet van mensen te onderscheiden. Een AI kan sneller, en sneller, en sneller verbeteren omdat het niet wordt beperkt door onze fysieke lichamen.

Een van mijn favoriete websites, WaitButWhy, heeft een absoluut geweldig artikel gemaakt waarin dit diepgaand wordt uitgelegd.

Het argument tegen de Singularity

De Singularity heeft genoeg nee-zeggers. Twee populaire voorbeelden:

Paul Allen: The Singularity Isn’t Near (medeoprichter van Microsoft, overleden 2018)

Singularity Is a Religion Just for Digital Geeks

Voor mij lijkt het erop dat je de nee-zeggers in twee groepen kunt verdelen:

• Groep A: Mensen die gewoon niet geloven dat de Singularity zal gebeuren – jongens zoals degene die ik aan het begin van het artikel noemde
• Groep B: Mensen die denken dat de Singularity zou kunnen gebeuren, maar die de deadline van 2045 niet geloven. Paul Allen’s artikel is hier een goed voorbeeld van

Ik denk dat “Groep A” gewoon naïef is. Neem onze arme mens van 70.000 jaar geleden die we naar het heden hebben geteleporteerd – de wereld is voor hem van ondoorgrondelijke betekenis. In zijn ogen zijn we al een Singulariteit. Ik denk ook dat het een eerlijk argument is dat het zeer waarschijnlijk is dat we over 70.000 jaar weer een Singularity hebben meegemaakt of de hele bevolking hebben weggevaagd.

Ik denk ook dat niemand zal beweren dat de ontwikkeling tegenwoordig langzamer gaat dan 70.000 jaar geleden. Zelfs de meest negatieve tegenstanders zullen het er waarschijnlijk mee eens zijn dat het tempo vandaag 10-100x hoger ligt. Met dit argument zouden we op zijn minst een nieuwe technische singulariteit moeten verwachten binnen de komende 700-7.000 jaar.

Natuurlijk zouden sommigen aanvoeren dat het mogelijk is dat we tegen een “technologische muur” aanlopen, maar er is nog geen overtuigend argument dat dit zou kunnen gebeuren.

Dit brengt ons bij “Groep B”, die alleen maar zegt “Ja, een singulariteit zou kunnen gebeuren – we zijn alleen nog niet in de buurt”. Dit is een uiterst belangrijk onderscheid.

De discussie moet niet zijn of de Singulariteit zal gebeuren, maar wanneer. Ray Kurzweil zegt dat het slechts 25 jaar is, Paul Allen noemt geen getal maar heeft zeer goede argumenten waarom het waarschijnlijk langer zal duren dan bijvoorbeeld Ray Kurzweil verwacht. Maar zelfs Paul Allen zou het er waarschijnlijk mee eens zijn dat tussen de komende 25 en 7.000 jaar – jawel – de singulariteit zou hebben plaatsgevonden.

De tijdlijn hangt sterk af van twee dingen: rekenkracht en hoe snel we superintelligente kunstmatige intelligentie krijgen:

De onderliggende aanname: rekenkracht blijft exponentieel groeien

“The Singularity is Near” – Ray Kurzweil’s boek uit 2005, heeft een onderliggende aanname. De aanname is dat de rekenkracht exponentieel verbetert. Door exponentieel te verbeteren, zullen dingen sneller gaan. Dit leidt tot een positieve, zichzelf versterkende cyclus, waardoor we slimmer, sneller en beter worden.

De nee-zeggers hebben echter een goed punt: Moores wet werkt niet meer! De wet van Moores hield eenvoudigweg in dat het aantal transistors dat we op een chip kunnen zetten, ongeveer elke twee jaar zou verdubbelen. De enige uitdaging is dat die verdubbeling de laatste jaren aanzienlijk is vertraagd.

Dat is een valide probleem voor de singulariteit. Dit is de belangrijkste en belangrijkste aanname voor de singulariteit. Maar dit is ook waar onze naysayers en Kool-Aid drinkers elkaar weer eens verkeerd begrijpen.

The Singularity crowd doesn’t talk about Moores law, but “how much computation power you can buy for 1.000 USD”. Dat is niet hetzelfde als de wet van Moores, maar een veel bredere term. Deze term maakt het mogelijk in GPU’s te rekenen en de prijzen nog goedkoper te maken door massaproductie. Terwijl de wet van Moores zeker is vertraagd, lijkt de rekenkracht pr. 1.000 USD lijkt te verbeteren met dezelfde snelheid als altijd.

Ik ben geen deskundige op het gebied van computers, maar dit is een zeer steekhoudend punt. Als deze ontwikkeling vertraagt, zal de Singularity een stuk langzamer gaan. De reden is, dat als je op een exponentiële groeicurve zit, het altijd de laatste verdubbelingen zijn die het meeste betekenen.

Geen grote AI algoritme ontwikkelingen voor decennia

Leest men de meeste grote tech outlets, dan lijkt het erop dat AI als een gek aan het verbeteren is. Miljarden aan financiering, China, Rusland en de VS concurreren op nationaal niveau.

Wat de meeste mensen verbaast, is dat de onderliggende algoritmen die we gebruiken, dezelfde zijn die we al tientallen jaren gebruiken. In de academische wereld zijn de algoritmen vandaag de dag vrijwel hetzelfde als tientallen jaren geleden. Wat is veranderd, is de hoeveelheid beschikbare gegevens in combinatie met de beschikbare rekenkracht.

Het lijdt geen twijfel dat de vele verdubbelingen in gegevens en rekenkracht ons een heel eind op weg zullen helpen. In de komende jaren zullen we hieruit verbazingwekkende dingen zien voortkomen. Het is echter ook een zeer steekhoudend argument dat we van de huidige algoritmen geen bewuste machines kunnen verwachten. Een valide argument is dat aangezien de Singulariteit afhankelijk is van superintelligente kunstmatige intelligentie, we niet kunnen verwachten dat dit zal gebeuren tenzij we een serieuze upgrade in algoritmen krijgen.

Het argument VOOR de Singulariteit

Zal dit de komende tien of twee jaar veranderen?

Ik denk het persoonlijk wel. Er worden miljarden dollars geïnvesteerd in projecten als het European Human Brain Project en het Amerikaanse BRAIN Initiative. Maar u moet niet naar mij luisteren, want dat is een van de kernproblemen van de Singularity-fan-boys. Ik heb geen idee hoe het brein werkt, en ik heb geen idee hoe ver we zijn met het begrijpen of reverse-engineeren van het brein.

Een andere interessante recente ontwikkeling is GPT-3.
Je kopieert geen vogel, om een vliegtuig te laten vliegen. Vliegtuigen lijken niet op vogels. Neem het onlangs aangekondigde GPT-3 model van openAI. Als je er nog niet over gehoord hebt, probeer er dan eens naar te googelen. Het probeert niet te kopiëren hoe het menselijk brein werkt. In plaats daarvan, om het artikel te citeren: “Maar GPT-3, ter vergelijking, heeft 175 miljard parameters – meer dan 100 keer meer dan zijn voorganger en tien keer meer dan vergelijkbare programma’s.”. Ik heb geen idee wat 175 miljard parameters betekent, maar ik heb de tekstvoorbeelden van dit programma gezien. Het is verbazingwekkend wat het kan doen. Als dit 10 jaar verbetering krijgt? Hebben we dan nieuwe algoritmen nodig?
(Waarschijnlijk wel, maar het is interessant om te zien hoe ver we kunnen komen)

Het is ook moeilijk om te beweren dat we niet slimmer worden. Het verhaal dat Peter Diamandis van ‘The Singularity University’ graag vertelt: “Zelfs een arm kind in Afrika met een mobieltje heeft toegang tot meer informatie dan de president van de Verenigde Staten dertig jaar geleden had.”. We hebben toegang tot meer informatie, eenvoudiger samenwerking en we staan op veel hogere schouders dan vroeger.

Als je vandaag een bedrijf start of iets wilt onderzoeken, heb je een niveau van toegang en hulp dat ongekend is. Als je iets wilt leren, heb je alles binnen handbereik.

Ik weet niet of dit een echt argument “voor” de singulariteit is. Wat ik zou zeggen is:

• We worden als mens steeds capabeler, met een toenemende snelheid
• We begrijpen het menselijk brein steeds beter – zij het waarschijnlijk veel minder dan ik geloof als ik het een wetenschapper vraag
• We zien verbazingwekkende ontwikkelingen in smalle AI die specifieke sollicitanten maakt

Ik zou persoonlijk echt verbaasd zijn als we niet binnen 2045 een computer zien die de Turingtest doorstaat, en ik acht het niet onwaarschijnlijk dat dit niet tegen 2029 zal gebeuren, zoals Ray Kurzweil voorspelde. En daarna zullen we de dingen steeds sneller zien gaan.

Waar laat dit ons

Wat zowel de Singularity, Ray Kurzweil als Peter Diamandis zo beroemd heeft gemaakt, zijn zeer gedurfde uitspraken en het geven van specifieke tijdlijnen.

Je moet controversieel zijn om aandacht te krijgen. Wat Ray Kurzweil heeft gedaan, wat maar weinig anderen hebben gedaan, is het stellen van specifieke & publieke deadlines over wanneer hij denkt dat bepaalde dingen zullen gebeuren. Deze tijdlijnen hebben veel kritiek gekregen. Kurzweil betoogt meestal dat hij bijna helemaal gelijk heeft en journalisten zeggen dat hij er bijna helemaal naast zit.

Maar wat we hier vergeten is waarom Ray Kurzweil ze in de eerste plaats heeft gemaakt. Ray Kurzweil, van wie ik een grote fan ben, heeft de term singulariteit geïdentificeerd en bedacht voor een groot publiek. Hij begrijpt hoe belangrijk het is om het hele concept onder de aandacht van het publiek te brengen – van een groot publiek. De beste manier om deze aandacht te krijgen? Maak gedurfde tijdlijnen.

Maar wat mensen niet snappen: de tijdlijnen doen er niet toe. Ze zijn marketing. Wat er echt toe doet is de toekomst waar we naar toe gaan. Misschien niet morgen, misschien niet in 2045 – maar als menselijke soort staan we op het punt om heel vreemd te worden.

Wat de Singulariteit vreemd maakt, is dat het gevolg een utopie zal zijn. Een utopie van onsterfelijkheid, superintelligente AI, gratis inkomen voor iedereen, en veel tijd om het heelal te verkennen in ruimteschepen.

Utopieën zijn gevaarlijk voor de rationele geest. Utopieën in combinatie met onsterfelijkheid zijn nog gevaarlijker. Mijn grootste probleem met de Singulariteit is dat de “uitvinders” ervan voorspellen dat utopie en onsterfelijkheid toevallig zullen gebeuren net rond de tijd dat ze anders van ouderdom zouden sterven. Voor mij lijkt het alsof de Singulariteit een ontsnappingscapsule is geworden. Een hoop om eeuwig te leven.

Achteraf kijkend in de geschiedenis, is het makkelijk om te lachen om alle koningen en ontdekkingsreizigers die de fontein van de jeugd zochten. Maar het is logisch. De dood is eng. De dood is definitief. In die tijd was het geloof dat je zo’n fontein van de jeugd kon vinden gebaseerd op hoop en fabels. Vandaag is die hoop gebaseerd op wetenschap.

En dit brengt me bij mijn laatste opmerking:
De Singulariteit vertelt slimme mensen dat ze eeuwig kunnen leven. En omdat we slimme mensen nu vertellen dat onsterfelijkheid een optie is – beginnen we De Singulariteit te behandelen als een religie maar wetenschap te noemen. Dit is waarom we zien dat mensen wetenschap en bullshit mixen tot een gevaarlijke cocktail. Combineer deze cocktail met de wens om controversieel te zijn omdat dat meer publiciteit oplevert en het wordt nog gevaarlijker.

Hoe dan ook. Dat Ray Kurzweil en Peter Diamandis het bij het verkeerde eind hebben, en de Singularity waarschijnlijk niet voor 2045 zal plaatsvinden en onderweg zal sterven – dat betekent niet dat we deze toekomst niet serieus hoeven te nemen. Vergist u zich niet:
De singulariteit zal gebeuren. Alleen niet voor 2045.