Perché la singolarità avverrà – ma non entro il 2045

La singolarità tecnica, coniata da Vernor Vinge e poi resa popolare da Ray Kurzweil, è qualcosa che suscita davvero forti opinioni. Un esempio è stato qualche tempo fa, questo articolo era sulla prima pagina di Version2 (grande sito danese di media IT) – il titolo in inglese: “Autore: La singolarità è cattiva fantascienza senza scienza”. Ho visto molti di questi articoli nel corso degli anni.

Quello che è abbastanza interessante è che la gente sembra o bere il Kool-Aid o essere negazionisti credendo che la singolarità non accadrà mai. O la gente sembra credere che vivremo per sempre o tutto rimarrà semplicemente lo stesso. Questo approccio polarizzante mi infastidisce da morire:
Penso davvero che le persone che sentono parlare della “singolarità” spesso sbagliano tutto.

Sbagliare tutto, tuttavia, è facile.

Nell’ultimo decennio, la Singularity University, fondata da Peter Diamandis e Ray Kurzweil, ha reso popolare la Singolarità con un marketing denso e prezzi d’ingresso molto costosi. Marketing denso combinato con promesse di essere caricati nel cloud e vivere per sempre.

Nonostante il marketing denso, tuttavia, non sono d’accordo che la Singolarità sia “cattiva fantascienza senza scienza” – penso che sia il futuro verso cui stiamo andando. Velocemente. Penso solo che Peter Diamandis e Ray Kurzweil rimarranno molto delusi se si aspettano di vivere per sempre.

Che cos’è la singolarità?

Ho visto così tante interpretazioni diverse di cosa sia “la singolarità”: tutto da “AI superintelligente” a “quando potremo vivere per sempre”. Non avere nemmeno il punto di riferimento corretto è un problema: non si può semplicemente discutere se qualcosa accadrà o meno se non si conosce nemmeno il punto di riferimento.

Il termine “singolarità” è usato in fisica come qualcosa che non possiamo vedere oltre. Nella “singolarità tecnica” è la stessa cosa. È un punto nel futuro, dove la tecnologia si sta sviluppando così velocemente, che i risultati saranno insondabili.

Prendiamo l’uomo intorno a 70.000 anni fa, intorno alla rivoluzione cognitiva. Se prendete una macchina del tempo e mettete un umano a caso di quell’epoca, cliccate sul pulsante “aggiorna il tempo” e mostrategli il nostro presente… Il nostro povero umano vedrebbe il mondo attuale come insondabile. Non saprebbe cosa diavolo sta succedendo: automobili, Internet e aerei. Penso che sia giusto dire che il 2020 è insondabile dal punto di vista di qualcuno di 70.000 anni fa… L’argomento è che la Singolarità, è qualcosa di simile dalla nostra prospettiva.

L’idea della singolarità è stata pesantemente divulgata da Ray Kurzweil. Ray Kurzweil è l’autore di più libri, ma “La singolarità è vicina”, scritto nel 2005, è il più popolare. In seguito ha co-fondato la Singularity University con Peter Diamandis che ha ulteriormente reso popolare il termine su scala globale.

Ray Kurzweil sostiene che la singolarità avverrà entro il 2045. Il ragionamento è che l’informatica sta migliorando non linearmente, ma esponenzialmente. Prevedendo lo sviluppo, sostiene che nel 2029 l’intelligenza artificiale sarà intelligente come gli esseri umani, e poi migliorerà da lì fino a quando la velocità sarà migliorata così tanto da raggiungere la singolarità nel 2045.

Potrebbe accadere la singolarità?

Ora, torniamo al presente nel 2020: sembra realistico?

Siamo onesti. Parlare con Siri non fa sembrare probabile che tra soli 10 anni non si riesca a distinguere un umano dal proprio assistente al telefono. Diamine, anche oggi ho chiesto a Siri sui miei AirPods “pioverà oggi?”, e lei risponde: “Ecco cosa ho trovato su ‘The Beatles’…

Le cose sembrano muoversi più velocemente. Ma l’intelligenza artificiale sarà ai livelli di quella umana tra 10 anni? O la tecnologia che migliora così tanto che non possiamo immaginare il mondo in soli 25 anni (2045 vs 2020)?

È chiaro che deve succedere qualcosa di molto drastico… Qualsiasi intuizione naturale ci dice chiaramente che questo non è realistico.

Perché AI (intelligenza artificiale) continua a venire fuori

Nel resto dell’articolo, continuerò a ripetere AI come se fosse la stessa cosa della Singolarità. Ovviamente, non lo sono. Tuttavia, l’IA è una parte importante del raggiungimento della Singolarità.

La Singolarità presuppone che la velocità di ogni cosa aumenterà sempre più velocemente, e sempre più velocemente, e sempre più velocemente – fino a quando non diventerà troppo veloce da capire. Questo non accadrà mai con i nostri cervelli umani – semplicemente non siamo costruiti per quel tipo di sviluppo.

Ecco perché uno dei presupposti chiave è che facciamo funzionare l’IA. Non solo migliorando un po’ Siri, ma arrivando effettivamente a una vera IA – indistinguibile dagli umani. Un’IA può migliorare più velocemente, e più velocemente, e più velocemente perché non è limitata dai nostri corpi fisici.

Uno dei miei siti web preferiti, WaitButWhy, ha fatto un articolo assolutamente incredibile che spiega questo in profondità.

L’argomento contro la Singolarità

La Singolarità ha un sacco di oppositori. Due esempi popolari:

Paul Allen: The Singularity Isn Near (co-fondatore di Microsoft, morto nel 2018)

Singularity Is a Religion Just for Digital Geeks

A me, sembra che si possano dividere gli scettici in due gruppi:

• Gruppo A: Persone che semplicemente non credono che la Singolarità accadrà – tipi come quello che ho menzionato all’inizio dell’articolo
• Gruppo B: Persone che pensano che la Singolarità potrebbe accadere, ma non comprano la scadenza del 2045. L’articolo di Paul Allen è un grande esempio di questo

Penso che il “Gruppo A” sia semplicemente ingenuo. Prendete il nostro povero umano di 70.000 anni fa che abbiamo teletrasportato fino al presente – il mondo ha un significato insondabile per lui. Ai suoi occhi, siamo già una Singolarità. Penso anche che sia un argomento giusto che è estremamente probabile che in 70.000 anni avremo attraversato un’altra Singolarità o spazzato via l’intera popolazione.

Penso anche che nessuno potrebbe sostenere che lo sviluppo avviene più lentamente oggi che 70.000 anni fa. Diamine, anche i più negativi saranno probabilmente d’accordo che il ritmo è 10-100 volte più veloce oggi. Con questo argomento, dovremmo almeno aspettarci una nuova singolarità tecnica entro i prossimi 700-7.000 anni.

Certo, alcuni potrebbero sostenere che è possibile che potremmo colpire qualche “muro tecnologico”, ma non si è ancora visto un argomento convincente che possa accadere.

Questo ci porta al “Gruppo B”, che sta solo dicendo “Sì, una singolarità potrebbe accadere – semplicemente non siamo vicini”. Questa è una distinzione estremamente importante.

La discussione non dovrebbe essere se la Singolarità accadrà, ma quando. Ray Kurzweil dice che si tratta di soli 25 anni, Paul Allen non mette un numero ma ha ottimi argomenti per cui probabilmente ci vorrà più tempo di quanto, ad esempio, Ray Kurzweil si aspetta. Ma anche Paul Allen sarebbe probabilmente d’accordo che tra i prossimi 25 e 7.000 anni – sì – la singolarità sarebbe avvenuta.

La linea temporale dipende molto da due cose: la potenza di calcolo e quanto velocemente stiamo ottenendo un’intelligenza artificiale superintelligente:

L’ipotesi di fondo: la potenza di calcolo continua a crescere esponenzialmente

“La singolarità è vicina” – il libro di Ray Kurzweil del 2005, ha un’ipotesi di fondo. Il presupposto è che la potenza di calcolo migliora esponenzialmente. Migliorando esponenzialmente, le cose si muoveranno più velocemente. Questo creerà un ciclo positivo auto-rinforzante, rendendoci più intelligenti, più veloci e migliori.

Tuttavia, gli scettici hanno un punto abbastanza valido: La legge di Moores ha smesso di funzionare! La legge di Moores era semplicemente che il numero di transistor che possiamo mettere su un chip sarebbe raddoppiato all’incirca ogni due anni. L’unica sfida è che ha rallentato significativamente negli ultimi anni.

Questo è un problema valido per la singolarità. Questo è il presupposto principale e più importante per la singolarità. Ma questo è anche il punto in cui i nostri scettici e i bevitori di Kool-Aid si fraintendono di nuovo.

La folla della singolarità non parla della legge di Moores, ma di “quanta potenza di calcolo si può comprare per 1.000 dollari”. Non è la stessa cosa della legge di Moores, ma un termine molto più ampio. Questo termine permette di contare in GPU e prezzi ancora più economici a causa della produzione di massa. Mentre la legge di Moores ha sicuramente rallentato, la potenza di calcolo pr. 1.000 USD sembra migliorare alla stessa velocità di sempre. Almeno per ora.

Non sono un esperto di calcolo, ma questo è un punto molto valido. Se questo sviluppo rallenta, la Singolarità sarà molto rallentata. Il motivo è che quando sei su una curva di crescita esponenziale, sono sempre gli ultimi raddoppi che significano di più.

Nessuno sviluppo importante di algoritmi di IA per decenni

Leggendo la maggior parte delle principali uscite tecnologiche, sembra che l’IA stia migliorando come un pazzo. Miliardi di finanziamenti, Cina, Russia e concorrenza statunitense a livello nazionale.

Quello che sorprende la maggior parte delle persone, è che gli algoritmi di base che usiamo sono gli stessi che abbiamo usato per decenni. Nel mondo accademico, gli algoritmi sono praticamente gli stessi oggi come decenni fa. Ciò che è cambiato è la quantità di dati disponibili in combinazione con la potenza di calcolo disponibile.

Non c’è dubbio che il raddoppio dei dati e della potenza di calcolo ci porterà molto lontano. Durante i prossimi anni vedremo cose incredibili fatte da questo. Tuttavia, è anche un argomento molto valido che non possiamo aspettarci macchine senzienti dagli algoritmi attuali. Un argomento valido è che poiché la Singolarità dipende da un’intelligenza artificiale superintelligente, non possiamo aspettarci che accada a meno che non ci sia un serio aggiornamento degli algoritmi.

L’argomento PER la Singolarità

Cambierà nei prossimi dieci o due anni?

Io personalmente credo di sì. Miliardi di dollari vengono investiti in progetti come l’European Human Brain Project e l’American BRAIN Initiative. Ma non dovreste ascoltarmi, perché questo è uno dei problemi principali dei fan-boy della Singolarità. Non ho idea di come funzioni il cervello, e non ho idea di quanto siamo lontani dalla comprensione o dal reverse-engineer del cervello.

Un altro interessante sviluppo recente è GPT-3.
Non si copia un uccello, per far volare un aereo. Gli aerei non assomigliano agli uccelli. Prendete il modello GPT-3 appena annunciato da openAI. Se non ne avete sentito parlare, provate a cercare su Google. Non sta cercando di copiare come funziona il cervello umano. Invece, per citare l’articolo: “Ma GPT-3, in confronto, ha 175 miliardi di parametri – più di 100 volte più del suo predecessore e dieci volte più di programmi comparabili”. Non ho idea di cosa significhi 175 miliardi di parametri, ma ho visto i campioni di testo di questo programma. È incredibile quello che può fare. Se questo ottiene 10 anni di miglioramento? Abbiamo allora bisogno di nuovi algoritmi?
(Probabilmente sì, ma è interessante vedere fin dove possiamo arrivare)

È anche difficile sostenere che non diventiamo più intelligenti. La storia che Peter Diamandis di ‘The Singularity University’ ama raccontare: “Anche un bambino povero in Africa con un cellulare ha accesso a più informazioni di quante ne avesse il presidente degli Stati Uniti trent’anni fa”. Abbiamo accesso a più informazioni, una collaborazione più facile e ci troviamo su spalle molto più alte di prima.

Se stai avviando un’azienda oggi o vuoi ricercare qualcosa, hai un livello di accesso e aiuto che non ha precedenti. Se vuoi imparare qualcosa, hai tutto a portata di mano.

Non so se questo sia un vero argomento “per” la singolarità. Quello che direi è:

• Stiamo diventando sempre più capaci come esseri umani, con una velocità crescente
• Stiamo comprendendo sempre di più il cervello umano – anche se probabilmente molto meno di quanto credo se chiedo a uno scienziato
• Stiamo vedendo sviluppi sorprendenti nell’IA stretta che fa candidati specifici

Personalmente sarei davvero sorpreso se non vedessimo un computer che supera il test di Turing entro il 2045, e non vedo improbabile che non accada entro il 2029 come previsto da Ray Kurzweil. E poi in seguito, vedremo cose sempre più veloci.

Dove ci lascia tutto questo

Quello che ha reso così famosi sia la Singolarità, Ray Kurzweil e Peter Diamandis, sono dichiarazioni molto audaci e che danno scadenze specifiche.

È necessario essere controversi per ottenere attenzione. Quello che Ray Kurzweil ha fatto, e che pochissimi altri hanno fatto, è fare specifiche & scadenze pubbliche su quando pensa che accadranno determinate cose. Queste scadenze hanno ricevuto molte critiche. Kurzweil tipicamente sostenendo che è quasi tutto corretto e i giornalisti dicendo che è quasi tutto sbagliato.

Ma quello che dimentichiamo qui è il motivo per cui Ray Kurzweil le ha fatte in primo luogo. Ray Kurzweil, di cui sono un grande fan, ha identificato e coniato il termine singolarità per un vasto pubblico. Capisce l’importanza di far conoscere l’intero concetto al pubblico – ad un vasto pubblico. Il modo migliore per ottenere questa attenzione? Fare timeline audaci.

Ma quello che la gente non capisce: le timeline non contano. Sono marketing. Quello che conta davvero è il futuro verso cui stiamo andando. Forse non domani, forse non nel 2045 – ma come specie umana le cose stanno per diventare davvero strane.

Quello che rende strana la Singolarità è che la conseguenza sarà un’utopia. Un’utopia di immortalità, IA superintelligente, reddito gratuito per tutti, e un sacco di tempo per esplorare l’universo in astronavi.

Le utopie sono una cosa pericolosa per la mente razionale. Le utopie combinate con l’immortalità sono ancora più pericolose. Il mio più grande problema con la Singolarità è che i suoi “inventori” prevedono che l’utopia e l’immortalità si verifichino per coincidenza proprio quando altrimenti morirebbero di vecchiaia. A me sembra che la Singolarità sia diventata una capsula di salvataggio. Una speranza di vivere per sempre.

Guardando indietro nella storia, è facile ridere di tutti i re e gli esploratori che hanno cercato la fonte della giovinezza. Ma ha senso. La morte fa paura. La morte è definitiva. Allora la convinzione di poter trovare una tale fonte di giovinezza era fondata sulla speranza e sulle favole. Oggi questa speranza è basata sulla scienza.

E questo mi porta al mio commento finale:
La Singolarità dice alle persone intelligenti che possono vivere per sempre. E poiché ora diciamo alle persone intelligenti che l’immortalità è un’opzione – cominciamo a trattare la Singolarità come una religione, ma chiamarla è scienza. Questo è il motivo per cui vediamo persone che mescolano scienza e stronzate in un cocktail pericoloso. Combinate questo cocktail con il desiderio di essere controversi perché questo dà più pubblicità e diventa ancora più pericoloso.

Comunque. Solo perché Ray Kurzweil e Peter Diamandis hanno torto, e la Singolarità probabilmente non avverrà entro il 2045 e morirà lungo il cammino – non significa che non dobbiamo prendere sul serio questo futuro. Non fate errori:
La singolarità accadrà. Solo non entro il 2045.