Dlaczego osobliwość się wydarzy - ale nie do 2045 roku

Techniczna osobliwość, ukuta przez Vernora Vinge’a, a później spopularyzowana przez Raya Kurzweila, jest czymś, co naprawdę wywołuje silne opinie. Przykładem był jakiś czas temu, ten artykuł był na pierwszej stronie Version2 (duża duńska strona medialna IT) – nagłówek w języku angielskim: „Autor: Singularity to złe science fiction bez nauki”. Widziałem wiele takich artykułów na przestrzeni lat.

Ciekawe jest to, że ludzie wydają się albo pić Kool-Aid, albo być naysayerami wierzącymi, że osobliwość nigdy się nie wydarzy. Albo ludzie wydają się wierzyć, że będziemy żyć wiecznie, albo wszystko pozostanie po prostu takie samo. To polaryzujące podejście denerwuje mnie do cholery: aprawdę uważam, że ludzie, którzy słyszą o „osobliwości”, często się mylą.

Mylić się jest jednak łatwo.

W ciągu ostatniej dekady Singularity University, założony przez Petera Diamandisa i Raya Kurzweila, spopularyzował Singularity za pomocą grubego marketingu i bardzo drogich cen wstępu. Gruby marketing połączony z obietnicami, że zostaniemy załadowani do chmury i będziemy żyć wiecznie.

Mimo grubego marketingu, nie zgadzam się jednak, że Singularity to „złe science fiction bez nauki” – myślę, że to przyszłość, ku której zmierzamy. Szybko. Myślę tylko, że Peter Diamandis i Ray Kurzweil będą bardzo rozczarowani, jeśli spodziewają się żyć wiecznie.

Czym jest osobliwość?

Widziałem tak wiele różnych interpretacji tego, czym jest „osobliwość”: wszystko od „superinteligentnej AI” do „kiedy będziemy mogli żyć wiecznie”. Nawet brak właściwego punktu odniesienia jest problemem: po prostu nie można się spierać o to, czy coś się wydarzy, czy nie, jeśli nie zna się nawet punktu odniesienia.

Termin „osobliwość” jest używany w fizyce jako coś, poza co nie możemy wyjść. W „technicznej osobliwości” jest to to samo. Jest to punkt w przyszłości, w którym technologia rozwija się tak szybko, że jej rezultaty będą niezgłębione.

Wybierzmy ludzi około 70.000 lat temu, tuż po rewolucji poznawczej. Gdybyś wziął wehikuł czasu i umieścił w nim losowego człowieka z tamtych czasów, kliknął przycisk „zaktualizuj czas” i pokazał mu naszą teraźniejszość… Nasz biedny człowiek widziałby obecny świat jako niezgłębiony. Nie wiedziałby, co się dzieje z samochodami, Internetem i samolotami. Myślę, że można powiedzieć, że rok 2020 jest niezgłębiony z perspektywy kogoś sprzed 70.000 lat… Argumentem jest to, że Singularity, jest czymś takim z naszej perspektywy.

Pomysł osobliwości został mocno spopularyzowany przez Raya Kurzweila. Ray Kurzweil jest autorem wielu książek, ale najpopularniejszą z nich jest „The Singularity is Near” napisana w 2005 roku. Później wraz z Peterem Diamandisem założył Singularity University, który jeszcze bardziej spopularyzował ten termin na skalę światową.

Ray Kurzweil twierdzi, że osobliwość nastąpi do 2045 roku. Argumentuje to tym, że komputery rozwijają się nie liniowo, ale wykładniczo. Prognozując rozwój, twierdzi on, że w 2029 roku sztuczna inteligencja będzie tak inteligentna jak człowiek, a następnie będzie się rozwijać aż do momentu, gdy prędkość wzrośnie tak bardzo, że osiągniemy osobliwość w 2045 roku.

Czy osobliwość może się wydarzyć?

A teraz, wracając do teraźniejszości w 2020 roku: czy wydaje się to realistyczne?

Bądźmy szczerzy. Rozmowa z Siri nie sprawia, że wydaje się prawdopodobne, że w ciągu zaledwie 10 lat nie będziesz w stanie odróżnić człowieka od swojego asystenta w telefonie. Heck, nawet dziś zapytałem Siri na moich AirPods „czy będzie dziś padać?”, a ona odpowiada: „Oto co znalazłem na 'The Beatles’…

Things DO seem to move faster. Ale sztuczna inteligencja na poziomie zbliżonym do ludzkiego za 10 lat? Albo technologia poprawiająca się tak bardzo, że nie jesteśmy w stanie wyobrazić sobie świata w ciągu zaledwie 25 lat (2045 vs 2020)?

Jasne jest, że musi się wydarzyć coś bardzo drastycznego… Każda naturalna intuicja wyraźnie mówi nam, że to nierealne.

Dlaczego AI (sztuczna inteligencja) ciągle się pojawia

W dalszej części artykułu będę powtarzał AI tak, jakby to było to samo co Singularity. Oczywiście, nie są. Jednak AI jest główną częścią osiągnięcia Singularity.

Singularity zakłada, że prędkość wszystkiego będzie rosła coraz szybciej, coraz szybciej, coraz szybciej i szybciej – aż stanie się tak szybka, że będzie zbyt szybka, aby ją zrozumieć. To nigdy nie stanie się z naszymi ludzkimi mózgami – po prostu nie jesteśmy stworzeni do tego rodzaju rozwoju.

Dlatego jednym z kluczowych założeń jest to, że dostaniemy AI do pracy. Nie tylko poprawiając nieco Siri, ale faktycznie dochodząc do prawdziwego AI – nieodróżnialnego od człowieka. AI może poprawiać się szybciej, szybciej i szybciej, ponieważ nie jest ograniczone przez nasze ciała fizyczne.

Jedna z moich ulubionych stron, WaitButWhy, stworzyła absolutnie niesamowity artykuł wyjaśniający to dogłębnie.

Targ przeciwko Singularity

Singularity ma mnóstwo naysayerów. Dwa popularne przykłady:

Paul Allen: The Singularity Isn’t Near (współzałożyciel Microsoftu, zmarł w 2018)

Singularity Is a Religion Just for Digital Geeks

Dla mnie wydaje się, że można podzielić naysayerów na dwie grupy:

Grupa A: Ludzie, którzy po prostu nie wierzą, że Singularity się wydarzy – tacy jak ten, o którym wspomniałem na początku artykułu
Grupa B: Ludzie, którzy uważają, że Singularity może się wydarzyć, ale nie kupują terminu 2045. Artykuł Paula Allena jest tego świetnym przykładem

Myślę, że „Grupa A” jest po prostu naiwna. Weźmy naszego biednego człowieka sprzed 70.000 lat, którego teleportowaliśmy do teraźniejszości – świat jest dla niego niezgłębionym sensem. W jego oczach jesteśmy już Singularity. Myślę też, że to uczciwy argument, że jest bardzo prawdopodobne, że za 70.000 lat przejdziemy przez kolejną Osobliwość lub wymażemy całą populację.

Myślę też, że nikt nie będzie się spierał, że rozwój przebiega dziś wolniej niż 70.000 lat temu. Heck, nawet najbardziej negatywni naysayers prawdopodobnie nawet zgodzą się, że tempo jest 10-100x szybsze dzisiaj. Biorąc pod uwagę ten argument, powinniśmy przynajmniej oczekiwać nowej osobliwości technicznej w ciągu następnych 700-7.000 lat.

Oczywiście, niektórzy mogliby argumentować, że możliwe jest, że uderzymy w jakąś „ścianę technologiczną”, ale nie widziałem jeszcze przekonującego argumentu, że mogłoby się to zdarzyć.

To prowadzi nas do „Grupy B”, która po prostu mówi „Tak, osobliwość może się zdarzyć – po prostu nie jesteśmy blisko”. Jest to niezwykle ważne rozróżnienie.

Dyskusja nie powinna dotyczyć tego, czy osobliwość się wydarzy, ale kiedy. Ray Kurzweil mówi, że to zaledwie 25 lat, Paul Allen nie podaje liczby, ale ma bardzo dobre argumenty, dlaczego prawdopodobnie potrwa to dłużej, niż np. przewiduje Ray Kurzweil. Ale nawet Paul Allen prawdopodobnie zgodziłby się, że pomiędzy następnymi 25 a 7000 lat – tak – osobliwość już by się wydarzyła.

Okres czasu zależy od dwóch rzeczy: mocy obliczeniowej i tego, jak szybko pojawi się superinteligentna sztuczna inteligencja:

Podstawowe założenie: moc obliczeniowa rośnie wykładniczo

„The Singularity is Near” – książka Raya Kurzweila z 2005 roku, ma podstawowe założenie. Założeniem jest, że moc obliczeniowa rośnie wykładniczo. Dzięki wykładniczej poprawie, rzeczy będą działy się szybciej. To stworzy pozytywny, samonapędzający się cykl, czyniąc nas mądrzejszymi, szybszymi i lepszymi.

Jednakże naysayers mają całkiem ważny punkt: Prawo Mooresa przestało działać! Prawo Mooresa mówiło po prostu, że liczba tranzystorów, które możemy umieścić na chipie, będzie się podwajać mniej więcej co drugi rok. Jedynym wyzwaniem jest to, że w ciągu ostatnich wielu lat znacznie zwolniło.

To ważny problem dla osobliwości. Jest to główne i najważniejsze założenie dla osobliwości. Ale i tu nasi naysayersi i zwolennicy picia Kool-Aid znów nie rozumieją się nawzajem.

Tłum Singularity nie mówi o prawie Mooresa, ale o tym, „ile mocy obliczeniowej można kupić za 1.000 USD”. To nie jest to samo, co prawo Mooresa, ale znacznie szerszy termin. Termin ten pozwala na liczenie w GPU i jeszcze tańsze ceny z powodu masowej produkcji. Podczas gdy prawo Mooresa zdecydowanie spowolniło, moc obliczeniowa pr. 1.000 USD wydaje się rosnąć w tym samym tempie co zawsze. Przynajmniej na razie.

Nie jestem ekspertem w dziedzinie obliczeń, ale jest to bardzo ważny punkt. Jeśli ten rozwój spowolni, Singularity zostanie bardzo spowolnione. Powodem jest to, że kiedy jesteś na wykładniczej krzywej wzrostu, to zawsze ostatnie podwojenia znaczą najwięcej.

Bez większych osiągnięć algorytmów AI od dziesięcioleci

Czytając większość głównych magazynów technologicznych, wydaje się, że AI poprawia się jak szalona. Miliardy w funduszach, Chiny, Rosja i USA konkurują na poziomie narodowym.

To, co zaskakuje większość ludzi, to fakt, że algorytmy, których używamy, są takie same jak te, których używamy od dziesięcioleci. W środowisku akademickim, algorytmy są całkiem podobne do tych, które były dziesiątki lat temu. To, co się zmieniło, to ilość dostępnych danych w połączeniu z dostępną mocą obliczeniową.

Nie ma wątpliwości, że wielokrotne podwojenie ilości danych i mocy obliczeniowej przyniesie nam długą drogę. W ciągu najbliższych lat zobaczymy niesamowite rzeczy, które dzięki temu powstaną. Jednak bardzo ważnym argumentem jest również to, że nie możemy oczekiwać czujących maszyn od obecnych algorytmów. Ważnym argumentem jest to, że skoro Singularity jest zależne od superinteligentnej sztucznej inteligencji, nie możemy się jej spodziewać, chyba że dostaniemy poważny upgrade w algorytmach.

Trument ZA Singularity

Czy to się zmieni w ciągu następnej dekady lub dwóch?

Ja osobiście przypuszczam, że tak. Miliardy dolarów inwestowane są w projekty takie jak European Human Brain Project czy amerykańska BRAIN Initiative. Ale nie powinieneś mnie słuchać, ponieważ jest to jeden z podstawowych problemów fanbojów Singularity. Nie mam pojęcia, jak działa mózg, i nie mam pojęcia, jak daleko nam do zrozumienia lub inżynierii wstecznej mózgu.

Innym ciekawym wynalazkiem jest GPT-3.
Nie kopiujesz ptaka, żeby samolot latał. Samoloty nie wyglądają jak ptaki. Weźmy na przykład nowo ogłoszony model GPT-3 od openAI. Jeśli nie słyszałeś o tym, spróbuj Google wokół. To nie jest próba skopiowania tego, jak działa ludzki mózg. Zamiast tego, cytując artykuł: „Ale GPT-3, dla porównania, ma 175 miliardów parametrów – ponad 100 razy więcej niż jego poprzednik i dziesięć razy więcej niż porównywalne programy.”. Nie mam pojęcia, co oznacza 175 miliardów parametrów, ale widziałem próbki tekstu z tego programu. To niesamowite, co on potrafi zrobić. Jeśli to się poprawi przez 10 lat? Czy wtedy potrzebujemy nowych algorytmów?
(Prawdopodobnie tak, ale to ciekawe zobaczyć, jak daleko możemy się posunąć)

Trudno też argumentować, że nie stajemy się mądrzejsi. Peter Diamandis z „The Singularity University” uwielbia opowiadać: „Nawet biedne dziecko w Afryce z telefonem komórkowym ma dostęp do większej ilości informacji niż prezydent Stanów Zjednoczonych miał trzydzieści lat temu”. Mamy dostęp do większej ilości informacji, łatwiejszą współpracę i stoimy na znacznie wyższych barkach niż wcześniej.

Jeśli zakładasz dziś firmę lub chcesz coś zbadać, masz poziom dostępu i pomocy, który jest bezprecedensowy. Jeśli chcesz się czegoś nauczyć, masz wszystko na wyciągnięcie ręki.

Nie wiem, czy jest to prawdziwy argument „za” osobliwością. To, co bym powiedział, to:

Stajemy się coraz bardziej zdolni jako ludzie, z coraz większą prędkością
W coraz większym stopniu rozumiemy ludzki mózg – choć prawdopodobnie znacznie mniej niż wierzę, jeśli zapytam naukowca
Widzimy niesamowity rozwój w wąskiej AI, która czyni konkretnych kandydatów

Będę osobiście naprawdę zaskoczony, jeśli nie zobaczymy komputera zdającego test Turinga w ciągu 2045 r, i nie widzę, że jest to mało prawdopodobne, że nie stanie się to do 2029 roku, jak przewidział Ray Kurzweil. A potem, dalej, będziemy widzieć rzeczy coraz szybciej i szybciej.

Gdzie nas to pozostawia

To, co uczyniło zarówno Singularity, Raya Kurzweila i Petera Diamandisa tak sławnymi, to bardzo śmiałe stwierdzenia i podawanie konkretnych linii czasowych.

Trzeba być kontrowersyjnym, aby zwrócić na siebie uwagę. To, co zrobił Ray Kurzweil, a co zrobiło niewielu innych, to podanie konkretnych & publicznych terminów, kiedy jego zdaniem konkretne rzeczy się wydarzą. Te terminy spotkały się z wieloma krytykami. Kurzweil zazwyczaj twierdzi, że prawie wszystkie są poprawne, a dziennikarze, że prawie wszystkie są błędne.

Ale to, o czym tu zapominamy, to dlaczego Ray Kurzweil stworzył je w pierwszej kolejności. Ray Kurzweil, którego jestem wielkim fanem, zidentyfikował i ukuł termin osobliwość dla szerokiej publiczności. Rozumie on, jak ważne jest, aby cała koncepcja dotarła do opinii publicznej – do szerokiej publiczności. Najlepszy sposób na zwrócenie na siebie uwagi? Zrób śmiałe linie czasu.

Ale to, czego ludzie nie dostają: linie czasu nie mają znaczenia. To tylko marketing. To, co naprawdę się liczy, to przyszłość, ku której zmierzamy. Może nie jutro, może nie w 2045 roku – ale jako gatunek ludzki staniemy się naprawdę dziwni.

To, co czyni Osobliwość dziwną, to fakt, że jej konsekwencją będzie utopia. Utopia nieśmiertelności, superinteligentnej SI, darmowych dochodów dla każdego i mnóstwa czasu na eksplorację wszechświata w statkach kosmicznych.

Utopie są niebezpieczne dla racjonalnego umysłu. Utopie w połączeniu z nieśmiertelnością są jeszcze bardziej niebezpieczne. Mój największy problem z Singularity polega na tym, że jej „wynalazcy” przewidują, iż utopia i nieśmiertelność przypadkowo wydarzą się właśnie wtedy, gdy w przeciwnym razie umarliby ze starości. Wydaje mi się, że Singularity stało się kapsułą ratunkową. Nadzieją na życie wieczne.

Patrząc wstecz na historię, łatwo jest śmiać się z królów i odkrywców, którzy szukali fontanny młodości. Ale to ma sens. Śmierć jest przerażająca. Śmierć jest ostateczna. Wtedy wiara, że można znaleźć taką fontannę młodości była oparta na nadziei i bajkach. Dziś ta nadzieja opiera się na nauce.

I to prowadzi mnie do mojego ostatniego komentarza: ingularity mówi inteligentnym ludziom, że mogą żyć wiecznie. A ponieważ teraz mówimy inteligentnym ludziom, że nieśmiertelność jest opcją – zaczynamy traktować Singularity jak religię, choć nazywamy ją nauką. Dlatego właśnie widzimy ludzi, którzy mieszają naukę i bzdury w niebezpieczny koktajl. Połącz ten koktajl z chęcią bycia kontrowersyjnym, ponieważ daje to większy rozgłos i staje się to jeszcze bardziej niebezpieczne.

Jednakże. To, że Ray Kurzweil i Peter Diamandis nie mają racji, a Singularity prawdopodobnie nie wydarzy się do 2045 roku i zginiemy po drodze – nie oznacza, że nie musimy traktować tej przyszłości poważnie. Nie popełnijcie błędu: ingularity się wydarzy. Tylko nie do 2045 roku.

Why the singularity will happen – but not by 2045