Porquê a singularidade acontecerá – mas não até 2045

A singularidade técnica, cunhada por Vernor Vinge e mais tarde popularizada por Ray Kurzweil, é algo que realmente suscita fortes opiniões. Um exemplo foi há algum tempo atrás, este artigo estava na primeira página da Version2 (grande site dinamarquês de meios de comunicação IT) – a manchete em inglês: “Autor: Singularidade é má ficção científica sem ciência”. Tenho visto muitos destes artigos ao longo dos anos.

O que é bastante interessante é que as pessoas parecem ou beber o Kool-Aid OU não acreditarem que a singularidade nunca acontecerá. Ou as pessoas parecem acreditar que viveremos para sempre ou tudo permanecerá simplesmente na mesma. Esta abordagem polarizadora aborrece-me:
Eu realmente penso que as pessoas que ouvem falar sobre “a singularidade” muitas vezes entendem tudo mal.

Entretornar tudo mal, no entanto, é fácil.

p>Durante a última década, a Universidade Singularity, fundada por Peter Diamandis e Ray Kurzweil, popularizou a Singularity com um grosso marketing e preços de admissão muito caros. Marketing espesso combinado com promessas de ser carregado para a nuvem e viver para sempre.

Apesar do marketing espesso, contudo, não concordo que a Singularidade seja “má ficção científica sem ciência” – penso que é o futuro para o qual estamos a caminhar. Rápido. Penso apenas que Peter Diamandis e Ray Kurzweil ficarão muito desapontados se esperarem viver para sempre.

Qual é a singularidade?

Vi tantas interpretações diferentes do que é “a singularidade”: tudo desde “IA superinteligente” até “quando podemos viver para sempre”. Nem sequer ter o ponto de referência correcto é um problema: simplesmente não se pode discutir se algo vai acontecer ou não se nem sequer se conhece o ponto de referência.

O termo “singularidade” é usado na física como algo que não podemos ver mais além. Na “singularidade técnica”, é a mesma coisa. É um ponto no futuro, onde a tecnologia se está a desenvolver tão rapidamente, que os resultados serão insondáveis.

P>Passar os humanos há apenas cerca de 70.000 anos, apenas em torno da revolução cognitiva. Se pegar numa máquina do tempo e colocar um humano aleatório desse tempo, clique no botão “update time”, e mostre-lhe o nosso presente… O nosso pobre humano veria o mundo actual como insondável. Ele não saberia o que se passava na Terra: carros, Internet, e aviões. Penso que é justo dizer que 2020 é insondável da perspectiva de alguém de 70.000 anos atrás… O argumento é que a Singularidade, é algo assim da nossa perspectiva.

A ideia da singularidade foi fortemente popularizada por Ray Kurzweil. Ray Kurzweil é o autor de vários livros, mas “A Singularidade está perto” escrito em 2005, é o mais popular. Mais tarde co-fundou a Universidade da Singularidade com Peter Diamandis, que popularizou ainda mais o termo à escala global.

Ray Kurzweil argumenta que a singularidade irá acontecer até 2045. O raciocínio é que a computação está a melhorar não de forma linear, mas exponencialmente. Ao prever o desenvolvimento, ele argumenta que em 2029, a inteligência artificial será tão inteligente como os seres humanos, e depois melhorará a partir daí até que a velocidade tenha melhorado tanto que atingimos a singularidade em 2045.

Pode a singularidade acontecer?

Agora, de volta ao presente em 2020: parece realista?

p>Sejamos honestos. Falar com Siri não faz parecer provável que, em apenas 10 anos, não se consiga distinguir entre um humano e o seu assistente ao telefone. Raios, ainda hoje perguntei à Siri no meu AirPods “vai chover hoje?”, e ela respondeu: “Eis o que encontrei em ‘The Beatles’…

As coisas parecem andar mais depressa. Mas sendo a inteligência artificial níveis semelhantes aos humanos em 10 anos? Ou a tecnologia a melhorar tanto que não conseguimos sondar o mundo em apenas 25 anos (2045 vs 2020)?

É claro que algo muito drástico precisa de acontecer… Qualquer intuição natural diz-nos claramente que isto não é realista.

Por que é que a IA (inteligência artificial) continua a subir

No resto do artigo, vou continuar a repetir a IA como se fosse o mesmo que a Singularidade. Obviamente, não são. No entanto, a IA é uma parte importante para alcançar a Singularidade.

A Singularidade assume que a velocidade de tudo aumentará mais rapidamente, e mais rapidamente, e cada vez mais rapidamente – até chegar ao ponto de ser demasiado rápido para compreender. Isso nunca acontecerá com os nossos cérebros humanos – simplesmente não somos construídos para esse tipo de desenvolvimento.

É por isso que uma das principais suposições, é que fazemos com que a IA funcione. Não apenas melhorando um pouco o Siri, mas chegando realmente a uma verdadeira IA – forma indistinguível de humanos. Uma IA pode melhorar mais rapidamente, e mais rapidamente, e mais rapidamente, pois não é limitada pelos nossos corpos físicos.

p>Um dos meus sites favoritos, WaitButWhy, fez um artigo absolutamente espantoso explicando este aprofundamento.

O argumento contra a Singularidade

A Singularidade tem muitos opositores. Dois exemplos populares:

Paul Allen: The Singularity Isn’t Near (co-fundador da Microsoft, morreu em 2018)

Singularity Is a Religion Just for Digital Geeks

Para mim, parece que se pode dividir os opositores em dois grupos:

• Grupo A: Pessoas que simplesmente não acreditam que a Singularidade vai acontecer – tipos como aquele que mencionei no início do artigo
• Grupo B: Pessoas que pensam que a Singularidade pode acontecer, mas não compram o prazo de 2045. O artigo de Paul Allen é um grande exemplo disto

Penso que o “Grupo A” é simplesmente ingénuo. Tomemos o nosso pobre humano de há 70.000 anos atrás, teleportamos até ao presente – o mundo é para ele um significado insondável. Aos seus olhos, nós já somos uma Singularidade. Também penso ser um argumento justo que é extremamente provável que dentro de 70.000 anos tenhamos passado por outra Singularidade ou eliminado toda a população.

Também penso que ninguém argumentaria que o desenvolvimento acontece mais lentamente hoje do que há 70.000 anos atrás. Caramba, mesmo os opositores mais negativos provavelmente até concordarão que o ritmo é 10-100x mais rápido hoje em dia. Com este argumento, deveríamos pelo menos esperar uma nova singularidade técnica nos próximos 700-7.000 anos.

De facto, alguns argumentariam que é possível que possamos atingir algum “muro tecnológico”, mas ainda falta ver um argumento convincente de que isto poderia acontecer.

Isto leva-nos ao “Grupo B”, que estão apenas a dizer “Sim, uma singularidade poderia acontecer – nós simplesmente não estamos perto”. Esta é uma distinção extremamente importante.

A discussão não deve ser se a Singularidade vai acontecer, mas sim quando. Ray Kurzweil diz que são apenas 25 anos, Paul Allen não coloca um número, mas tem argumentos muito bons para que provavelmente leve mais tempo do que, por exemplo, Ray Kurzweil espera. Mas até Paul Allen concordaria provavelmente que entre os próximos 25 a 7.000 anos – sim – a singularidade teria acontecido.

A linha temporal depende muito de duas coisas: poder computacional e a rapidez com que estamos a obter inteligência artificial superinteligente:

A suposição subjacente: o poder computacional continua a crescer exponencialmente

“The Singularity is Near” – o livro de Ray Kurzweil de 2005, tem uma suposição subjacente. A suposição é que o poder computacional melhora exponencialmente. Ao melhorar exponencialmente, as coisas irão avançar mais rapidamente. Isto fará um ciclo positivo de auto-reforço, tornando-nos mais inteligentes, mais rápidos, e melhores.

No entanto, os opositores têm um ponto bastante válido: A lei de Moores deixou de funcionar! A lei de Moores era simplesmente que o número de transístores que podemos colocar num chip duplicaria aproximadamente a cada dois anos. O único desafio é que abrandou significativamente durante os últimos anos.

Isso é um problema válido para a singularidade. Este é o pressuposto principal e mais importante para a singularidade. Mas é também aqui que os nossos opositores e bebedores de Kool-Aid voltam a entender mal each-outros.

A multidão da Singularidade não fala da lei de Moores, mas “quanto poder de computação se pode comprar por 1.000 USD”. Isto não é o mesmo que a lei de Moores, mas um termo muito mais amplo. Este termo permite a contagem em GPU’s e até mesmo preços mais baratos devido à produção em massa. Embora a lei de Moores tenha abrandado definitivamente, o poder de cálculo pr. 1.000 USD parece melhorar à mesma velocidade de sempre. Pelo menos por agora.

Não sou especialista em computação, mas este é um ponto muito válido. Se este desenvolvimento abrandar, a Singularidade será muito retardada. A razão é que, quando se está numa curva de crescimento exponencial, são sempre as últimas duplicações que significam mais.

Nenhum grande desenvolvimento de algoritmo de IA durante décadas

Lendo a maior parte dos principais pontos de venda de tecnologia, parece que a IA está a melhorar como uma loucura. Biliões em financiamento, China, Rússia e competição dos EUA a nível nacional.

O que surpreende a maioria das pessoas, são os algoritmos subjacentes que utilizamos são os mesmos que utilizamos há décadas. No meio académico, os algoritmos são praticamente os mesmos hoje em dia que eram há décadas atrás. O que mudou é a quantidade de dados disponíveis em combinação com o poder computacional disponível.

Não há dúvida de que as muitas duplicações nos dados e no poder computacional nos trarão um longo caminho. Durante os próximos anos, veremos coisas espantosas feitas a partir disto. No entanto, é também um argumento muito válido que não podemos esperar máquinas sencientes dos actuais algoritmos. Um argumento válido é que, uma vez que a Singularidade depende de inteligência artificial superinteligente, não podemos esperar que isso aconteça a menos que obtenhamos uma actualização séria nos algoritmos.

O argumento DA Singularidade

Alteraremos esta mudança na próxima década ou duas?

P>Pessoa pessoalmente que sim. Biliões de dólares estão a ser investidos em projectos como o Projecto Europeu do Cérebro Humano e a Iniciativa Americana BRAIN. Mas, não me devem dar ouvidos, pois esse é um dos problemas centrais dos fan-boys da Singularidade. Não faço ideia de como funciona o cérebro, e não faço ideia de quão longe estamos de compreender ou de fazer engenharia inversa do cérebro.

p> Outro desenvolvimento recente interessante é o GPT-3.
Não se copia um pássaro, para fazer voar um avião. Os aviões não se parecem com pássaros. Pegue no recém anunciado modelo GPT-3 do openAI. Se ainda não ouviu falar disso, tente pesquisar no Google. Não é tentar copiar a forma como o cérebro humano funciona. Em vez disso, para citar o artigo: “Mas o GPT-3, em comparação, tem 175 mil milhões de parâmetros – mais de 100 vezes mais do que o seu predecessor e dez vezes mais do que programas comparáveis”. Não faço ideia do que significam 175 mil milhões de parâmetros, mas já vi as amostras de texto deste programa. É espantoso o que ele pode fazer. Se este conseguir 10 anos de melhorias? Será que precisamos então de novos algoritmos?
(Provavelmente precisamos, mas é interessante ver até onde podemos chegar)

Também é difícil argumentar que não ficamos mais espertos. A história que Peter Diamandis da ‘The Singularity University’ adora contar: “Mesmo uma criança pobre em África com um telemóvel tem acesso a mais informação do que o presidente dos Estados Unidos tinha há trinta anos atrás”. Temos acesso a mais informação, colaboração mais fácil e estamos em ombros muito mais altos do que antes.

Se está a criar uma empresa hoje ou quer pesquisar algo, tem um nível de acesso e ajuda sem precedentes. Se quiser aprender alguma coisa, tem tudo na ponta dos dedos.

Não sei se este é um verdadeiro argumento “para” a singularidade. O que eu diria é:

• Estamos a ficar cada vez mais capazes como humanos, com uma velocidade crescente
• Estamos a compreender cada vez mais o cérebro humano – embora provavelmente muito menos do que acredito se perguntar a um cientista
• Estamos a ver desenvolvimentos espantosos em IA estreita que faz candidatos específicos

Ficaria pessoalmente surpreendido se não víssemos um computador a passar o teste de Turing dentro de 2045, e não vejo que seja improvável que isso não aconteça até 2029, como Ray Kurzweil previu. E depois, veremos as coisas cada vez mais depressa.

Onde é que isto nos deixa

O que tornou tanto a Singularidade, Ray Kurzweil e Peter Diamandis tão famosos, são afirmações muito ousadas e dando prazos específicos.

É preciso ser controverso para chamar a atenção. O que Ray Kurzweil fez, que muito poucos outros fizeram, foi fazer & prazos públicos sobre quando ele pensa que coisas específicas irão acontecer. Estes prazos têm recebido muitas críticas. Kurzweil tipicamente argumenta que está quase todo correcto e os jornalistas dizem que ele está quase todo errado.

Mas o que esquecemos aqui é porque Ray Kurzweil as fez em primeiro lugar. Ray Kurzweil, de quem sou um grande fã, identificou e cunhou o termo singularidade para uma grande audiência. Ele compreende a importância de levar todo o conceito ao público – a uma grande audiência. A melhor forma de obter esta atenção? Faça linhas de tempo ousadas.

Mas o que as pessoas não entendem: as linhas de tempo não importam. Elas estão a fazer marketing. O que realmente importa é o futuro para o qual estamos a caminhar. Talvez não amanhã, talvez não em 2045 – mas, como espécie humana, as coisas estão prestes a tornar-se realmente estranhas.

O que torna a Singularidade estranha, é que a consequência será uma utopia. Uma utopia de imortalidade, IA super-inteligente, rendimento gratuito para todos, e muito tempo para explorar o universo em naves espaciais.

Utopias são uma coisa perigosa para a mente racional. As utopias combinadas com a imortalidade são ainda mais perigosas. A minha maior chatice com a Singularidade é que os seus “inventores” prevêem que a utopia e a imortalidade acontecerão por coincidência, quando de outra forma morreriam de velhice. Para mim, ao que parece, a Singularidade tornou-se uma cápsula de fuga. Uma esperança de viver para sempre.

Levendo para trás durante a história, é fácil rir de todos os reis e exploradores que procuraram a fonte da juventude. Mas faz sentido. A morte é assustadora. A morte é definitiva. Nessa altura, a crença de que se podia encontrar uma tal fonte da juventude foi fundada na esperança e nas fábulas. Hoje esta esperança é baseada na ciência.

E isto leva-me ao meu comentário final:
A Singularidade diz às pessoas inteligentes que podem viver para sempre. E porque agora dizemos às pessoas espertas que a imortalidade é uma opção – começamos a tratar A Singularidade como uma religião, mas o chamamento é ciência. É por isso que vemos pessoas a misturar ciência e tretas num cocktail perigoso. Combine este cocktail com um desejo de ser controverso, pois isso dá mais publicidade e torna-se ainda mais perigoso.

No entanto. Só porque Ray Kurzweil e Peter Diamandis estão errados, e a Singularidade provavelmente não acontecerá até 2045 e morrerá no caminho – isso não significa que não tenhamos de levar este futuro a sério. Não se enganem:
A singularidade vai acontecer. Só não até 2045.