Pourquoi la singularité se produira – mais pas d’ici 2045
La singularité technique, inventée par Vernor Vinge et popularisée ensuite par Ray Kurzweil, est quelque chose qui suscite vraiment de fortes opinions. Un exemple : il y a quelque temps, cet article était à la une de Version2 (grand site médiatique informatique danois) – le titre en anglais : « Auteur : Singularity is bad science fiction without science ». J’ai vu beaucoup de ces articles au fil des ans.
Ce qui est assez intéressant, c’est que les gens semblent soit boire le Kool-Aid OU être des rabat-joie croyant que la singularité n’arrivera jamais. Soit les gens semblent croire que nous vivrons éternellement, soit tout restera simplement le même. Cette approche polarisée m’agace au plus haut point :
Je pense vraiment que les gens qui entendent parler de « la singularité » ont souvent tout faux.
C’est pourtant facile de tout faux.
Au cours de la dernière décennie, la Singularity University, fondée par Peter Diamandis et Ray Kurzweil, a popularisé la singularité avec un marketing épais et des prix d’entrée très élevés. Un marketing épais combiné à des promesses d’être téléchargé dans le cloud et de vivre éternellement.
Malgré le marketing épais, cependant, je ne suis pas d’accord pour dire que la Singularité est de la « mauvaise science-fiction sans science » – je pense que c’est l’avenir vers lequel nous nous dirigeons. Rapide. Je pense simplement que Peter Diamandis et Ray Kurzweil seront très déçus s’ils s’attendent à vivre éternellement.
Qu’est-ce que la singularité ?
J’ai vu tellement d’interprétations différentes de ce qu’est « la singularité » : tout va de « IA superintelligente » à « quand nous pourrons vivre éternellement ». Le fait de ne même pas avoir le bon point de référence est un problème : vous ne pouvez tout simplement pas argumenter pour savoir si quelque chose va se produire ou non si vous ne connaissez même pas votre point de référence.
Le terme « singularité » est utilisé en physique comme quelque chose que nous ne pouvons pas voir au-delà. Dans la « singularité technique », c’est la même chose. C’est un point dans le futur, où la technologie se développe si vite, que les résultats seront insondables.
Prenez les humains il y a environ 70.000 ans, juste autour de la révolution cognitive. Si vous preniez une machine à remonter le temps et mettiez un humain aléatoire de cette époque, cliquiez sur le bouton « mettre à jour le temps », et lui montriez notre présent… Notre pauvre humain verrait le monde actuel comme insondable. Il ne saurait pas ce qui se passe : les voitures, l’Internet et les avions. Je pense qu’il est juste de dire que 2020 est insondable du point de vue de quelqu’un d’il y a 70.000 ans… L’argument est que la Singularité, est quelque chose comme cela de notre point de vue.
L’idée de la singularité a été fortement popularisée par Ray Kurzweil. Ray Kurzweil est l’auteur de multiples livres, mais « The Singularity is Near » écrit en 2005, est le plus populaire. Il a ensuite cofondé avec Peter Diamandis l’université de la singularité qui a encore popularisé le terme à l’échelle mondiale.
Ray Kurzweil soutient que la singularité se produira d’ici 2045. Son raisonnement est que l’informatique s’améliore non pas de manière linéaire, mais exponentielle. En prévoyant le développement, il affirme qu’en 2029, l’intelligence artificielle sera aussi intelligente que les êtres humains, puis s’améliorera à partir de là jusqu’à ce que la vitesse se soit tellement améliorée que nous atteindrons la singularité en 2045.
La singularité pourrait-elle se produire ?
Maintenant, revenons au présent en 2020 : cela semble-t-il réaliste ?
Sommes honnêtes. En parlant à Siri, il ne semble pas probable que dans seulement 10 ans, vous ne puissiez pas faire la différence entre un humain et votre assistant au téléphone. Aujourd’hui encore, j’ai demandé à Siri sur mes AirPods « Est-ce qu’il va pleuvoir aujourd’hui ? », et elle me répond : » Voici ce que j’ai trouvé sur ‘Les Beatles’…
Les choses semblent VRAIMENT aller plus vite. Mais l’intelligence artificielle étant de niveau humain dans 10 ans ? Ou une technologie s’améliorant tellement que nous ne pouvons pas concevoir le monde dans seulement 25 ans (2045 vs 2020) ?
Il est clair que quelque chose de très assez drastique doit se produire… Toute intuition naturelle nous dit clairement que c’est irréaliste.
Pourquoi l’IA (intelligence artificielle) revient sans cesse
Dans le reste de l’article, je vais continuer à répéter l’IA comme si c’était la même chose que la Singularité. De toute évidence, ce n’est pas le cas. Cependant, l’IA est une partie importante de l’atteinte de la Singularité.
La Singularité suppose que la vitesse de tout augmentera plus vite, et plus vite, et plus vite et plus vite – jusqu’à ce que cela devienne trop rapide pour être compris. Cela n’arrivera jamais avec nos cerveaux humains – nous ne sommes tout simplement pas construits pour ce type de développement.
C’est pourquoi l’une des hypothèses clés, est que nous fassions fonctionner l’IA. Pas seulement en améliorant un peu Siri, mais en arrivant à une véritable IA – indiscernable des humains. Une IA peut s’améliorer plus vite, et plus vite, et plus vite car elle n’est pas limitée par nos corps physiques.
Un de mes sites web préférés, WaitButWhy, a fait un article absolument incroyable expliquant cela en profondeur.
L’argument contre la Singularité
La Singularité a beaucoup de détracteurs. Deux exemples populaires :
Paul Allen : La Singularité n’est pas proche (cofondateur de Microsoft, décédé en 2018)
La Singularité est une religion juste pour les geeks du numérique
Pour moi, il semble que l’on puisse diviser les récalcitrants en deux groupes :
- Groupe A : Les gens qui ne croient tout simplement pas que la Singularité se produira – des gars comme celui que j’ai mentionné au début de l’article
- Groupe B : Les gens qui pensent que la Singularité pourrait se produire, mais n’achètent pas l’échéance de 2045. L’article de Paul Allen en est un excellent exemple
Je pense que le « groupe A » est simplement naïf. Prenez notre pauvre humain d’il y a 70.000 ans que nous avons téléporté jusqu’au présent – le monde a un sens insondable pour lui. A ses yeux, nous sommes déjà une Singularité. Je pense également que c’est un argument juste qu’il est extrêmement probable que dans 70.000 ans nous aurons traversé une autre Singularité ou effacé toute la population.
Je pense également que personne ne soutiendra que le développement se produit plus lentement aujourd’hui qu’il y a 70.000 ans. Heck, même les plus négatifs des détracteurs seront même d’accord que le rythme est 10-100x plus rapide aujourd’hui. Avec cet argument, nous devrions au moins nous attendre à une nouvelle singularité technique dans les 700-7.000 prochaines années.
Bien sûr, certains diront qu’il est possible que nous nous heurtions à un certain « mur technologique », mais il reste à voir un argument convaincant que cela pourrait se produire.
Ceci nous amène au « groupe B », qui dit simplement « Ouais, une singularité pourrait se produire – nous ne sommes tout simplement pas près ». C’est une distinction extrêmement importante.
La discussion ne devrait pas être de savoir si la Singularité va se produire, mais quand. Ray Kurzweil dit que c’est à peine 25 ans, Paul Allen ne met pas de chiffre mais a de très bons arguments pour expliquer que cela va probablement prendre plus de temps que ce que prévoit par exemple Ray Kurzweil. Mais même Paul Allen serait probablement d’accord pour dire qu’entre les 25 et 7 000 prochaines années – oui – la singularité se serait produite.
La chronologie dépend beaucoup de deux choses : la puissance de calcul et la vitesse à laquelle nous obtenons une intelligence artificielle superintelligente :
L’hypothèse sous-jacente : la puissance de calcul continue de croître de manière exponentielle
« The Singularity is Near » – le livre de Ray Kurzweil de 2005, a une hypothèse sous-jacente. Cette hypothèse est que la puissance de calcul s’améliore de manière exponentielle. En s’améliorant exponentiellement, les choses iront plus vite. Cela fera un cycle positif auto-renforcé, nous rendant plus intelligents, plus rapides et meilleurs.
Cependant, les opposants ont un point assez valable : La loi de Moores a cessé de fonctionner ! La loi de Moores était simplement que le nombre de transistors que nous pouvons mettre sur une puce doublerait à peu près tous les deux ans. Le seul défi est que cela a ralenti de manière significative au cours des dernières années.
C’est un problème valable pour la singularité. C’est l’hypothèse principale et la plus importante pour la singularité. Mais c’est aussi là que nos opposants et les buveurs de Kool-Aid se comprennent de nouveau mal.
La foule de la singularité ne parle pas de la loi de Moores, mais de « combien de puissance de calcul vous pouvez acheter pour 1.000 USD ». Ce n’est pas la même chose que la loi de Moores, mais un terme beaucoup plus large. Ce terme permet de compter les GPU et d’obtenir des prix encore plus bas grâce à la production de masse. Alors que la loi de Moores a définitivement ralenti, la puissance de calcul pr. 1.000 USD semble s’améliorer à la même vitesse que toujours. Du moins pour l’instant.
Je ne suis pas un expert en calcul, mais c’est un point très valable. Si ce développement ralentit, la Singularité sera beaucoup ralentie. La raison est que, lorsque vous êtes sur une courbe de croissance exponentielle, ce sont toujours les derniers doublements qui signifient le plus.
Pas de développements majeurs d’algorithmes d’IA depuis des décennies
En lisant la plupart des grands médias technologiques, il semble que l’IA s’améliore comme un fou. Des milliards de dollars de financement, la Chine, la Russie et la concurrence américaine au niveau national.
Ce qui surprend le plus les gens, c’est que les algorithmes sous-jacents que nous utilisons sont les mêmes que nous utilisons depuis des décennies. Dans le milieu universitaire, les algorithmes sont à peu près les mêmes aujourd’hui qu’il y a des décennies. Ce qui a changé, c’est la quantité de données disponibles en combinaison avec la puissance de calcul disponible.
Il ne fait aucun doute que les nombreux doublements des données et de la puissance de calcul nous amèneront loin. Au cours des nombreuses années à venir, nous verrons des choses étonnantes faites à partir de cela. Cependant, c’est aussi un argument très valable que nous ne pouvons pas attendre des machines sensibles à partir des algorithmes actuels. Un argument valable est que, puisque la Singularité dépend d’une intelligence artificielle superintelligente, nous ne pouvons pas nous attendre à ce qu’elle se produise à moins d’obtenir une sérieuse mise à niveau des algorithmes.
L’argument POUR la Singularité
Est-ce que cela va changer au cours des dix ou deux prochaines années ?
Je suppose personnellement que oui. Des milliards de dollars sont investis dans des projets tels que le projet européen Human Brain Project et l’initiative américaine BRAIN. Mais, vous ne devriez pas m’écouter, car c’est l’un des problèmes centraux des fan-boys de la Singularité. Je n’ai aucune idée du fonctionnement du cerveau, et je n’ai aucune idée de la distance qui nous sépare de la compréhension ou de la rétro-ingénierie du cerveau.
Un autre développement récent intéressant est le TPG-3.
Vous ne copiez pas un oiseau, pour faire voler un avion. Les avions ne ressemblent pas à des oiseaux. Prenez le modèle GPT-3 récemment annoncé par openAI. Si vous n’en avez pas entendu parler, essayez de chercher sur Google. Il ne s’agit pas de copier le fonctionnement du cerveau humain. Au lieu de cela, pour citer l’article : « Mais GPT-3, en comparaison, a 175 milliards de paramètres – plus de 100 fois plus que son prédécesseur et dix fois plus que les programmes comparables ». Je n’ai aucune idée de ce que signifient 175 milliards de paramètres, mais j’ai vu les échantillons de texte de ce programme. C’est incroyable ce qu’il peut faire. Si cela obtient 10 ans d’amélioration ? Avons-nous alors besoin de nouveaux algorithmes ?
(Nous en avons probablement besoin, mais il est intéressant de voir jusqu’où nous pouvons aller)
Il est également difficile de soutenir que nous ne devenons pas plus intelligents. L’histoire que Peter Diamandis de » The Singularity University » aime raconter : » Même un enfant pauvre en Afrique avec un téléphone portable a accès à plus d’informations que le président des États-Unis n’en avait il y a trente ans « . Nous avons accès à plus d’informations, à une collaboration plus facile et nous nous tenons sur des épaules bien plus hautes qu’auparavant.
Si vous créez une entreprise aujourd’hui ou si vous voulez faire des recherches sur quelque chose, vous avez un niveau d’accès et d’aide qui est sans précédent. Si vous voulez apprendre quelque chose, vous avez tout au bout des doigts.
Je ne sais pas si c’est un véritable argument « pour » la singularité. Ce que je dirais, c’est :
- Nous devenons de plus en plus capables en tant qu’humains, avec une vitesse croissante
- Nous comprenons de plus en plus le cerveau humain – bien que probablement beaucoup moins que ce que je crois si je demande à un scientifique
- Nous voyons des développements étonnants dans l’IA étroite qui fait des candidats spécifiques
Je serais personnellement très surpris si nous ne voyons pas un ordinateur passer le test de Turing dans les 2045, et je ne vois pas d’improbable que cela n’arrive pas d’ici 2029 comme l’a prédit Ray Kurzweil. Et par la suite, nous verrons des choses de plus en plus rapides.
Qu’est-ce que cela nous laisse
Ce qui a rendu à la fois la Singularité, Ray Kurzweil et Peter Diamandis si célèbres, ce sont des déclarations très audacieuses et le fait de donner des échéances précises.
Il faut être controversé pour attirer l’attention. Ce que Ray Kurzweil a fait, que très peu d’autres ont fait, c’est de donner des échéances publiques spécifiques & sur le moment où il pense que des choses spécifiques vont se produire. Ces échéances ont fait l’objet de nombreuses critiques. Kurzweil soutenant typiquement qu’il est presque entièrement correct et les journalistes disant qu’il est presque entièrement faux.
Mais ce qu’on oublie ici, c’est pourquoi Ray Kurzweil les a faites en premier lieu. Ray Kurzweil, dont je suis un grand fan, a identifié et inventé le terme singularité pour un large public. Il comprend l’importance de faire connaître le concept au public – à un large public. La meilleure façon d’attirer cette attention ? Faire des chronologies audacieuses.
Mais ce que les gens ne comprennent pas : les chronologies n’ont pas d’importance. Elles ne sont que du marketing. Ce qui compte vraiment, c’est l’avenir vers lequel nous nous dirigeons. Peut-être pas demain, peut-être pas en 2045 – mais en tant qu’espèce humaine, les choses sont sur le point de devenir vraiment étranges.
Ce qui rend la Singularité bizarre, c’est que la conséquence sera une utopie. Une utopie d’immortalité, d’IA super-intelligente, de revenus gratuits pour tout le monde, et de beaucoup de temps pour explorer l’univers dans des vaisseaux spatiaux.
Les utopies sont une chose dangereuse pour l’esprit rationnel. Les utopies combinées à l’immortalité sont encore plus dangereuses. Ma plus grande bête noire avec la Singularité est que ses « inventeurs » prévoient que l’utopie et l’immortalité se produiront par coïncidence juste au moment où ils mourraient autrement de vieillesse. Pour moi, il me semble que la Singularité est devenue une capsule de sauvetage. Un espoir de vivre pour toujours.
En regardant en arrière au cours de l’histoire, il est facile de rire de tous les rois et explorateurs qui ont cherché la fontaine de jouvence. Mais c’est logique. La mort est effrayante. La mort est définitive. À l’époque, la croyance que l’on pouvait trouver une telle fontaine de jouvence était fondée sur l’espoir et les fables. Aujourd’hui, cet espoir est fondé sur la science.
Et cela m’amène à mon dernier commentaire :
La Singularité dit aux gens intelligents qu’ils peuvent vivre éternellement. Et parce que nous disons maintenant aux gens intelligents que l’immortalité est une option – nous commençons à traiter The Singularity comme une religion mais appel est la science. C’est pourquoi nous voyons des gens qui mélangent science et conneries dans un cocktail dangereux. Combinez ce cocktail avec le souhait d’être controversé car cela donne plus de publicité et cela devient encore plus dangereux.
Cependant. Ce n’est pas parce que Ray Kurzweil et Peter Diamandis ont tort, et que la Singularité n’aura probablement pas lieu d’ici 2045 et qu’ils mourront en chemin – que nous ne devons pas prendre ce futur au sérieux. Ne vous méprenez pas :
La singularité se produira. Mais pas d’ici 2045.
.