Qu'est-ce que le point de singularité technologique ?
La technologie évolue, et elle le fait aussi et surtout à une vitesse exponentielle. L'humanité serait ainsi très proche du moment où les technologies comme l'IA atteindront un point d'explosion tel que l'homme ne pourra suivre : c'est ce qui s'appelle la théorie du point de singularité technologique. Passé ce point de singularité technologique, on ne sait pas ce qui peut arriver.
Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.
Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.
Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.
Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.
Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”
Titsta
Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.
Il y aura peut être une autre singularité, quand on arrivera à faire des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.
Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.
De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p
Luick
“Ce motif - que la progression humaine se fasse de plus en plus rapidement en même temps que le Temps progresse - est ce que le futuriste Ray Kurtzweil appelle la loi humaine du Retour s’Accélérant. Cela arrive car les sociétés plus avancées sont capable également de progresser à une -vitesse- plus importante que les plus anciennes sociétés, tout simplement parce qu’elle sont plus avancées. l’humanité du 19ème siècle a plus de technologie que l’humanité du 15ème siècle, donc cela a du sens qu’on aie fait plus d’innovations au 19ème siècle qu’au 15ème.”
Tous les commentaires
Trayss
je lit cette anecdote en 2023, quelques semaines après la sortie révolutionnaire de Chat GPT.
Leonardba
Chatgpt bonjour !
Si on ne peut encore programmer la fin de l'humanité on peut néanmoins programmer la fin de pas mal d'emplois dans la rédaction. Et plus si affinités.
locutusse
Sa me fait pensait à battlestar galactica bonne série ou les humains doivent quitter leur monde suite à un holocauste provoque par les machines devenu tellement intelligentes que ces dernières pensent que l homme et devenu sont ennemi à détruire
Frederick76
Puis l'Intelligence Ultime.. - Dan Simmons -
bibendum77
Je m’explique:
Le « scientifique », ou « technicien » ne peut se détacher du contexte financier et répond à ce besoin en créant des machines qui peuvent remplacer un employé.
Le « grand public » pense à la machine ultime, qui peut remplacer un homme.
On pourrait potentiellement remplacer tous les employés. Même le type qui aurait décidé cela pourrait être remplacé. Mais s’il n’y a plus de salarié, il n’y a plus de client non plus.
On pourrait potentiellement remplacer parfaitement un homme. Mais personne ne dépensera d’argent dans une machine qui se trompe.
Hades78
Sarah Connor ?
staaz
Ton commentaire n a ni queue ni tête, se contredis et ne veux rien dire... de plus pour ta culture général la définition sapiens sapiens n existe plus depuis un moment déjà (nous sommes tous ses Homo sapiens).
Alsete
On part de quelque chose qui n'est pas défini : l'intelligence.
Il existe plusieurs formes d'intelligence dans le règne animal. L'Homme est doté de huit formes d'intelligence alors que les ordinateurs ne sont que le fruit d'une seule, l'intelligence logico-mathématique humaine. Le fruit, pas le détenteur.
Avec la notion-même d'IA, nous nageons en plein conte de fée. Cela ne peut exister. De là philosopher sur la mainmise sur le monde par quelque chose de définitivement inexistant...
Toubontoubon
Paradoxalement j'ai voté "intéressant" sur cette anecdote en voulant voir les réactions, mais je pense que c'est une vaste mystification (parfois voulue et entretenue, parfois un auto-aveuglement).
Les commentaires sont dans la lignée du vaste mouvement culturel entourant toute cette mythologie de la "singularité technologique". On est transhumaniste, techno-enthousiaste, techno-sceptique, néo-luddite, etc. Ce qui est sûr c'est que ce sujet engendre souvent des réactions émotionnelles fortes, voire épidermiques. Mais justement, c'est rarement un bon signe d'analyse posée et objective.
En tout premier lieu il faudrait une définition claire et nette de l'intelligence, ce qui est rarement le cas. Et c'est sûr que l'on part dans des débats philosophiques du coup. Et qu'en est-il de la conscience, etc.? Et bien sincèrement contrairement à ce qu'affirment certains, le libre-arbitre n'est pas de plus en plus remis en question par la science, et les quelques scientifiques connus qui parlent de précautions à prendre, soit ignorent tout (ou en tout cas beaucoup) de la branche informatique de l'IA, soit ont des propos déformés par les tenants d'un transhumanisme extrême (dans la béatitude ou dans la paranoïa). Les quelques arguments avancés tiennent plus de la réflexion sur des scénarios de romans qu'autre chose.
Les IA servent à automatiser un grand nombre de processus, et quelques unes, à la marge, sont utilisées pour le développement, dans certains domaines uniquement.
Donc non, les médecins ne vont pas être tous remplacés par des IA à court terme, même s'ils s'aident de plus en plus de cette technologie, avec raison et succès. Et non il ne va pas y avoir de soulèvement de robots contre l'oppression des esclavagistes humains, pour cela il faudrait déjà qu'une machine comprenne qu'elle existe... Trop d'anthropomorphisme est versé dans ce domaine, mais ça fait vendre des bouquins, des films, des auteurs et j'en passe...
La seule et unique chose inquiétante qui pourrait arriver serait l'automatisation de la réponse nucléaire, mais quand on voit l'état des bases américaines et russes, qui fonctionnent encore avec les disquettes 3¼ pouces, on se dit que c'est pas pour demain! Lol.
Et ceux qui disent qu'un programme peut apprendre et "dépasser" un humain dans un domaine, certes, mais le programme ne comprend pas ce qu'il fait, ne comprend pas qu'il est meilleur, ne comprend pas qu'il bat les humains. Et il le fait dans un cadre tellement précis et restreint!
Quant à ceux qui pensent que l'on ne peut pas imaginer les technologies futures et e qu'elles permettront, exactement! Pourquoi se permettre de dire que la technologie évolue de façon exponentielle (ça reste à prouver) et le fera toujours? Pourquoi se permettre de dire qu'une "singularité" va avoir lieu?
Au final, les obstacles sont tout autant imprévisibles que les découvertes révolutionnaires.
Ah et désolé Luick, mais un homme de 1750 ne décéderait pas en arrivant au XXIème siècle. C'est peut-être une métaphore, mais c'est exagéré dans tous les cas.
YaaaH25
Terminator...??
NinaJ
Beaucoup parlent de la faible probabilité qu'aurait une IA de réussir à "évoluer" toute seule.
Pourtant l'être humain n'était à la base qu'un animal parmis tant d'autres ; les mutations génétiques et le contrôle de son environnement lui a permis d'évoluer, de se réparer, de se doper.
Certains réduisent l'IA à quelques algorithmes statistiques. C'est pourtant bien plus que ça ; c'est le fruit de nos connaissances dans bien des domaines (maths, psychologie, neurosciences, économie, informatique). Une IA peut désormais resoudre des problèmes complètements différents. Les avancées en 30 ans font froid dans le dos.
Il y a 30 ans de ça, pouvions-nous imaginer un monde aussi connecté qu'aujourd'hui ? Et dans 30 ans ?
Pourtant l'apport de l'IA est incontestable et donc inarrêtable ; mais est-ce raisonnable ?
L'humain aura t'il la même place dans un monde devenu totalement autonome ou serons-nous relégués à l'état de singe par notre propre création ?
Jesus63
Skynet fonctionne alors de la manière d'un malware, et il "suffira" d'ôter tout appareil electrique qui serait raccordé au réseau.
Difficile et contraignant mais pas impossible.
JohnJFlorence
"Passé ce point de singularité technologique, nul ne sait ce qui peut arriver".
De 1, c'est présumer de l'importance de l'homme. Ce n'est pas parce qu'on est la créature la plus intelligente sur terre qu'aucune intelligence supérieure n'existe.
De 2, c'est aussi imaginer que les deux courbes d'intelligence/savoir des humains et des machines sont corrélées. Or, la courbe de l'intelligence humaine est indépendante, et le point de singularité est juste le moment où la deuxième, dépassant la première, devient indépendante de celle-ci. Mais une inversion dans ces courbes ne signifie pas que l'intelligence humaine passe sous domination de l'intelligence artificielle. Deux types d'intelligence peuvent cohabiter.
bèrbare
Je vous conseille vivement la série « black mirrors » qui nous montre ce que pourrait être le futur plus ou moins proche, personnellement certains épisodes m’ont mis mal à l’aise.
Zaiho
Bientot Matrix :D *excité*
DeanCorso
L'intelligence artificielle n'égalera jamais la connerie naturelle...
Seraphyn
Et à propos, certaines théories de la simulation (qui reviennent à dire que l'on vit dans une simulation) sont démontées ou très fortement limitées par le même constat élémentaire : rien ne porte à croire que les ordinateurs soient améliorables à l'infini, même à un rythme très lent. Scientifiquement il est extrêmement facile de prouver que ce ne sera pas le cas.
Cependant la simulation pourrait toujours avoir été créée dans un univers différent du notre où les "ordinateurs" ne fonctionnent pas de la même façon et ne sont pas soumis aux mêmes limites (ils sont peut être construits dans un nombre plus élevé de dimensions par exemple, mais fondamentalement tout porte à croire qu'ils seraient issus d'un univers plus "complexe" que la simulation (le nôtre))
Seraphyn
Ce concept de singularité technologique n'est pas loin d'être une simple absurdité basée sur de faux postulats. Je vous encourage à lire d'abord les commentaires de l'OP afin de comprendre de quoi je parle.
Tout d'abord, on se base sur le fait que le progrès technologique n'est pas linéaire mais exponentiel. Cela se vérifie historiquement jusqu'au début du 21eme siècle mais ce n'est déjà plus vrai aujourd'hui, votre ordinateur n'est plus aussi vite obsolète qu'il l'était dans les années 90. En fait, la progression n'est même plus linéaire mais tend plutôt vers une courbe logarithmique, suggérant un maximum.
Le deuxième point justement est la question du maximum. Pour qu'une singularité technologique puisse survenir, il faut que les progrès technologiques et informatiques n'aient pas de maximum, or tout porte à croire que c'est bien le cas. Les ordinateurs notamment, ne fonctionnent pas à la magie noire mais bien selon des principes physiques. Le but lorsqu'on veut améliorer un ordinateur est de le rendre plus petit et moins énergivore, or, les lois de la physique nous empêchent de réduire la dimension des composants au delà d'une certaine limite (d'ores et déjà atteinte). Aucun argument rationnellement construit à part "ça a toujours été comme ça jusqu'à maintenant" ne permet de supposer que l'informatique puisse progresser à l'infini, un ordinateur est après tout une machine au même titre que votre moteur de voiture, avec une efficacité qui ne sera jamais de 100% simplement à cause des lois de la physique.
Enfin, le principal postulat de cette théorie est lié à l'intelligence artificielle. Il suppose que si on crée une IA n°1 plus performante que nous, et qu'on lui demande de développer IA n°2, alors celle ci sera plus rapidement développée et plus perfectionnée. Ensuite IA 2 créé une IA 3 encore meilleure et encore plus rapidement, et quelques heures à peine plus tard IA 189756 est infiniment plus intelligente que nous. (Mal)heureusement, ce postulat n'est encore une fois basé sur aucune raison logique. Certes, pour la transition de IA 1 à 2 on peut supposer qu'un robot n'étant pas limité à la vitesse de nos 10 doigts pour taper, il pourrait coder une nouvelle IA plus rapidement que nous. Mais meilleure ? Pourquoi coderait-il mieux à partir de la même base de connaissances sur l'informatique et sur l'intelligence ? Concrètement qu'est-ce qui lui permettrait de faire mieux que nous avec les mêmes outils ? On a aucune garantie qu'il arriverait à faire un autre programme plus intelligent que lui même, et de plus passé cette première étape aucun n'indice n'indique que les suivantes seront de plus en plus rapides, les IA à chaque étape seraient limités par la puissance du matériel sur lequel ils tournent, et n'ont aucune raison de faire mieux que leur prédécesseur.
Concrètement c'est une théorie que la physique aurait pu démonter à l'époque de sa formulation, et dont l'Histoire maintenant tend à prouver l'imprécision.
trucbidule
L'état de la connerie humaine, en revanche, est stationnaire, avec tout de même quelques innovations, comme par exemple l'apparition récente et la progression du masochisme moral
Rinrynque
Le fameux fantasme de la singularité technologique... On en est quand même loin, la loi de Moore n'est plus vérifiée quand aux IA aucune n'est autre chose qu'un algorithme de statistiques un peu poussé.
Je conseille le livre "le mythe de la singularité" à ce sujet, il décrit bien pourquoi cette idée plaît (des tas de personnalités connues en font la publicité comme Bill Gates ou Elon Musk)
latour
En fait, on ne peut pas parler d'innovations technologiques, mais d'améliorations progressives, constantes et en accélération de technologies existant déjà en 1900 (fin du XIXème siècle)
Les seules découvertes innovantes sont le CD, le Microondes et le velcro (voir MiB)
Pour l'IA, si ce sont des êtres humains qui la créent, ils ne pourront pas faire mieux que ce qu'ils connaissent de l'"intelligence", c'est à dire pas grand chose. On peut augmenter la taille des bases de données, les remplir jusqu'à plus soif, mais une machine, aussi perfectionnée qu'elle soit, ne peut actuellement pas concevoir sans information sur la notion de concept. L'imagination et l'initiative libre (non programmée) ne peuvent se prédire, c'est le propre du vivant.
Ça ne veut pas dire qu'on aura pas l'impression d'être en face d'une technologie impressionnante, possiblement dangereuse, qu'une machine peut sembler vivre, mais je ne pense pas qu'elle puisse survivre en "transmettant" à sa descendance.
Bon, de toute façon, la plupart d'entre nous ne sera plus là pour le voir.
Fracture
Ce que j'ai du mal à comprendre, c'est que la technologie humaine dépend de l'homme, alors à moins que les IA que l'homme aura inventé prennent le relais et agissent comme bon leur semble, on ne devrait pas se laisser dépasser par nos propres inventions quand même. Enfin dans la mesure où il me semble judicieux de pouvoir garder le contrôle de ses propres inventions.
Par contre, compte tenu de la technologie actuelle, il pourrait inventer des choses qu'on imagine à peine voire pas du tout, et peut-être même sous peu. Il suffit de voir la réaction des gens du début du 20e siècle quand quelques illuminés disaient que l'homme marcherait sur la Lune (indépendamment du débat qui existe autour) ou enverraient des machines sur les autres planètes.
Titsta
Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.
Il y aura peut être une autre singularité, quand on arrivera à faire des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.
Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.
De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p
Luick
Tout cela pour dire que nous sommes arrivées à une période où les innovations technologiques majeures ne se comptent plus en millénaires, ni en siècles, mais en décennies - nous sommes à la limite de l'Histoire où, grâce à l'aide de l'Intelligence Artificielle, nous serions capable d'innover de manière continuelle, et toujours à un rythme plus effréné, au point où il serait possible que l'IA soit si avancée, que nous, humains ne pourrions plus rien comprendre à ces innovations.
Et cela arrive bien plus vite qu'on ne le croie ! Car nous les hommes, ne sommes pas capable de penser de manière exponentielle. On pense que cela arrivera dans 50, 40 ans au plus tôt, mais les gens comme Kurtzweil tablent plutôt sur 2030, et cette prédiction, c'était avant des avancées majeures comme l'IA de Go qui bat un joueur humain et qu'on ne pensait pas arriver avant 2020 (c'est arrivée l'année dernière !).
Passé ce point de singularité technologique, on ne sait vraiment pas ce qu'il peut arriver; l'IA pourrait avoir une explosion innovative telle qu'on pourrait trouver un remède à tous les cancers, trouver une solution à l'humanité à la fois écologique et sociale, voir même vaincre la mort. Mais cela pourrait aussi marquer l'avènement le "l'ère des robots' qui pourrait finir par trouver une conscience et se dire "finalement, nous sommes plus intelligents que les hommes, pourquoi les garder en vie ?".
Personnellement, j'ai vraiment hâte et j'espère réellement que cela arrive de mon vivant! Au mieux je deviens immortel, au pire, et bien au moins j'aurai vécu la fin de l'Humanité!
warzazate
A chaque fois que l'homme se confronte a l'inconnu, il s'invente des histoires... se qui est sur, cest que nous ne sommes pas capable dimaginer se qui se passera apres ce point. se qui est aussi sur cest que aucune des 2 theories extreme donnee par lanecdocte se realiseron
Luick
Titsta
Luick