Qu'est-ce que la singularité technologique

2024 Auteur: Malcolm Clapton | [email protected]. Dernière modifié: 2023-12-17 03:55

L'avenir est plus proche qu'il n'y paraît.

Qu'est-ce que la singularité technologique

Une singularité technologique est un moment théorique où une personne perd le contrôle du progrès technologique, et qui, à son tour, devient irréversible. En termes simples, dans un avenir proche, les technologies pourraient se développer tellement que l'humanité cessera tout simplement de les suivre et de les comprendre.

La création d'une superintelligence artificielle comme moyen d'atteindre la singularité est le plus souvent envisagée, mais ce n'est pas le seul moyen possible. Par exemple, dans un avenir proche, des machines (ordinateurs, robots) sont susceptibles d'apparaître qui seront capables de tout faire mieux que les humains, et de ce fait, un saut technologique brutal, semblable à une avalanche, aura lieu.

Cependant, le plus souvent, ces suppositions ont été construites par Tegmark M. Life 3.0. Être humain à l'ère de l'intelligence artificielle. - M., 2019 non pas sur des prévisions scientifiques, mais sur des mythes dans le domaine de l'IA.

De plus, comme le croient les partisans du concept de singularité technologique, de telles « explosions intellectuelles » se produiront de plus en plus souvent. Cela peut conduire à des changements radicaux dans la société que nous ne pouvons ni prévoir ni contrôler.

Ce sont les conséquences de la singularité qui suscitent de nombreuses craintes et servent de base aux discussions sur l'avenir de l'humanité. Ces conséquences sont évaluées de différentes manières. Raymond Kurzweil, futurologue de la reconnaissance vocale et figure clé de Google, estime que les progrès technologiques sont une excellente opportunité pour les gens de devenir de meilleures personnes. Elon Musk, Bill Gates et feu Stephen Hawking sont moins optimistes dans leurs évaluations. Selon eux, le progrès peut conduire à la destruction de l'humanité.

Quels sont les prérequis d'une singularité technologique

Les inquiétudes concernant les conséquences du progrès technologique ne sont pas venues de nulle part. De nombreux processus de la société et de la science modernes suscitent de telles réflexions.

Accélérer le progrès technique et technologique

L'ère numérique a commencé avec l'invention du transistor en 1947 et se poursuit encore aujourd'hui. En 1965, l'un des fondateurs d'Intel, se préparant à parler, a découvert un schéma intéressant: tous les deux ans, le nombre de transistors dans les microcircuits double.

Depuis, peu de choses ont changé: l'informatique connaît une croissance exponentielle constante. Plus la technologie avance, plus la courbe qui illustre le progrès technologique devient raide. En quelques décennies, son rythme peut aller à l'infini.

Selon Harvey C. Big Data Challenges. Datamation by Datamation, en 2017, les données numériques dépassaient notre capacité à les gérer. De plus, il double tous les deux ans.

L'une des prochaines étapes du développement de la technologie peut probablement être l'invention de l'IAG (intelligence générale artificielle). Ce terme fait référence à une IA qui apprend à communiquer, à penser et à agir comme un humain ou même mieux. Autrement dit, AGI, en théorie, peut remplacer les gens dans tout.

Développement de l'intelligence artificielle

Jusqu'à présent, les ordinateurs ne peuvent absolument pas tout faire mieux que nous, bien qu'en résolvant de nombreux problèmes, ils soient déjà beaucoup plus intelligents qu'une personne (ou du moins plus rapide que lui).

Même il y a 4-5 ans, la prévision de la singularité de Ray Kurzweil se produira d'ici 2045. Le futurisme de Raymond Kurzweil selon lequel d'ici 2045 l'intelligence artificielle surpassera l'intelligence humaine en tout était considéré comme très audacieux (malgré le fait que depuis les années 90, 86 % de ses hypothèses ont devenu réalité).

Aujourd'hui, la période entre 2025 et 2035, voire plus tôt, est déjà appelée comme date hypothétique pour l'apparition de l'AGI.

Pandaya J. La troublante trajectoire de la singularité technologique peut jouer un rôle particulier à cet égard. Forbes jouera à la construction de puces neuromorphiques - des processeurs pour les réseaux de neurones qui reproduisent la façon dont notre cerveau traite l'information. Jusqu'à présent, la recherche dans ce domaine est encore loin d'obtenir un modèle vraiment fonctionnel, mais il y a déjà des succès incontestables. Voici ce que l'IA peut faire aujourd'hui:

• apprendre;
• battre les gens dans les jeux de stratégie (le programme AlphaGo en 2015, en seulement 9 heures de formation, a gagné DeepMind et Google: la bataille pour contrôler l'intelligence artificielle. The Economist la capacité de jouer aux échecs mieux qu'un humain);
• Aidez l'exosquelette contrôlé par le cerveau à permettre au patient paralysé de marcher. Le scientifique Les personnes atteintes de lésions de la moelle épinière se remettent sur pied;
• reconnaître les visages;
• conduire une voiture;
• peindre L'intelligence artificielle est-elle en passe de devenir le prochain médium de l'art ? CHRISTIE'S et textes apparentés;
• créer un système d'intelligence artificielle créé à l'UNC - Chapel Hill conçoit des médicaments à partir de zéro. UNC ‑ CHAPEL HILL médicaments;
• L'agence de presse officielle Xinhua, dirigée par la Chine, lance un « ancre de l'IA » pour lire les nouvelles. Couverture de l'actualité Mashable et bien plus encore.

En 2014, Google rachète DeepMind et Google: la bataille pour contrôler l'intelligence artificielle pour 600 millions de dollars. The Economist by AlphaGo est une société britannique DeepMind dont le but était d'inventer l'AGI. Les idées des Britanniques ont aidé Google à créer des algorithmes efficaces pour le diagnostic des maladies oculaires et la détection précoce des maladies de Parkinson et d'Alzheimer.

Très probablement, il vaut la peine d'attendre l'émergence de l'AGI dans un avenir prévisible. Cependant, l'apparition de la singularité technologique n'est pas directement liée à cela.

L'émergence des interfaces neuronales

Déjà, on peut parler d'Internet comme d'une forme de "cerveau global" - un phénomène grâce auquel des personnes du monde entier peuvent communiquer entre elles de manière quasi continue par un intermédiaire technique.

Il existe des appareils plus proches des gadgets des films de science-fiction. Déjà plus de 300 000 personnes l'utilisent. À quelle distance sommes-nous de l'interface cerveau-ordinateur d'Elon Musk ? Des implants cochléaires de CNN Health (prothèses auditives qui agissent directement sur le nerf auditif) et des échantillons d'yeux bioniques sont testés chez l'homme. Bien que ces appareils ne soient toujours pas capables de restaurer complètement la vision ou l'audition, la qualité de leur travail s'améliore.

Elon Musk et Brian Johnson ont également annoncé À quel point sommes-nous proches de l'interface cerveau-ordinateur d'Elon Musk ? CNN Health sur la création de startups pour le développement d'interfaces homme-machine (Neuralink et Kernel). Bien sûr, il est trop tôt pour dire que nous pourrons bientôt contrôler un smartphone avec le pouvoir de la pensée: tous ces appareils sont encore trop lents et imparfaits. Néanmoins, il y a tout lieu de croire que le succès dans cette industrie est au coin de la rue.

Quelles sont les raisons du progrès technique ?

L'IA et les robots effectueront un travail intellectuel et physique complexe

Le développement de l'intelligence artificielle et de la robotique pourrait finalement conduire au fait que les machines apprendront à tout faire sans ou avec une intervention humaine minimale. Dans ce cas, les progrès continueront de s'accélérer, améliorant de plus en plus la vie et la vie des personnes.

Déjà, les ordinateurs sont utilisés par les humains pour la recherche scientifique et l'amélioration de la technologie. Grâce à cela (par exemple, la recherche génétique ou le développement d'appareils qui améliorent les capacités du cerveau humain), les gens eux-mêmes deviennent plus intelligents et les machines - plus rapidement. Ainsi, le développement non seulement des ordinateurs, mais aussi d'une personne est accéléré.

Les gens découvriront de nouvelles capacités en eux-mêmes

La fusion d'une personne avec la technologie se produit non seulement sur le plan physique (utilisation de prothèses, modifications), mais également sur le plan informationnel (utilisation de gadgets). Un smartphone avec Internet mobile dans votre poche est la première étape pour devenir un cyborg.

Il y a même un mouvement de Transhumanisme. Britannica, un défenseur de l'amélioration active du corps humain grâce aux avancées technologiques. Les transhumanistes pensent que la modification corporelle est le seul moyen de rester dans l'air du temps et de ne pas mettre le destin de l'humanité à la disposition des machines.

Cependant, jusqu'à présent, l'émergence des biorobots humains est encore du domaine de la fantaisie.

Les nouvelles technologies ouvrent la voie à l'immortalité potentielle

Supprimer les limitations de l'ADN semble être une solution beaucoup plus élégante dans ce domaine. Génétique et bio-ingénierie Pandaya J. La trajectoire troublante de la singularité technologique. Forbes, ainsi que les nootropiques, peuvent rendre les gens plus intelligents. À l'aide d'organes ou de nanomachines cultivés artificiellement, les gens peuvent se débarrasser du vieillissement et atteindre l'immortalité.

Les seules questions sont à quelle vitesse une personne apprendra (et apprendra) à utiliser ces opportunités, si la société et le gouvernement les approuveront. Il faudra des années pour que des humains génétiquement modifiés naissent et soient éduqués, même si les facteurs sociaux qui ralentissent l'adoption d'une telle technologie sont ignorés. D'autres formes de superintelligence (IA) peuvent apparaître beaucoup plus rapidement.

Ce que disent les opposants au développement technologique incontrôlé

L'intelligence artificielle peut détruire l'humanité

Le développement de l'IAG est susceptible de dépasser le développement du cerveau humain et de la technologie pour nous autonomiser. L'intelligence artificielle est capable de surpasser l'humaine et dans un scénario pessimiste, elle peut facilement devenir incontrôlable.

Le docteur Nick Bostrom de l'Université d'Oxford considère Bostrom N. Superintelligence: Paths, Dangers, Strategies. - Oxford University Press, 2014 qu'il y a lieu de s'inquiéter. À son avis, peu importe le degré de développement de l'intellect, cela n'affecte pas le fait que les actions de son propriétaire soient mauvaises ou bonnes. Par conséquent, peu importe à quel point l'IA est intelligente, nous ne sommes pas à l'abri du fait qu'elle fera quelque chose de mal.

Important Tegmark M. Life 3.0. Être humain à l'ère de l'intelligence artificielle. - M., 2019, pour qu'AGI puisse comprendre, accepter les buts de l'humanité et y adhérer. S'il se fixe d'autres priorités, telles que l'auto-préservation, l'accaparement des ressources ou la satisfaction de la curiosité, alors des conflits surgiront dans la relation entre les personnes et les machines.

La modernisation du corps humain peut conduire à une nouvelle stratification de la société

La modification du corps humain peut non seulement créer "Human 2.0", mais aussi exacerber les conflits sociaux. Ceux qui ont accès à de telles technologies auront évidemment une supériorité sur ceux qui n'ont pas ces capacités.

Des problèmes éthiques et juridiques importants se posent: est-il possible de donner à une personne un avantage intellectuel et/ou physique sur une autre et comment protéger les « personnes biomécaniques » des pirates informatiques.

Une fois entre de mauvaises mains, la technologie peut être une arme mortelle

N'oubliez pas qu'une personne en elle-même est un grand danger. L'armée utilise déjà des drones et des machines programmables comme armes, et les réseaux sociaux regorgent d'escrocs. Il est fort probable que les gens commencent également à abuser des nouvelles technologies.

Mais même avant cela, nous risquons simplement de ne pas survivre, car même les armes existantes sont dangereuses. Max Tegmark, astrophysicien et professeur au Massachusetts Institute of Technology, a calculé Tegmark M. Life 3.0 à l'aide de formules de probabilité statistique. Être humain à l'ère de l'intelligence artificielle. - M., 2019 le risque d'une guerre nucléaire mondiale conduisant à des destructions mutuelles. Il a conclu que si la probabilité est de 0,001 en un an, alors dans l'intervalle de 10 000 ans, l'effondrement nucléaire se produira avec une probabilité de 99,95 %. Même un système de confinement bien établi pour des armes bien documentées peut échouer. Et la question se pose: peut-on maîtriser des technologies plus complexes pour qu'elles ne tombent pas entre de mauvaises mains ?

Quel avenir peut nous attendre

Dans le même temps, Max Tegmark évalue de manière critique Tegmark M. Life 3.0. Être humain à l'ère de l'intelligence artificielle. - M., 2019 la probabilité d'un scénario pessimiste. Il croit que les possibilités d'amélioration de soi sont limitées par les lois physiques. La vraie singularité, en tant que progrès infiniment accéléré, selon Tegmark, est impossible, bien que ce processus soit capable d'approcher l'infini.

Par conséquent, le professeur soutient que le saut de la technologie sera suivi par l'accomplissement rapide de la totalité ou presque de la complétude des connaissances sur le monde, et non par leur accumulation sans fin.

Selon un autre point de vue, rien, y compris le progrès, ne peut s'accélérer indéfiniment - tôt ou tard, il ralentira.

Cependant, nous pouvons affirmer de manière fiable que l'humanité n'a pas encore dépassé le point de décélération.

Tous les scientifiques ne partagent généralement pas la théorie de la singularité technologique. Certains constatent que jusqu'à présent, aucun phénomène n'a été découvert dans la nature qui se développe indéfiniment et infiniment rapidement. Dans le même temps, les chercheurs attirent l'attention sur le fait qu'un nombre considérable de prévisions dans ce domaine ne reposent pas sur des données objectives, mais sur les désirs des prédicteurs eux-mêmes.

Ainsi, par exemple, l'IA peut rester purement utilitaire et non dotée de personnalité. Des algorithmes du même DeepMind ne peuvent pas encore DeepMind et Google: la bataille pour contrôler l'intelligence artificielle. The Economist trouve une solution si quelque chose ne va pas et que les conditions prédéfinies changent.

Jusqu'à présent, l'IA ne nous dépasse qu'au détriment de la puissance de calcul. Mais ce que les gens peuvent maîtriser en quelques minutes, le programme y consacre des milliers d'heures, par rapport à l'expérience humaine.

Par exemple, pour qu'AlphaGo apprenne à jouer à Space Invaders, il doit faire des milliers d'essais. En fin de compte, le programme, bien sûr, jouera mieux qu'une personne, mais il maîtrisera le processus beaucoup plus rapidement.

Par conséquent, aucune des prévisions ne peut être considérée comme probable à 100 %. Mais ce n'est pas une raison pour abandonner complètement l'idée d'une singularité technologique.

Dans une large mesure, la mise en œuvre de certains scénarios du destin de l'humanité dépendra de l'orientation du développement technologique, de qui il sera et de la manière dont il sera régulé. De plus, la sophistication de la technologie jouera un grand rôle. N'oubliez pas les facteurs sociaux, géopolitiques et économiques qui peuvent influencer le progrès. Il est également difficile de parler des dates exactes de l'apparition de la singularité technologique.

Une personne continuera-t-elle à exister si elle n'est pas nécessaire pour de nombreux types d'activités (par exemple, la science) ? Une personne modifiée par des interventions ADN ou des interfaces neuronales restera-t-elle une personne ? Nous n'avons pas de réponses à ces questions. Peut-être qu'une personne a déjà changé de manière irréversible avec l'avènement des ordinateurs et des technologies numériques.

Mais une chose est absolument certaine: le processus évolutif est naturel et imparable. Nous ne pouvons pas le ralentir. Au final, peut-être que les machines nous apprendront à ne pas s'entretuer ou à ne pas s'humilier et qu'il faut leur faire confiance ?

Par conséquent, comme le conseille Tegmark M. Life 3.0. Être humain à l'ère de l'intelligence artificielle. - M., 2019 Max Tegmark, ne pense pas à l'avenir qui te fait peur, mais à celui que tu aimerais.