Technologies de demain : les niveaux de choc

Eliezer Yudkowsky a établi une classification des technologies de demain en fonction de ce qu’il appelle des "niveaux de choc" (Shock Levels - SL). Un "niveau de choc" identifie l’ensemble des concepts technologiques qu’une personne est capable d’accepter sans être prise de vertige, effrayée, aveuglément enthousiaste – de sorte qu’elle ne sera pas choquée dans le futur.

Ces niveaux sont les suivants :

. SL0 correspond à la technologie moderne que nous utilisons aujourd’hui dans notre vie quotidienne ;
. SL1 comprend la réalité virtuelle et une économie fondée sur le e-commerce ;
. SL2 inclut l’exploration interplanétaire, l’immortalité médicale et l’ingénierie génétique ;
. SL3 englobe les nanotechnologies et l’intelligence artificielle de niveau humain ;
. SL4 est la Singularité, la fin de l’ère humaine, la post-humanité, l’évaporation totale de "la vie telle que nous la connaissons".

Yudkowsky a conçu cette classification afin de mesurer la difficulté qu’il y a à introduire une idée se situant à plus d’un niveau d’écart avec ce qu’une personne a déjà assimilé – en précisant que les "niveaux de choc" visent à identifier ce que vous êtes capables d’accepter calmement et non ce que vous savez sur la question. Ceux qui sont intéressés par le sujet peuvent consulter l’article de Yudkowsky : ici. Une version commentée est aussi disponible : là.

Yudkowsky est un chercheur en intelligence artificielle qui applique ses réflexions et ses travaux à l’aboutissement d’une singularité positive. Il a dit : "The important thing is not to be human but to be humane"*.

* "La chose importante n'est pas d'être humain, mais d'être humain". La langue française ne sait pas rendre compte de la différence entre "human" et "humane".

Mondes virtuels : la singularité est proche ?

« La singularité est proche. » (Ray Kurzweil)

Mondes virtuels et intelligence artificielle : des « tendances » ?

Les mondes virtuels - Second Life en particulier - vont sans doute entrer prochainement dans une deuxième phase de leur développement. Il ne s’agit pas ici des travaux d’amélioration continue effectués sur les plates-formes et les outils, qui sont nécessaires mais ne constituent pas, par eux-mêmes, le changement majeur qui va s’opérer. Aujourd’hui, une différence importante entre le monde réel et les mondes virtuels, c’est que ces derniers ne disposent, en dehors de quelques programmes limités, d’aucune « intelligence » rémanente qui leur soient propres : l’intelligence qui s’y trouve à un moment donné est essentiellement celle des êtres humains (extérieurs au monde virtuel) qui manipulent des avatars. Lorsqu’une personne se déconnecte, l’avatar disparaît et l’intelligence correspondante disparaît immédiatement avec lui. Mais l’arrivée «massive» de l’intelligence artificielle dans les mondes virtuels devrait complètement changer cette situation.

Si je suis d’accord avec Richard MacManus lorsqu’il identifie les mondes virtuels et l’intelligence artificielle comme deux tendances majeures du Web de demain (au sein d’une liste de dix), il me semble que cette «trouvaille» est à la portée d’un (bon) consultant de la génération Powerpoint mais manque quand même un peu de vision. Pour aller un cran plus loin : la combinaison des mondes virtuels et de l’intelligence artificielle va modifier considérablement « le Web que nous connaissons ». Elle risque même de changer beaucoup plus que cela parce que « nous aurons [alors] les moyens technologiques de créer des intelligences surhumaines. Peu après, l’ère humaine sera terminée » (Vernor Vinge).

La singularité technologique

La singularité technologique désigne le point où la civilisation humaine devient capable de créer des « machines » dont l’intelligence dépasse celle des humains. A partir de cet instant, le progrès technologique s’accélère de façon vertigineuse. Comme l’une des activités de ces machines supra-intelligentes sera de « concevoir des machines encore meilleures, il y [aura] alors sans conteste une explosion d’intelligence» (Irving John Good) : l’intelligence de ces machines pourra rapidement atteindre plusieurs milliards de fois celle d’un cerveau humain. Certains futurologues prévoient l’atteinte du point de singularité technologique entre 2020 et 2050. On distingue généralement la singularité positive (développement vertigineux au profit d’une société meilleure) et la singularité négative (par exemple de type Matrix). A noter tout de même que deux autres scénarios sont envisageables : 1) la destruction ou l’auto-destruction de la civilisation humaine avant même l’atteinte du point de singularité ; et 2) la renonciation définitive à créer des intelligences surhumaines.

L’intelligence artificielle générale

Pendant longtemps, les travaux sur l’intelligence artificielle se sont concentrés sur la résolution de problèmes bien spécifiques : par exemple, Deep Blue et le jeu d’échecs. Mais, comme Ben Goertzel le fait remarquer, Deep Blue ne sait jouer ni aux dames ni au go. Désormais, les recherches s’orientent dans une autre direction : il s’agit de développer une « intelligence artificielle générale » en créant des systèmes autonomes, capables de résoudre des problèmes complexes dans un grand nombre de situations différentes.

Les mondes virtuels

C’est sans doute par le biais des mondes virtuels que sera atteint le point de singularité. Suivant Goertzel, les mondes virtuels constituent en effet un environnement particulièrement approprié au développement de l’intelligence artificielle générale, et ce pour au moins trois raisons : 1) les contraintes matérielles liées à la réalisation de machines physiques y sont quasiment inexistantes ; 2) les mondes virtuels constituent un espace favorable à l’apprentissage grâce aux interactions possibles avec des avatars de tous horizons ; et 3) les mondes virtuels sont des représentations du monde réel.

Ce dernier point est « crucial » pour disposer d’une intelligence artificielle générale qui soit utilisable dans le monde réel. Il ne suffit donc pas qu’une plate-forme soit en 3D. Les candidats se comptent actuellement sur les doigts d’une main : Second Life, HiPiHi, peut-être un monde de Multiverse, peut-être Novoking et c’est à peu près tout. L’ouverture et l’interconnexion annoncées des plates-formes devraient permettre à terme la création d’un méta-monde virtuel capable d’héberger des dizaines de millions d’avatars.

La singularité économique

Une caractéristique – et non des moindres - des « vrais » mondes virtuels est l’existence d’un « vrai » système économique. Aujourd’hui, seul Second Life est dans ce cas, et c’est même bien plus que cela : « Second Life est une micro-économie globale – et il n’y en a jamais eu jusqu’à présent» (Sheryle Moon). Le Linden Dollar permet d’effectuer des transactions partout dans le monde, gratuitement et instantanément. Les moyens de paiement et les instruments financiers (cf. WIC, MetaCard, WSE, etc.) commencent à se multiplier. Les nouveaux marchés ne sont bloqués par aucune contrainte réglementaire. La production et la distribution ne sont limitées par aucune contrainte matérielle. Dans ce contexte, un développement technologique accéléré, tel que celui obtenu par l’approche du point de singularité technologique, créerait une telle demande en investissement que le taux d’épargne ne serait plus limité par celle-ci, et les taux de croissance économique pourraient en principe devenir vertigineux. Imaginez qu’avec « 1000 [Euros], vous [puissiez] disposer d’un ordinateur qui soit 1000 fois plus puissant qu’un cerveau humain… » (Ray Kurzweil).


Lectures :

Ugo Trade – Artificial General Intelligence in Second Life

Ray Kurzweil - The Law of Accelerating Returns

Marina Maestrutti - La singularité technologique : un chemin vers le posthumain ?
Robin Hanson – Is a singularity just around the corner ?
Lloyd's Investment Blog - What If - Just What If - the Singularity Really IS Near ?