Singularité

L’hebdomadaire Time Magazine de cette semaine a comme article principal « 2045: The year Man Becomes Immortal« .

L’article parle de la Singularité (le moment où les machines deviendront aussi intelligentes que l’homme) et de son champion le plus connu, Raymond Kurzweil.

J’avoue avoir de gros doutes sur le sujet. Pas qu’on ne puisse jamais atteindre la Singularité, mais que l’on puisse donner des dates avec de telles précisions. A mes yeux, toute prédiction qui dépasse les 10 ans est fortement suspecte. Les fans de la Singularité prédisent en effet que d’ici au milieu des années 2020 on aura fait le reverse engineering complet du cerveau humain, et que d’ici à 2045 on aura créé des ordinateur aussi intelligents que nous. Et l’immortalité comme le signale Time ? On y arrivera en téléchargeant notre cerveau dans un ordinateur, bien sûr !

Pensée linéaire

Ma plus grosse critique est la pensée linéaire des supporteurs de la Singularité. Ces derniers basent la date de leur prédiction sur la loi (empirique) de Moore qui dit que la puissance des ordinateurs double tous les 18 mois. Autrement dit, tout ne serait qu’une question de puissance de calcul.

Tout d’abord, personne ne sait combien de temps la loi de Moore va durer. Et même si elle perdure jusqu’à 2045, il n’est pas prouvé que la puissance de calcul brute même soit suffisante. Comme je l’ai déjà écrit, le monde autour de nous a toujours été plus complexe qu’imaginé (la relativité, la mécanique quantique, etc.). Von Neumann pensait dans les années 50 que l’on pourrait non seulement prédire le temps mais le contrôler. Tout n’était qu’une question de puissance de calcul. 60 ans après, et avec des ordinateurs plus puissants que Von Neumann n’aurait jamais imaginé, les prédictions météo une semaine à l’avance sont toujours imprécises. De même, après des avancées spatiales dans les années 60, le transport spatial reste cher et peu fiable, même après 50 ans d’innovations technologiques. Dans le domaine du corps humain, séquencer l’ADN humaine n’a pas eu les bénéfices escomptés et n’a certainement pas été suffisant pour comprendre comment fonctionnait le corps humain. En d’autres termes, avoir un ordinateur aussi puissant qu’un cerveau humain et créer une véritable intelligence artificielle sont deux choses distinctes.

Car un des points-clé est le mot « intelligence ». Les exemples donnés dans l’article de Time semblent montrer une évolution. L’ordinateur Deep Blue qui a battu Kasparov aux échecs. Cette semaine, l’ordinateur Watson a battu au jeu télévisé américain Jeopardy deux champions humain. En d’autres termes, les ordinateurs deviennent de plus en plus intelligents. Sauf qu’ils ne le sont pas. En 60 ans, l’intelligence des ordinateurs a augmenté d’exactement 0% pour rester exactement à zéro. Malgré 60 ans d’innovations, l’informatique reste toujours de la lecture de script du style IF / THEN / ELSE. Les scripts sont devenus plus complexes et plus rapidement exécutés, mais ils restent sans aucune intelligence. Deep Blue ne se base que sur des algorithmes et surtout sur du calcul brut du plus grand nombre de combinaisons possibles. C’est comme dire qu’une calculatrice ou un livre sont plus intelligents qu’un être humain car peuvent respectivement calculer plus vite et retenir des informations bien plus précisément. Deep Blue a été conçu pour jouer aux échecs mais n’a aucune conscience de sa tâche en question. Aucun ordinateur n’est à l’heure actuelle capable d’apprendre à jouer aux échecs sans que les règles soient codées dans son programme – contrairement à n’importe quel joueur humain (on n’a pas les règles d’échec codées dans notre ADN).

Mais qu’est-ce que l’intelligence humaine exactement ? Qui nous dit que le cerveau humain n’est pas un gigantesque script ? En fait, personne ne le sait, car l’intelligence est liée à ce que l’on appelle la conscience de soi, l’âme ou d’autres termes qui désignent la même chose. Et sur le sujet, personne n’a aucune idée d’où elle vient. Est-ce un effet secondaire de l’électricité dans notre cerveau ? D’une réaction chimique ? D’une loi de la physique céleste que nous ignorons ? D’une combinaison des trois ? Cela reste un mystère total. On « ressent » la conscience de soi mais on est incapable de la définir en termes de programme. Et sans cette conscience, le cerveau est un tas de tissus inutile. Ce n’est pas un ordinateur que l’on peut remettre en route juste en y faisant circuler du sang et du courant. Peut-être un jour trouvera-t-on la réponse, mais personne ne peut prédire quand. Et sans comprendre la conscience je doute qu’on puisse atteindre la Singularité. Sans comprendre la conscience, faire un « brain dump » n’aura pas les effets escomptés.

Le « brain dump »

Un autre buzzword associé à la Singularité est l’espoir d’un « brain dump », c’est-à-dire de pouvoir à terme télécharger le contenu de son cerveau sur un ordinateur, le but étant de créer une copie de soi-même et d’atteindre « l’immortalité ». Une fois de plus, une telle opération nécessitera autre chose que des ordinateurs puissants. Outre une résolution du problème de la conscience / âme, la technologie pour extraire les données d’un cerveau devra être mise au point. Les nanotechnologies souvent décriées se sont révélés être pour le moment de la science fiction. Là encore, aucune date de disponibilité raisonnablement prévisible.

Mais juste pour jouer le jeu, imaginons que cela devienne possible. Les implications légales sont nombreuses. Quelques exemples :

  • Peut-on forcer un individu à faire un « dump » de son cerveau contre son gré ? La police a-t-elle le droit de « perquisitionner » un cerveau si elle a un mandat ? Une entreprise peut-elle faire exiger dans son contrat d’embauche que ses employés effectuent un « dump » de leur cerveau afin de les remplacer s’il leur arrive un accident ?
  • Si un employé effectue volontairement un « dump » de son cerveau, à qui appartient la copie électronique ?
  • La copie a-t-elle des droits ? Effacer une copie est-elle équivalent à un meurtre ?
    • Si non, une personne a-t-elle droit de vie et de mort sur ses propres copies ? Peut-elle faire des copies d’elle-même, les torturer pour le plaisir (il y a des sadiques partout) ou de les forcer à faire son travail à sa place sous peine de leur couper le courant  ?
    • Si non, on peut parier que les pensées « électroniques » vont faire du lobbying pour être reconnue en tant que personnes – et auront de quoi bloquer le réseau informatique !
    • Si une copie a les droits d’un être humain, considérons le cas d’un hacker qui crée des copies de lui-même sur des ordinateurs tiers, copies qui se copient elles-mêmes etc. A-t-on le droit d’effacer une de ces copies qui met la pagaille sur notre ordinateur ou est-ce que ce sera considéré comme un meurtre ? Le problème se complique quand on sait que l’on ne peut pas reloger un programme. Car en informatique, déplacer veut dire copier + effacer.
    • Si oui, a-t-elle le droit de voter ? Si elle a le droit, il y a un risque que des gens se « multiplient » juste pour influencer les élections.
    • Si oui, quels sont les droits d’une copie « atrophiée » (où on enlève des capacités cognitives) ou de la copie d’un animal « augmentée » (usage de la parole et plus grandes capacités cognitives) ?
  • Qu’est-ce qui détermine un humain ? Dans le manga Gunnm, l’héroïne, un androïde avec un cerveau humain, parle à un humain dont on a remplacé le cerveau par une puce biologique. Quel est le plus humain d’entre les deux ?

Incertitudes

L’incertitude est l’une des choses dont nous avons le plus de difficultés à faire face. Accepter son ignorance est tellement difficile que nous sommes prêts à nous lancer dans des affirmations gratuites, telles que « la Singularité d’ici à 2045 » ou « la Singularité n’arrivera jamais ». D’autant plus lorsqu’on est un « expert » sur le sujet et que l’on aimerait bien que la Singularité arrive de son vivant – surtout pour Kurzweil qui aimerait bien arriver à l’immortalité avant que son corps physique ne lâche.

L’humanité arrivera-t-elle à la Singularité ? Peut-être. Quand ? Aucune idée.

Explore posts in the same categories: Singularité

5 commentaires sur “Singularité”

  1. Eric C. Says:

    « Aucun ordinateur n’est à l’heure actuelle capable d’apprendre à jouer aux échecs sans que les règles soient codées dans son programme – contrairement à n’importe quel joueur humain (on n’a pas les règles d’échec codées dans notre ADN). »

    Il m’a fallu apprendre à jouer avec mon papa, puis contre mon Computachess, puis potasser quelques livres, à moi aussi, pour apprendre à jouer …
    Quelle différence fondamentale entre cet apprentissage là, et celui d’une machine ? Dans les deux cas il s’agit d’apprendre à une machinerieà agir ou à réagir en fonction d’une position donnée. Les fonctions d’évaluation ainsi que la profondeur d’analyse peuvent évidemment différer, mais ce n’est pas ici, pour moi, que la différence se fait.

    • lpoulain Says:

      La grosse différence est que le gros de l’apprentissage d’un ordinateur est codé par des humains.

      Pour les ordinateurs comme pour les humains, on doit apprendre de quelqu’un d’autres les règles de bases du jeu (les mouvements que peuvent faire chaque pièce, etc.). Mais la manière de jouer d’un ordinateur (quelle pièce jouer à chaque coup) est codée en dur par des humains et doit être recodée pour chaque jeu différent. Deep Blue a été conçu pour jouer aux échecs et est incapable de jouer au morpion sans un recodage humain.

      Un humain, par contre, n’a qu’à connaitre les règles de base, et peut apprendre la manière de jouer par soi-même.

  2. Eric C. Says:

    « Deep Blue a été conçu pour jouer aux échecs et est incapable de jouer au morpion sans un recodage humain. »

    Je ne vois toujours pas bien la différence🙂
    Moi non plus, ce n’est pas mon apprentissage des échecs qui m’a permis de jouer au morpion. Il a bien fallu que j’en « code les regles » dans ma machinerie cerebrale. Et bien qu’ayant joué à plusieurs jeux de plateaux, je suis toujours incapable de jouer au go.

    Dire que « la manière de jouer d’un ordinateur (quelle pièce jouer à chaque coup) est codée en dur par des humains » est à mon avis incorrect.
    C’est le couplage entre la fonction d’évaluation et la profondeur d’analyse qui conduira au coup suivant, exactement comme pour un humain. Les programmeurs de Deep Blue (et de ses successeurs, bien plus perfos que lui désormais) n’ont pas eu besoin de coder _toutes_ les positions envisageables (ce qui est de toute façon impossible).

    • lpoulain Says:

      Je persiste en affirmant que la manière de jouer d’un ordinateur est codée en dur par des humains. Toutes les combinaisons ne sont pas entrées manuellement, mais l’algorithme et les heuristiques sont bel et bien déterminés par des humains, comme l’importance de chaque pièce suivant la progression du jeu.

      Pour jouer à un autre jeu, l’ordinateur doit être complètement reprogrammé. Un humain peut par contre apprendre tout seul « l’algorithme » et les heuristiques pour jouer à un jeu.

  3. Eric C. Says:

    Les méthodes d’apprentissage des machines ne sont pas toutes purement déterministes, que ce soit aux échecs ou ailleurs. Je ne sais pas quel est le rôle (s’ils en jouent un) des réseaux de neurones dans les programmes d’échecs, mais c’est pour moi l’exemple type d’une méthode qui peut donner des résultats non prévisibles a priori par l’équipe qui l’a programmé. C’est de l’apprentissage par essai/erreur, avec rétropropagation, et là encore je ne vois pas de différence fondamentale avec la manière dont moi j’ai pu apprendre à jouer …

    Hasard des pérégrinations du net, je suis tombé là-dessus hier :
    http://www.theatlantic.com/magazine/archive/2011/03/mind-vs-machine/8386/1/
    Je n’ai pas encore fini la lecture (il y en a cinq pages). Cela semble néanmoins aller dans le sens que la distinction homme/machine est de plus en plus délicate …


Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s


%d blogueurs aiment cette page :