Archive for the ‘Singularité’ category

Singularité

18 février 2011

L’hebdomadaire Time Magazine de cette semaine a comme article principal « 2045: The year Man Becomes Immortal« .

L’article parle de la Singularité (le moment où les machines deviendront aussi intelligentes que l’homme) et de son champion le plus connu, Raymond Kurzweil.

J’avoue avoir de gros doutes sur le sujet. Pas qu’on ne puisse jamais atteindre la Singularité, mais que l’on puisse donner des dates avec de telles précisions. A mes yeux, toute prédiction qui dépasse les 10 ans est fortement suspecte. Les fans de la Singularité prédisent en effet que d’ici au milieu des années 2020 on aura fait le reverse engineering complet du cerveau humain, et que d’ici à 2045 on aura créé des ordinateur aussi intelligents que nous. Et l’immortalité comme le signale Time ? On y arrivera en téléchargeant notre cerveau dans un ordinateur, bien sûr !

Pensée linéaire

Ma plus grosse critique est la pensée linéaire des supporteurs de la Singularité. Ces derniers basent la date de leur prédiction sur la loi (empirique) de Moore qui dit que la puissance des ordinateurs double tous les 18 mois. Autrement dit, tout ne serait qu’une question de puissance de calcul.

Tout d’abord, personne ne sait combien de temps la loi de Moore va durer. Et même si elle perdure jusqu’à 2045, il n’est pas prouvé que la puissance de calcul brute même soit suffisante. Comme je l’ai déjà écrit, le monde autour de nous a toujours été plus complexe qu’imaginé (la relativité, la mécanique quantique, etc.). Von Neumann pensait dans les années 50 que l’on pourrait non seulement prédire le temps mais le contrôler. Tout n’était qu’une question de puissance de calcul. 60 ans après, et avec des ordinateurs plus puissants que Von Neumann n’aurait jamais imaginé, les prédictions météo une semaine à l’avance sont toujours imprécises. De même, après des avancées spatiales dans les années 60, le transport spatial reste cher et peu fiable, même après 50 ans d’innovations technologiques. Dans le domaine du corps humain, séquencer l’ADN humaine n’a pas eu les bénéfices escomptés et n’a certainement pas été suffisant pour comprendre comment fonctionnait le corps humain. En d’autres termes, avoir un ordinateur aussi puissant qu’un cerveau humain et créer une véritable intelligence artificielle sont deux choses distinctes.

Car un des points-clé est le mot « intelligence ». Les exemples donnés dans l’article de Time semblent montrer une évolution. L’ordinateur Deep Blue qui a battu Kasparov aux échecs. Cette semaine, l’ordinateur Watson a battu au jeu télévisé américain Jeopardy deux champions humain. En d’autres termes, les ordinateurs deviennent de plus en plus intelligents. Sauf qu’ils ne le sont pas. En 60 ans, l’intelligence des ordinateurs a augmenté d’exactement 0% pour rester exactement à zéro. Malgré 60 ans d’innovations, l’informatique reste toujours de la lecture de script du style IF / THEN / ELSE. Les scripts sont devenus plus complexes et plus rapidement exécutés, mais ils restent sans aucune intelligence. Deep Blue ne se base que sur des algorithmes et surtout sur du calcul brut du plus grand nombre de combinaisons possibles. C’est comme dire qu’une calculatrice ou un livre sont plus intelligents qu’un être humain car peuvent respectivement calculer plus vite et retenir des informations bien plus précisément. Deep Blue a été conçu pour jouer aux échecs mais n’a aucune conscience de sa tâche en question. Aucun ordinateur n’est à l’heure actuelle capable d’apprendre à jouer aux échecs sans que les règles soient codées dans son programme – contrairement à n’importe quel joueur humain (on n’a pas les règles d’échec codées dans notre ADN).

Mais qu’est-ce que l’intelligence humaine exactement ? Qui nous dit que le cerveau humain n’est pas un gigantesque script ? En fait, personne ne le sait, car l’intelligence est liée à ce que l’on appelle la conscience de soi, l’âme ou d’autres termes qui désignent la même chose. Et sur le sujet, personne n’a aucune idée d’où elle vient. Est-ce un effet secondaire de l’électricité dans notre cerveau ? D’une réaction chimique ? D’une loi de la physique céleste que nous ignorons ? D’une combinaison des trois ? Cela reste un mystère total. On « ressent » la conscience de soi mais on est incapable de la définir en termes de programme. Et sans cette conscience, le cerveau est un tas de tissus inutile. Ce n’est pas un ordinateur que l’on peut remettre en route juste en y faisant circuler du sang et du courant. Peut-être un jour trouvera-t-on la réponse, mais personne ne peut prédire quand. Et sans comprendre la conscience je doute qu’on puisse atteindre la Singularité. Sans comprendre la conscience, faire un « brain dump » n’aura pas les effets escomptés.

Le « brain dump »

Un autre buzzword associé à la Singularité est l’espoir d’un « brain dump », c’est-à-dire de pouvoir à terme télécharger le contenu de son cerveau sur un ordinateur, le but étant de créer une copie de soi-même et d’atteindre « l’immortalité ». Une fois de plus, une telle opération nécessitera autre chose que des ordinateurs puissants. Outre une résolution du problème de la conscience / âme, la technologie pour extraire les données d’un cerveau devra être mise au point. Les nanotechnologies souvent décriées se sont révélés être pour le moment de la science fiction. Là encore, aucune date de disponibilité raisonnablement prévisible.

Mais juste pour jouer le jeu, imaginons que cela devienne possible. Les implications légales sont nombreuses. Quelques exemples :

  • Peut-on forcer un individu à faire un « dump » de son cerveau contre son gré ? La police a-t-elle le droit de « perquisitionner » un cerveau si elle a un mandat ? Une entreprise peut-elle faire exiger dans son contrat d’embauche que ses employés effectuent un « dump » de leur cerveau afin de les remplacer s’il leur arrive un accident ?
  • Si un employé effectue volontairement un « dump » de son cerveau, à qui appartient la copie électronique ?
  • La copie a-t-elle des droits ? Effacer une copie est-elle équivalent à un meurtre ?
    • Si non, une personne a-t-elle droit de vie et de mort sur ses propres copies ? Peut-elle faire des copies d’elle-même, les torturer pour le plaisir (il y a des sadiques partout) ou de les forcer à faire son travail à sa place sous peine de leur couper le courant  ?
    • Si non, on peut parier que les pensées « électroniques » vont faire du lobbying pour être reconnue en tant que personnes – et auront de quoi bloquer le réseau informatique !
    • Si une copie a les droits d’un être humain, considérons le cas d’un hacker qui crée des copies de lui-même sur des ordinateurs tiers, copies qui se copient elles-mêmes etc. A-t-on le droit d’effacer une de ces copies qui met la pagaille sur notre ordinateur ou est-ce que ce sera considéré comme un meurtre ? Le problème se complique quand on sait que l’on ne peut pas reloger un programme. Car en informatique, déplacer veut dire copier + effacer.
    • Si oui, a-t-elle le droit de voter ? Si elle a le droit, il y a un risque que des gens se « multiplient » juste pour influencer les élections.
    • Si oui, quels sont les droits d’une copie « atrophiée » (où on enlève des capacités cognitives) ou de la copie d’un animal « augmentée » (usage de la parole et plus grandes capacités cognitives) ?
  • Qu’est-ce qui détermine un humain ? Dans le manga Gunnm, l’héroïne, un androïde avec un cerveau humain, parle à un humain dont on a remplacé le cerveau par une puce biologique. Quel est le plus humain d’entre les deux ?

Incertitudes

L’incertitude est l’une des choses dont nous avons le plus de difficultés à faire face. Accepter son ignorance est tellement difficile que nous sommes prêts à nous lancer dans des affirmations gratuites, telles que « la Singularité d’ici à 2045 » ou « la Singularité n’arrivera jamais ». D’autant plus lorsqu’on est un « expert » sur le sujet et que l’on aimerait bien que la Singularité arrive de son vivant – surtout pour Kurzweil qui aimerait bien arriver à l’immortalité avant que son corps physique ne lâche.

L’humanité arrivera-t-elle à la Singularité ? Peut-être. Quand ? Aucune idée.

Publicités

Sur la singularité

12 juin 2009

Il y a eu récemment une résurgence des discussions sur la Singularité – le moment où les ordinateurs deviendront aussi puissant que le cerveau humain et nous seront intellectuellement supérieurs.

Je vais être honnête: je n’y crois pas – pas dans le futur immédiat du moins. D’ailleurs, la Singularité me rappelle le bide de la soi-disante « intelligence artificielle » des années 70 / 80.

Je ne suis pas sceptique parce que je pense que c’est impossible. La puissance des ordinateurs a de fait augmenté de manière exponentielle. Le Cray 2 était l’ordinateur le plus puissant du monde de 1985 à 1990 avec une puissance de 1,9 Gflops (milliards d’opérations à virgule flottante par seconde). La France n’en n’avait que deux (un détenu par l’EDF, et un par Polytechniques et utilisé par Météo France). 20 ans plus tard, un Intel Core 2 Duo E6700 que l’on trouve dans un ordinateur de bureau a une puissance de plus de 12 gigaflops. Si en 1950 quelqu’un avait prédit la puissance des ordinateurs de nos jours ainsi que leur application, il aurait été pris pour un fou.

Je suis sceptique de la Singularité comme présentée par ses promoteurs, et parce que je pense que leur modèle est fondamentalement erroné. Leur argument est le suivant: un ordinateur peut à l’heure actuelle simuler sans problème quelques neurones qui interagissent entre eux. En se basant sur la loi de Moore, on peut prédire la puissance future des ordinateurs  et ainsi déterminer la date où ils pourront simuler un cerveau humain entier. A tel point que certains pensent que la Singularité sera atteinte d’ici 10 à 20 ans.

Je vois cependant un défaut à cette théorie: le modèle utilisé est un modèle linéaire – la réalité l’est rarement. Connectez quelques neurones et vous obtenez un circuit électrique facile à émuler. Mais lorsque vous connectez des milliards de neurones – suffisamment pour en faire un cerveau – quelque chose de surprenant se produit: une conscience émerge. Appelez ça une âme, un esprit ou autre chose mais personne ne peut nier que quelque chose apparaît et qui a des sensations – et cette « chose »-là n’est prise en compte par aucun modèle informatique. Est-ce que la conscience est un effet dérivé de l’électricité? D’une réaction chimique? D’autre chose? A l’heure actuelle personne n’en n’a la moindre idée.

J’utiliserais un parallèle: les lois du mouvement de Newton ont été très utiles pour l’humanité – elles sont un des piliers de la mécanique moderne. Mais ces lois sont linéraires, et par conséquent affirment que l’on peut atteindre n’importe quelle vitesse pour peu que l’on fournisse l’énergie nécessaire. Nous savons désormais que la réalité est bien plus complexe – et certainement pas linéaire – et qu’à partir de 100.000 km/s ce modèle ne fonctionne plus. Nous devons utiliser un autre modèle: celui de la relativité d’Einstein.

Et quelque chose me dit que qu’il en est de même pour un réseau de neurones. A partir d’un certain moment, quelque chose se produit, et nous avons besoin d’un autre modèle. Tant que nous n’aurons pas trouvé un modèle pour la conscience, faire quelconque prédiction sur la singularité est aussi fiable qu’une prédiction météorologique un an à l’avance.

Et en parlant de météo, je terminerais par un autre exemple. Dans les années 50, Jon von Neumann pensait que les ordinateurs nous permettraient non seulement de prédire le temps mais également de le contrôler.  Son raisonnement était le suivant: tout système possède des points d’équilibre instables. On peut donc contrôler l’état d’un système en agissant sur ces points. Imaginez une balle en haut d’une colline: on peut la faire dévaler la colline dans la direction que l’on désire par une simple pichenette. Il suffisait simplement de calculer les points d’équilibre instables de l’atmosphère et le tour était joué. C’était juste une affaire de calculs. Sauf que le modèle de von Neumann était erroné car la réalité était plus complexe qu’envisagée: il n’avait en effet pas prévu que tous les points de l’atmosphère sont des points d’équilibre instables – le fameux effet papillon. 50 ans plus tard, malgré des ordinateurs plus puissants que von Neumann n’aurait jamais pu imaginer, on ne peut toujours pas prédire le temps à plus d’une semaine – encore moins de le contrôler. Juste une affaire de calculs, hein?

Et devinez quoi? « C’est juste une affaire de calculs » est exactement ce que les promoteurs de la Singularité nous disent. Se pourrait-il que la réalité soit plus complexe qu’ils ne croient?