Sur la singularité

Il y a eu récemment une résurgence des discussions sur la Singularité – le moment où les ordinateurs deviendront aussi puissant que le cerveau humain et nous seront intellectuellement supérieurs.

Je vais être honnête: je n’y crois pas – pas dans le futur immédiat du moins. D’ailleurs, la Singularité me rappelle le bide de la soi-disante « intelligence artificielle » des années 70 / 80.

Je ne suis pas sceptique parce que je pense que c’est impossible. La puissance des ordinateurs a de fait augmenté de manière exponentielle. Le Cray 2 était l’ordinateur le plus puissant du monde de 1985 à 1990 avec une puissance de 1,9 Gflops (milliards d’opérations à virgule flottante par seconde). La France n’en n’avait que deux (un détenu par l’EDF, et un par Polytechniques et utilisé par Météo France). 20 ans plus tard, un Intel Core 2 Duo E6700 que l’on trouve dans un ordinateur de bureau a une puissance de plus de 12 gigaflops. Si en 1950 quelqu’un avait prédit la puissance des ordinateurs de nos jours ainsi que leur application, il aurait été pris pour un fou.

Je suis sceptique de la Singularité comme présentée par ses promoteurs, et parce que je pense que leur modèle est fondamentalement erroné. Leur argument est le suivant: un ordinateur peut à l’heure actuelle simuler sans problème quelques neurones qui interagissent entre eux. En se basant sur la loi de Moore, on peut prédire la puissance future des ordinateurs  et ainsi déterminer la date où ils pourront simuler un cerveau humain entier. A tel point que certains pensent que la Singularité sera atteinte d’ici 10 à 20 ans.

Je vois cependant un défaut à cette théorie: le modèle utilisé est un modèle linéaire – la réalité l’est rarement. Connectez quelques neurones et vous obtenez un circuit électrique facile à émuler. Mais lorsque vous connectez des milliards de neurones – suffisamment pour en faire un cerveau – quelque chose de surprenant se produit: une conscience émerge. Appelez ça une âme, un esprit ou autre chose mais personne ne peut nier que quelque chose apparaît et qui a des sensations – et cette « chose »-là n’est prise en compte par aucun modèle informatique. Est-ce que la conscience est un effet dérivé de l’électricité? D’une réaction chimique? D’autre chose? A l’heure actuelle personne n’en n’a la moindre idée.

J’utiliserais un parallèle: les lois du mouvement de Newton ont été très utiles pour l’humanité – elles sont un des piliers de la mécanique moderne. Mais ces lois sont linéraires, et par conséquent affirment que l’on peut atteindre n’importe quelle vitesse pour peu que l’on fournisse l’énergie nécessaire. Nous savons désormais que la réalité est bien plus complexe – et certainement pas linéaire – et qu’à partir de 100.000 km/s ce modèle ne fonctionne plus. Nous devons utiliser un autre modèle: celui de la relativité d’Einstein.

Et quelque chose me dit que qu’il en est de même pour un réseau de neurones. A partir d’un certain moment, quelque chose se produit, et nous avons besoin d’un autre modèle. Tant que nous n’aurons pas trouvé un modèle pour la conscience, faire quelconque prédiction sur la singularité est aussi fiable qu’une prédiction météorologique un an à l’avance.

Et en parlant de météo, je terminerais par un autre exemple. Dans les années 50, Jon von Neumann pensait que les ordinateurs nous permettraient non seulement de prédire le temps mais également de le contrôler.  Son raisonnement était le suivant: tout système possède des points d’équilibre instables. On peut donc contrôler l’état d’un système en agissant sur ces points. Imaginez une balle en haut d’une colline: on peut la faire dévaler la colline dans la direction que l’on désire par une simple pichenette. Il suffisait simplement de calculer les points d’équilibre instables de l’atmosphère et le tour était joué. C’était juste une affaire de calculs. Sauf que le modèle de von Neumann était erroné car la réalité était plus complexe qu’envisagée: il n’avait en effet pas prévu que tous les points de l’atmosphère sont des points d’équilibre instables – le fameux effet papillon. 50 ans plus tard, malgré des ordinateurs plus puissants que von Neumann n’aurait jamais pu imaginer, on ne peut toujours pas prédire le temps à plus d’une semaine – encore moins de le contrôler. Juste une affaire de calculs, hein?

Et devinez quoi? « C’est juste une affaire de calculs » est exactement ce que les promoteurs de la Singularité nous disent. Se pourrait-il que la réalité soit plus complexe qu’ils ne croient?

Explore posts in the same categories: Prédictions, Singularité

3 commentaires sur “Sur la singularité”

  1. alefebvre Says:

    Oui, forcément la réalité est plus complexe qu’elle n’y parait !
    Donc, forcément, tu as raison, la singularité ne se fera pas comme expliquée par ses promoteurs… Mais il y a toujours une surprise !
    Et cette surprise pourrait se produire dans *l’autre sens* : quand on utilisera les machines pour étendre nos capacités. Là, on va découvrir un monde plus complexe et plus riche qu’on ne l’imaginait.
    On va aussi (peut-être) apporter la conscience dans les machines simplement en y injectant… la notre !
    Oui, si on imagine qu’on puisse downloader le contenu de son cerveau dans une machine (et non essayer de le simuler ce qui est plus difficile), là aussi, il va forcément se produire *quelque chose*…
    Ceci dit, je suis (une fois de plus) d’accord avec toi sur l’essentiel : les promoteurs sont trop optimistes sur leur technologies et le monde ne se met pas en bouteille si facilement, les leçons du passé suffisent à le rappeler à ceux qui ont la sagesse de les comprendre…

  2. lpoulain Says:

    Pour ce qui est d’un download du contenu du cerveau dans une machine, il est plus à parier qu’on ait des déceptions. Car si l’esprit humain contient quelque chose d’immatériel, il ne fera pas partie du download.

    La première application que je vois est plutôt néfaste: pouvoir sonder la mémoire d’une personne contre son gré.


  3. […] 2045, il n’est pas prouvé que la puissance de calcul brute même soit suffisante. Comme je l’ai déjà écrit, le monde autour de nous a toujours été plus complexe qu’imaginé (la relativité, la […]


Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s


%d blogueurs aiment cette page :