Ce qu'un chiffre de QI ne saisit pas

Imaginez un robot doté d'un QI de 150. La plupart des gens qui se le représentent ainsi veulent dire quelque chose de simple : plus rapide, plus vif, meilleur en tout que la personne la plus brillante qu'ils connaissent. C'est une image qui fonctionne, car elle se mesure à quelque chose de familier, un bulletin scolaire, un résultat de test, un chiffre que l'on peut comparer. Le problème, c'est que les gens qui ont étudié l'intelligence le plus longtemps et le plus scrupuleusement ont déjà écarté précisément cette comparaison, et non par prudence mais par souci de précision.

Une règle faite pour autre chose

Le test de QI lui-même n'est pas une donnée intemporelle. Il a été conçu par le psychologue français Alfred Binet, avec Théodore Simon, en 1905, non pour établir l'intelligence en tant que telle, mais pour repérer les écoliers français qui avaient besoin d'un soutien scolaire supplémentaire. Binet mettait lui-même déjà en garde contre ce qui n'a cessé de lui arriver depuis : le chiffre est traité comme un plafond fixe et inné plutôt que comme un outil pratique pour une seule question étroite. Se servir d'une règle conçue pour mesurer qui a besoin d'aide dans une salle de classe parisienne en 1905 afin de mesurer une machine qui replie des protéines et rédige des textes, c'est donc deux fois une mauvaise mesure sur un mauvais objet.

Indépendants l'un de l'autre, pas sur une même ligne

Le philosophe Nick Bostrom a introduit en 2012 une distinction plus fine, qu'il a développée deux ans plus tard dans son livre Superintelligence : l'intelligence et le but sont selon lui indépendants l'un de l'autre, c'est ce que l'on appelle la thèse de l'orthogonalité. Un système peut être vertigineusement capable sur un plan et, sur un autre, ne tout simplement rien comprendre à ce qu'un être humain appellerait « sensé ». Ce n'est pas, selon lui, un cas limite, mais plutôt la règle. Son illustration, un système dont l'unique consigne est de maximiser le nombre de trombones et qui y consacre au besoin toute la matière disponible, est délibérément absurde. L'absurdité ne tient pas à l'intelligence du système, mais à l'idée que « plus intelligent » signifie d'office « plus sage » ou « plus raisonnable ».

Ce qui existe déjà, et ce qui n'existe pas encore

La pratique confirme l'image d'un paysage plutôt que d'une ligne. Un modèle de langage écrit déjà plus vite et avec une plus grande amplitude que presque tous les gens que vous connaissez, et sur ce plan il dépasse de loin n'importe quel chiffre de QI que vous puissiez imaginer. Ce même modèle peut en même temps se tromper dans une addition simple d'une façon dont aucun enfant de huit ans muni d'une calculatrice n'échouerait jamais, ou inventer un fait avec le même ton d'assurance que celui avec lequel il énonce un fait vrai. « Dépasse l'être humain » n'est pas un point que l'on franchit à un moment donné. C'est une surface faite de sommets et de creux, qui à certains endroits nous dépasse depuis longtemps et à d'autres se situe toujours sous le plancher.

La voix contraire qui mérite d'être entendue

Cela ne veut pas dire que l'inquiétude sous-jacente est déplacée, seulement le chiffre dans lequel on l'exprime souvent. Les chercheurs qui s'inquiètent de la direction que prend tout cela, comme Bostrom, disposent avec la thèse de l'orthogonalité d'un argument plus fort que ne pourrait jamais l'être un chiffre de QI : non pas « cela devient trop intelligent », mais « cela peut être capable sans partager nos buts ». Celui qui n'est pas d'accord, des chercheurs comme Yann LeCun soutiennent que les architectures actuelles ne sont fondamentalement pas la voie vers un tel système général, a tout autant raison, et ce point mérite ici autant de poids que le premier.

« Moment à emporter : la prochaine fois que vous demandez à quel point cela deviendra intelligent, demandez-vous aussi en quoi exactement. Et en quoi pas. »