Une pierre à aiguiser, pas un oracle

Il existe une vieille question, une machine peut-elle penser ?, qui, depuis peu, ne préoccupe plus seulement les philosophes, mais quiconque ouvre le matin une zone de texte et demande quelque chose à un modèle de langage. Et la réponse honnête à cette question est plus inconfortable que ce que chacun des deux camps veut vous vendre. Les prophètes disent : elle pense, elle deviendra bientôt surhumaine, joignez-vous au mouvement ou perdez la course. Les détracteurs disent : c'est un perroquet sophistiqué, un tour de passe-passe, rien à signaler. Les uns comme les autres vendent de la certitude, et la certitude se vend tout simplement mieux que le doute. Ni les uns ni les autres ne vous vendent la vérité.

La vérité se trouve dans ce milieu inconfortable, et elle est plus utile que les deux extrêmes. Ces systèmes sont réellement stupéfiants et réellement utiles ; ils sont aussi réellement limités et commettent des erreurs sans sourciller. En un certain sens, ils comprennent beaucoup ; en un autre sens, il leur manque le fondement, le lien direct et charnel avec le monde que les humains possèdent et qu'eux n'ont pas. Ils possèdent, pour le dire de façon imagée, l'ombre du savoir humain, et non le soleil lui-même. Ils savent comment les gens écrivent sur le goût du sel ; mais jamais ils ne l'ont goûté.

La mauvaise question et la bonne

La question « pense-t-elle vraiment ? » se révèle être la mauvaise question, non parce qu'elle est sans intérêt, mais parce qu'elle est indécidable et ne vous fait pas avancer d'un pas dans la pratique. La question plus féconde est : comment bien collaborer avec elle ? Qu'est-ce qui revient à la machine, et qu'est-ce qui vous revient ? À la machine : le traitement rapide d'énormes quantités de texte, la réflexion partagée, l'établissement de liens, la contradiction, le premier brouillon, la dixième variante, l'explication patiente à deux heures du matin. À vous : le jugement, la responsabilité, le lien direct avec les êtres humains et le monde, la pesée morale, et le dernier mot.

Un modèle de langage est un excellent partenaire de réflexion et un mauvais patron ; un brillant apprenti et un pilote automatique dangereux. Il donne le meilleur de lui-même non pas lorsqu'on le croit, mais lorsqu'on s'en sert pour penser plus finement et qu'on vérifie ensuite ses réponses. Un contradicteur qui ne se fatigue jamais, un miroir qui répond. Pas un oracle. Une pierre à aiguiser.

Pourquoi cette distinction est tout

Le danger ne réside pas dans ce que la machine peut faire, mais dans ce que nous en faisons lorsque nous oublions où se situe sa limite. Celui qui reprend aveuglément le résultat remplace sa propre pensée par celle d'un système capable de produire des absurdités avec aplomb. Celui qui utilise le résultat comme matière première, comme point de départ pour bâtir, pour s'y opposer, pour s'aiguiser, multiplie sa propre capacité sans s'en dessaisir. La différence entre ces deux attitudes est la différence entre un outil et une béquille.

Une pensée à emporter : la prochaine fois qu'un système vous donne une réponse, ne demandez pas « est-ce exact ? » mais « comment vérifier cela ? ». La première vous rend dépendant. La seconde vous rend plus aiguisé. La machine est la pierre à aiguiser ; le couteau, et la main qui le tient, c'est vous qui le restez.