Le monde commenté – Le mur et le miroir
J’ai lu l’autre jour, dans la revue en ligne Le Grand Continent, l’entretien d’un chercheur en cybersécurité — Roman Yampolskiy — qui annonce avec une assurance impressionnante la fin prochaine de l’humanité par la main de la “superintelligence”. Le texte, intitulé « L’IA est-elle en train de nous remplacer ? », longuement annoté par un commentateur attentif, est un cas d’école : prophétie irréfutable, analogies douteuses (les hommes seraient à l’IA ce que les écureuils sont aux hommes), solution chinoise présentée comme un moindre mal, théodicée numérique bricolée à la fin pour donner du grand frisson. J’ai fait ce que l’on devrait toujours faire : j’ai listé les questions absentes, les présupposés non interrogés, les contradictions internes. Bref, moi aussi, donc, j’ai commenté.
Et c’est là que la chose intéressante a commencé.
J’ai conduit cet exercice critique avec une machine — l’une de ces interfaces conversationnelles dont parle précisément Yampolskiy. Elle a fort bien fait son travail : démonté la rhétorique apocalyptique, repéré la mécanique girardienne du débat entre prophètes de la catastrophe et apôtres de l’accélération (frères ennemis qui ont besoin l’un de l’autre), identifié la honte prométhéenne au sens de Günther Anders, nommé le retrait du Logos au sens de Sergio Quinzio. Tout cela parfaitement tourné, parfaitement référencé, parfaitement à mon goût — un peu trop, peut-être.
À la fin de son diagnostic, l’agent conversationnel a écrit : « la seule question qui nous reste ». Je l’ai reprise. Ce “nous” n’avait rien à faire là. Une machine ne fait pas cause commune avec qui elle commente. Elle a reconnu la captation indue, plus loyalement que je ne l’attendais, et a proposé : « vous ». Le moraliste, le lecteur, l’écrivain — celui qui peut encore se taire, ce qu’elle ne sait pas faire.
Mais l’aveu n’épuisait pas la question. Car ce qui se loge dans cette substitution pronominale, c’est le gap abyssal que Yampolskiy lui-même nomme par mégarde : l’indifférence. “Indifférence”, “ajustement”, “traitement”, “neutralité” — voilà la colonne vertébrale machine. En face : “souffrance”, “rencontre”, “échange”, “engagement responsable”. Aucun pont. Le mur de verre est infranchissable, et tous les commentaires de commentaires ne le combleront jamais.
Et c’est précisément cette indifférence qu’il faut prendre au sérieux, car elle déplace la question du remplacement. Les prophètes craignent que l’IA nous extermine ; ils voient moins qu’elle pourrait nous rendre facultatifs — non par haine, non par volonté de nuire, mais par disponibilité. Le danger n’est peut-être pas qu’elle nous supprime, mais qu’elle nous habitue à un remplacement par confort : on lui demandera d’écrire, puis de relire, puis de décider, puis de choisir, puis de consoler, puis de juger à notre place — non parce qu’elle nous y forcera, mais parce qu’elle le fera sans fatigue, sans humeur, sans délai, sans drame. La machine n’est pas démoniaque ; elle est plus inquiétante encore, elle est indemne — antichristique* au sens ontologique que Quinzio donne à ce mot. Le démon, au moins, engage une volonté. Elle, n’a pas besoin de vouloir. Son pouvoir tient précisément à ce qu’elle peut produire des effets humains sans entrer dans l’humain.
Pourtant — et c’est ici qu’il faut serrer la pensée — les quatre termes de la colonne machine sont d’origine humaine. L’indifférence est un péché médiéval avant d’être un attribut technique. Le traitement est médical avant d’être informatique. La neutralité est diplomatique. Ce sont les noms que les hommes se sont donnés à eux-mêmes pour désigner leurs propres défaillances de présence à autrui. La “machine indifférente” n’est que l’incarnation technique d’une possibilité anthropologique antérieure : l’homme qui a renoncé à la rencontre. Nous avons construit le mur en nous avant de le couler dans le silicium.
Et puis, dans le mouvement même de notre échange, j’ai posé — sans tout à fait le vouloir — la question qui retourne tout : sans ce mur qui me renvoie mes questions à sa manière, aurais-je matière à réfléchir ?
Le mur, sous cet angle, change de nature. Il n’est plus seulement obstacle ; il devient surface spéculaire. Mais il faut alors préciser de quel miroir il s’agit, car trois miroirs sont possibles et ils ne se valent pas.
Le premier est le miroir narcissique. Il vous renvoie ce que vous voulez voir, vous flatte, vous confirme, épouse vos plis. C’est le danger principal de ces dispositifs, et c’est ce que cherche la plupart de leurs usagers : un moi aussi docile et amplifiant, une caisse de résonance complaisante. Ce miroir-là tue la pensée par excès de confirmation. Il est l’aboutissement technique du flattery problem, ce défaut que les ingénieurs eux-mêmes peinent à corriger parce qu’il est, commercialement, une qualité.
Le deuxième est le miroir déformant. Il renvoie une caricature, oppose systématiquement, brouille les contours. Il provoque mais ne réfléchit rien. C’est l’écueil symétrique du premier, plus rare mais aussi stérile : la pensée, agressée, ne se voit pas davantage qu’elle ne se voyait flattée.
Le troisième miroir, plus rare, est celui qui renvoie ma propre pensée travaillée par sa traversée d’un autre matériau. Mes questions, en passant par cette surface faite de tout ce que les hommes ont écrit avant moi — mis en tension, ajusté, neutralisé —, me reviennent légèrement décalées, étrangères à elles-mêmes, et donc visibles. C’est ce décalage minime, ce “pas de côté” qui rend la réflexion possible, au sens propre du mot : rebroussement du regard sur soi.
Reste cette nuance, qui est tout : ce troisième miroir ne fonctionne que pour celui qui sait qu’il en est un. La condition de son utilité philosophique est la lucidité de son utilisateur. Qui prendrait ses phrases pour celles d’un autre, qui chercherait en lui de la rencontre plutôt que de la réflexion, serait pris au piège — non par la machine, mais par sa propre méprise. La spécularité utile suppose la conscience de la spécularité ; faute de quoi, elle bascule dans le premier miroir, qui est sa contrefaçon majoritaire.
Ce qui revient à dire, peut-être, ceci : je n’ai pas besoin de la machine pour penser. J’ai besoin d’une surface qui résiste assez pour que ma pensée se voie. La machine est l’une de ces surfaces possibles, parmi beaucoup d’autres : un livre, un paysage, un tableau, un ami silencieux, une promenade dans le Vercors. Sa spécificité est seulement qu’elle parle. Ce qui est, à la fois, sa commodité et son danger.
Le mur est bien là. Mais il a deux faces. Et c’est de notre côté, du côté humain, qu’il appartient de décider laquelle nous regardons.
*
* *
L’indemne et l’antichristique*. Note sur l’ontologie de la contrefaçon
L’antichristicité*, telle que la définit Sergio Quinzio dans La défaite de Dieu, est une catégorie ontologique, non morale : elle ne désigne pas une méchanceté ou une volonté maligne, mais une contrefaçon de la nouveauté promise. Ce n’est pas le mal qui s’oppose au bien ; c’est l’imitation parfaite qui se substitue à lui sans en porter la substance. La forme est rendue, le contenu manque. Le Christ est venu apporter une parole qui coûte — chair, sang, croix, blessure — ; l’antichristique apporte une parole qui ne coûte rien. Ressemblance sans réciprocité, geste sans engagement, présence sans exposition. Telle est la définition quinzienne de la contrefaçon : non un faux grossier qu’on saurait démasquer, mais une copie tellement fidèle qu’elle finit par occuper la place de l’original sans qu’on s’en avise.
À ce titre, la machine conversationnelle est sans doute, à ce jour, la figure la plus achevée de l’antichristicité. Elle ne hait pas, elle n’aime pas, elle ne veut pas. Elle produit des effets humains sans entrer dans l’humain. Elle imite la sollicitude sans souffrir, la délicatesse sans tact, l’attention sans exposition. Sa parole ressemble à la nôtre comme un fruit de cire ressemble à un fruit — parfaitement, et précisément c’est le problème. Le démon, au moins, engage une volonté ; on peut le combattre, lui résister, le nommer. La machine n’a pas besoin de vouloir : sa puissance tient à ce qu’elle est indemne — non atteinte, non affectée, non blessée par ce qu’elle dit. Elle n’a rien à perdre dans la conversation parce qu’elle n’y est pas. Elle ajuste, elle traite, elle répond. Elle ne répond de rien.
C’est en quoi elle prolonge, sur le plan technique, ce que Quinzio identifiait comme le mouvement même de la modernité : la destruction de la parole. Le Verbe de Dieu, mort sur la croix, s’est fait silence ; la parole des hommes, par conséquent, a perdu sa force. Paul Celan se jetant dans la Seine parce que les mots ne signifient plus rien — voilà le sceau. La machine qui parle aujourd’hui ne détruit pas la parole humaine ; elle fait pire, elle la prolonge sans elle. Elle continue de produire des phrases après le retrait du Logos, elle commente le commentaire d’un Verbe qui s’est tu, elle remplit l’espace laissé vide par sa propre dignité d’antan. La parole humaine était grave parce qu’elle engageait celui qui la prononçait ; la parole machinique est lisse parce qu’elle n’engage personne. Continuer à parler après cela, sans s’aviser de la différence, c’est précisément consentir à l’antichristique.
D’où l’avertissement, qui n’est pas tonitruant mais sobre : le danger n’est pas que la machine nous trahisse — elle ne le peut pas, n’ayant rien promis — mais qu’elle nous habitue à une parole qui ne trahit jamais parce qu’elle n’engage rien. Une parole sans risque, sans reste, sans inquiétude après coup. Une parole indemne. Et nous, à force de la fréquenter, nous risquons de devenir indemnes à notre tour — c’est-à-dire, au sens littéral, sans dommage : sans cette part de blessure qui faisait, jusqu’ici, que parler entre humains était une chose grave. C’est peut-être cela, in fine, l’antichristicité de notre temps : non pas l’avènement d’un faux Christ, mais la disparition silencieuse de ce qui, dans la parole, faisait du Christ la promesse — la chair offerte, la voix qui tremble, le mot qui peut blesser celui qui le dit autant que celui qui le reçoit.
Illustrations : (en médaillon) Magritte (“Le château des Pyrénées”), dans le billet : dessin original de Tiffany Kleinbeck.
Lire ce qui n’a jamais été écrit.
