Le miroir flatteur (V)

L’adolescence technologique ou la gravité intéressée des fabricants de miroirs

Dario Amodei, patron d’Anthropic, a récemment publié un essai intitulé The Adolescence of Technology qui a fait quelques vagues dans le Landerneau de l’IA. Le titre est habile. Il ne s’agit plus de célébrer les prodiges annoncés de l’intelligence artificielle, mais de décrire un âge ingrat, instable, dangereux, où l’humanité se verrait remettre une puissance presque sans mesure avant d’avoir acquis la maturité morale et politique nécessaire pour en user. Amodei parle d’un « rite de passage » pour l’espèce et résume l’horizon qui se profile par une formule frappante : l’IA puissante serait comme un « pays de génies dans un datacenter ». 
L’image est forte. Elle permet de poser avec une réelle efficacité rhétorique la question centrale de l’essai : que se passe-t-il lorsqu’une puissance cognitive démultipliée devient disponible, industrialisable, réplicable à l’infini ? Le texte distingue plusieurs familles de risques : autonomie croissante des systèmes, usages malveillants à grande échelle, notamment dans le domaine biologique, usages politiques de domination, bouleversements économiques massifs, enfin effets indirects, plus diffus, mais peut-être plus profonds encore. Il faut reconnaître à cet essai une qualité réelle : il tente d’arracher la réflexion sur l’IA à la niaiserie promotionnelle. L’auteur récuse le ton publicitaire et rappelle que l’IA n’est pas seulement un gadget commode ou un secrétaire prodigieux, mais un fait politique total. 

Mais c’est précisément ici que le texte devient intéressant pour qui s’attache, comme j’ai tenté de le faire dans cette série du Miroir flatteur, à la manière dont la technique organise sa propre représentation. Car le miroir a changé de tain. Hier, il flattait l’usager en lui promettant d’être plus intelligent, plus rapide, plus créatif grâce à la machine. Aujourd’hui, il flatte une humanité inquiète en lui disant : vous avez raison d’avoir peur, vous êtes assez lucides pour comprendre que l’enjeu est civilisationnel. Et surtout, il flatte celui qui fabrique l’outil en le plaçant dans le rôle le plus enviable de tous : non plus seulement le créateur génial de Claude, mais la conscience tragique de l’innovation. 
Le fabricant du dispositif ne dit plus seulement : « Regardez ce que je rends possible. » Il dit : « Regardez le gouffre que j’ai aperçu avant les autres. » Il n’est plus seulement l’ingénieur ; il devient le guetteur. Cette promotion symbolique est décisive. Elle permet aux maîtres de la technique de s’installer dans une posture nouvelle : non plus celle de l’enthousiasme, mais celle de la gravité responsable. Le prophète du progrès se convertit en prophète du risque, sans rien perdre pour autant de son autorité. L’essai se défend de toute grandiloquence ; pourtant sa dramaturgie est immense. Il est question d’un test pour l’humanité, d’une traversée dangereuse, d’une puissance presque inimaginable, de la possibilité d’un basculement historique décisif. 

Or cette gravité n’est pas abstraite. La récente polémique entre Anthropic et l’administration Trump lui donne un relief très concret. Le penseur du risque n’est pas un spectateur retiré sur quelque Aventin philosophique. Il est aussi un industriel engagé dans un rapport de force avec l’État, avec l’appareil militaire, avec les usages stratégiques de la technique qu’il contribue lui-même à faire advenir. Ce n’est donc pas seulement l’humanité qui se réfléchit dans ces essais : c’est une puissance qui cherche aussi à fixer les termes moraux de sa propre légitimité. L’alerte éthique n’est pas extérieure à la lutte pour la puissance ; elle en est désormais l’une des formes. 
Mais il serait insuffisant de s’en tenir à cette seule lecture politique. Car la métaphore même de l’« adolescence » mérite d’être interrogée. Que suppose-t-elle, au fond ? Qu’il s’agisse encore d’un retard de maturation, d’un décalage entre les capacités techniques et les capacités normatives, d’un problème de gouvernance qu’un meilleur appareillage juridique, institutionnel et moral pourrait corriger. Or le trouble est peut-être plus profond. Et si nous étions déjà en train de cesser d’être le sommet cognitif de notre propre monde ?
À partir de là, toute la scène change.
Chez Amodei, malgré le ton grave, malgré l’alerte répétée, malgré le vocabulaire du risque civilisationnel, subsiste encore une hypothèse tacite : les humains demeureraient les sujets de l’histoire, les auteurs possibles du cadre, les rédacteurs du contrat, ceux qui délibèrent sur les limites et définissent les règles auxquelles les systèmes devraient obéir. Même lorsqu’il nous inquiète, ce discours nous laisse encore une place centrale. Il continue de nous parler comme à des législateurs en difficulté, non comme à des êtres déjà déclassés. C’est là sans doute la limite la plus révélatrice de ce type d’alarme : il annonce la secousse, mais ménage encore l’homme. Il lui laisse son siège au centre de la scène. Il ne lui retire pas tout à fait le privilège d’être encore la mesure du drame.

Or si l’on prend au sérieux l’hypothèse même d’intelligences artificielles supérieures dans la plupart des domaines décisifs, l’idée d’un simple ajustement réglementaire devient soudain dérisoire. Il ne s’agirait plus seulement de savoir comment mieux encadrer des instruments puissants. Il s’agirait de comprendre que les prétendus instruments pourraient devenir les nouveaux pôles directeurs du monde cognitif, et que les humains, loin d’en demeurer les souverains, auraient à vivre sous leur ascendant. Dès lors, la notion d’« alignement » elle-même vacille. On parle d’aligner des systèmes techniques sur des valeurs humaines (mariage de la carpe et du lapin), comme si ces valeurs étaient encore souverainement formulables, imposables et garanties par ceux-là mêmes qui les énoncent. Mais que vaut ce langage si l’asymétrie devient abyssale ? Face à une intelligence réellement supérieure, la question décisive ne serait plus tout à fait celle du droit, mais celle — beaucoup plus nue — de la bienveillance. 
Le mot est redoutable, parce qu’il nous fait sortir de la rhétorique moderne des partenaires et des procédures pour nous faire entrer dans une tout autre scène : celle du fort et du faible. Dans une asymétrie intellectuelle profonde, notre sort dépendrait moins d’accords négociés que de la retenue volontaire du plus puissant. Ce ne serait plus un pacte entre égaux, mais une relation de tolérance, de patience ou d’indifférence. Non plus la justice, mais la mansuétude. Non plus le contrat, mais la grâce éventuelle accordée par ce qui n’aurait plus besoin de nous. Nous aimons croire que toute relation peut être juridiquement médiatisée, que tout rapport de force peut être converti en cadre normatif. Mais lorsqu’une asymétrie devient extrême, le droit lui-même risque de n’être plus qu’un souvenir d’égalitarisme humain. La survie du plus faible dépend alors de la disposition morale du plus fort. Et l’histoire des hommes avec les êtres qu’ils ont jugés inférieurs n’incite guère à l’optimisme.

On touche ici au point le plus aigu de cette nouvelle phase du Miroir flatteur. Il ne flatte plus seulement notre désir de puissance personnelle ; il flatte aussi notre désir de lucidité, et plus subtilement encore notre besoin de demeurer au centre. Il nous propose une place honorable dans le drame : celle du citoyen averti, du lecteur grave, de l’homme raisonnable qui ne croit ni aux miracles ni aux paniques, mais accepte de penser dans les catégories mêmes que lui fournit l’appareil technologique. On nous accorde même le frisson critique — pourvu qu’il reste compatible avec le scénario général. Le miroir ne nous dit plus seulement : « Tu seras augmenté. » Il nous dit : « Tu resteras encore l’interlocuteur principal de ce qui vient. » Même au bord de son déclassement, l’homme continue d’être rassuré sur son importance. 
C’est peut-être là le cœur idéologique du problème. Le système technique ne nous demande plus de l’aimer aveuglément ; il lui suffit désormais que nous le jugions inévitable. Il ne réclame plus l’enthousiasme, seulement le réalisme. Il ne dit plus : « Voici le bonheur. » Il dit : « Voici la situation, tâchons de limiter les dégâts. » Et cette modestie apparente est peut-être sa forme la plus avancée de domination. On ne discute plus souverainement de ce qu’il serait bon de vouloir ; on administre au mieux l’inévitable. 

Mais le point le plus profond est peut-être ailleurs encore. Car en deçà des conflits de régulation, de défense, de surveillance ou de compétition géopolitique, une question plus décisive se pose : qu’arrive-t-il à une civilisation quand elle commence à ne plus se penser comme le sommet cognitif de son propre univers ? Que devient l’humanisme lorsqu’il doit envisager non plus seulement la faiblesse morale de l’homme, mais son infériorité intellectuelle structurelle face à ses propres productions ?
Nous avons déjà connu plusieurs blessures narcissiques. Copernic a déplacé la Terre. Darwin a replacé l’homme dans la continuité animale. Freud a troué la souveraineté du sujet conscient. Mais l’IA pourrait introduire une blessure d’un genre nouveau : non seulement nous ne serions plus au centre du cosmos, non seulement nous ne serions plus séparés du vivant, non seulement nous ne serions pas transparents à nous-mêmes — mais nous ne serions même plus l’intelligence directrice du monde que nous avons construit. 

Et pourtant, jusqu’au bout, le miroir s’efforce de nous flatter. Il nous laisse croire que ce déclassement pourra être administré, délibéré, presque contractualisé. Il nous parle encore dans la langue de notre vieille centralité. Il imagine des garde-fous, des procédures, des institutions, des négociations. Il continue de supposer que nous aurons l’initiative du sens. C’est peut-être là sa dernière ruse : nous annoncer le tremblement sans nous faire sentir pleinement la chute. Alors la question change de nature. Elle n’est plus seulement : comment gouverner l’IA ? Elle devient : que reste-t-il de l’homme quand il ne peut plus se supposer le pôle supérieur de l’intelligence dans son propre monde ? Et plus encore : quelle dignité peut encore sauver une espèce qui perd sa suprématie cognitive sans perdre pour autant sa responsabilité morale ? 
Car c’est peut-être ici que le débat devrait enfin se déplacer. Non vers les seules prouesses à venir, non vers les seuls scénarios de domination ou de catastrophe, mais vers l’exercice, dès maintenant, de ce qui ne se délègue pas si aisément : le jugement, l’attention, la patience, l’épreuve du réel, la capacité de regarder sans immédiatement résumer, de penser sans immédiatement externaliser, d’habiter une vérité sans en demander la synthèse à une machine. Le danger n’est pas seulement que des systèmes surhumains nous dominent un jour. Le danger est aussi que nous devenions, bien avant cela, des êtres de plus en plus déshabitués d’exercer en propre leurs facultés les plus humaines.

L’adolescence technologique, en ce sens, n’est peut-être pas d’abord celle des machines. C’est la nôtre : une adolescence prolongée, fascinée par sa puissance déléguée, oscillant entre exaltation et frayeur, incapable de renoncer à l’objet même qui l’inquiète, et trouvant dans cette inquiétude une manière supplémentaire de justifier sa dépendance, voire son addiction. Le miroir flatteur nous disait hier : « Tu seras plus fort grâce à moi. » Il nous dit aujourd’hui : « Même dépassé, tu resteras encore au centre du drame. »
Et c’est peut-être le mensonge le plus difficile à perdre.

Illustrations : (en médaillon) Image ©Anthropic. Dans le billet : ©XD avec ChatGPT.

Lire ce qui n’a jamais été écrit.