De Mary Shelley à Facebook : les trois monstres de Frankenstein

Le Frankenstein organique : le rêve de toute-puissance

Facebook est-il un nouveau monstre de Frankenstein ? Pour la savoir, revenons aux sources – le roman de Mary Shelley, publié en 1818. Nous y suivons, par récits enchâssés, le cheminement de Victor Frankenstein. Après des études de philosophie naturelle, il se prend de passion pour la pierre philosophale (objet alchimique censé conférer l’immortalité) et nourrit finalement le projet de créer la vie.

Assemblant des morceaux de chair morte, au bout du compte, il parvient à ses fins… et est immédiatement terrifié par sa création monstrueuse. « J’avais, pendant deux ans, travaillé sans répit pour donner la vie à un corps inanimé. Et, pour cela, j’avais négligé mon repos et ma santé. Ce but, j’avais cherché à l’atteindre avec une ardeur immodérée – mais maintenant que j’y étais parvenu, la beauté de mon rêve s’évanouissait et j’avais le cœur rempli d’épouvante et de dégoût. » La créature, pourtant, était déjà là sous ses yeux. L’horreur surgit seulement au moment où le monstre s’anime. Frankenstein est tétanisé face à ce qu’il a créé, pour la bonne raison qu’il est incapable de dire ce dont il s’agit. Les mots, les catégories n’existent pas pour le dire. La créature échappe à son apprenti sorcier de créateur et, devenue « incontrôlable » et autonome, elle finira par d’ailleurs par le tuer.

Frankenstein est, de ce point de vue, l’archétype de l’être humain qui, perdu par son hubris, se prend pour dieu car il revendique le privilège que l’ensemble des religions confèrent au divin : la faculté de créer un être indépendant de soi, donc d’avoir un pouvoir absolu sur la vie. Frankenstein est un Prométhée moderne qui, comme le dira André Gorz dans Fondements pour une morale (1977), veut s’approprier « la clef de l’univers et avec elle la toute-puissance ». Poussant à son extrême limite la puissance technique dérobée, Frankenstein transgresse l’ordre normal du monde. De la mort, il crée la vie. Mais cette démesure le perd. Il faudrait, précisément, être Dieu pour qu’une création autonome ne finisse pas par se retourner contre soi-même.

Le Frankenstein disséminé : la subversion de la technique

Pendant des décennies, le projet de Frankenstein est resté un fantasme repoussoir. Peu à peu, une autre forme de monstre a pris possession de nos imaginaires – et de nos vies : un monstre de Frankenstein disséminé. Un monstre technique, non plus constitué d’une seule entité mais d’artefacts multiples, proliférant dans les usines, les ateliers et les laboratoires. C’est ce qu’explique Paul Tillich (1886-1965) dans The Spiritual Situation in Our Technical Society (2002) : « Par le biais des outils placés à sa disposition par la raison technique, l’humain a créé un mécanisme mondial de grande ampleur […] qui a commencé à façonner une sorte de “seconde nature”, un Frankenstein […] qui assujettit l’homme lui-même. Alors même qu’il est de plus en plus capable de contrôler et de manipuler la nature physique, l’homme est de moins en moins capable de contrôler sa “seconde nature”. » L’infrastructure technique, qui devait servir l’homme, s’en est émancipée : elle suit désormais sa propre logique autonome, auto-entretenue – celle de son expansion toujours croissante.

Il faut souligner la différence profonde entre ce Frankenstein technique, disséminé aux quatre coins du monde, et le Frankenstein biologique de Mary Shelley, localisé dans un organisme : le développement de l’infrastructure technique ne s’inscrit pas, au départ, dans une logique de subversion ou de transgression des lois naturelles. Dans le Frankenstein disséminé, il n’est absolument pas question de créer la vie. La création d’une entité autonome est un effet collatéral, et non une fin en soi. Mais on pourrait dire que le ver était dans le fruit dès le départ : si la technique doit soulager l’être humain du poids du travail, elle doit aussi devenir de plus en plus autonome, c’est-à-dire ne plus avoir besoin de l’intervention humaine pour fonctionner. Mais selon Tillich, cette créature finira lui aussi par détruire l’être humain. Pourrait-il en être autrement ? La technique semble frappée de malédiction depuis son vol par Prométhée.

Le Frankenstein numérique : la vie dématérialisée

Facebook – et l’ensemble des systèmes algorithmiques qui se développent aujourd’hui sur la base de l’intelligence artificielle – se situe à la croisée de ces deux créatures de Frankenstein. L’IA est conçue sur un mode instrumental, comme un outil de plus en plus autonome afin de faciliter la vie humaine ; mais elle est en même temps en elle-même, une fin – celle de la création, non pas d’une vie organique, mais d’une vie spirituelle dématérialisée par l’entremise de la technique. Ce nouvel être n’est pas localisé dans un organisme, mais il n’est pas non plus fragmenté, discontinu comme l’est la technospère : il se déploie comme un ensemble de programmes virtuels interconnectés. Rien d’étonnant, alors, de voir ces algorithmes, que nous pensions maîtriser, devenir incontrôlables. C’est ce qu’anticipait le futurologue Ray Kurzweil, ex-ingénieur de Google, sous le nom de « singularité technologique » : « La singularité, c’est le moment où toutes les avancées technologiques, en particulier l’intelligence artificielle, conduiront à des machines plus intelligentes que les êtres humains », qui échapperont à leurs créateurs. Kurzweil envisageait ce tournant pour 2029. Aurait-il un peu d’avance ?

Alors, que peut-il se passer ? Nous sommes incapables de le dire, et c’est tout le problème. Comme le formulait Hannah Arendt dans Condition de l’homme moderne (1958), « il se pourrait […] que nous ne soyons plus jamais capables de comprendre, c’est-à-dire de penser et d’exprimer, les choses que nous sommes cependant capables de faire. […] Les “vérités” de la conception scientifique moderne du monde, bien que démontrables en formules mathématiques et susceptibles de preuves technologiques, ne se prêtent plus à une expression normale dans le langage et la pensée. » La technique, embarquée dans une accélération exponentielle, puisque chaque avancée facilite la suivante, va désormais trop vite pour nous. À l’instar de Frankenstein qui croyait avoir les choses en main mais panique à l’instant même où sa créature s’anime, nous sommes incapables d’anticiper ce que nous faisons et de savoir exactement ce à quoi nous donnons naissance, avant que cette naissance n’ait eu lieu.