Pierre Cassou-Noguès : “ChatGPT ne fait que raviver les fantasmes de la Silicon Valley”

Pour le philosophe Pierre Cassou-Noguès, auteur de l’essai La Bienveillance des machines (Seuil, 2022), les promesses du système informatisé de langage ChatGPT développé par OpenAI servent surtout à attirer des investisseurs, tout en occultant de vrais enjeux sociaux et politiques.

Nous vivons avec ChatGPT l’énième promesse de basculer dans une ère où l’intelligence artificielle change de nature et va définitivement dépasser les capacités humaines. Depuis les exploits du superordinateur Deep Blue – qui avait battu le champion du monde Garry Kasparov aux échecs – ou plus récemment ceux d’AlphaGo, la Silicon Valley nous vend ce mythe de la Singularité, la prophétie du point de basculement dans un monde nouveau dominé par les machines. Ce discours est une façon d’attirer l’attention médiatique et celle des investisseurs. C’est une stratégie économique et il nous faut être prudents.

Le vrai du faux en écriture

Que fait ChatGPT ? Il produit des suites de mots. Il s’agit d’un algorithme qui calcule la suite la plus probable d’un texte. Il peut produire des dissertations de philosophie, des articles, des romans ou même une recette de cuisine.

Les applications conversationnelles existent depuis bien longtemps. Déjà en 1963, l’informaticien Joseph Weizenbaum avait mis au point Eliza, un programme capable de relancer une conversation en rebondissant sur tel ou tel mot. Au point que sa secrétaire l’utilisait comme psychanalyste ! Plus récemment, l’artiste Grégory Chatonsky a utilisé une application pour écrire des romans. ChatGPT, lui, semble encore plus précis. Les dissertations ont l’air relativement crédibles, mais il nous faut du temps pour en évaluer la pertinence. Même si la base de données est immense et que le Wikipédia anglais ne constitue que 0,6 % de sa mémoire, attendons de voir si les réponses ne finissent pas par se standardiser.

“ChatGPT ne va pas dispenser les élèves de faire des rédactions : l’important est la formation de la pensée, pas l’exercice formel en tant que tel”
Pierre Cassou-Noguès

Et puis, qu’est-ce qu’une telle application pourrait changer concrètement ? On peut tout à fait imaginer qu’une machine finisse par produire des dissertations excellentes. Cela ne va pas dispenser les élèves de faire des rédactions : l’important est la formation de la pensée, pas l’exercice formel en tant que tel. Plus encore, on pourrait imaginer que cette intelligence artificielle produise des romans policiers assez plaisants. Mais cela n’enlèverait rien à notre désir, et à la possibilité, d’écrire. Le problème de la littérature n’est pas ces applications, c’est TikTok, ce sont les écrans qui nous ancrent dans une temporalité courte et hypnotique et nous rendent inaptes à nous concentrer sur des textes longs.

Se libérer de tâches aliénantes ?

Il devient de plus en plus évident que ces applications d’IA peuvent menacer un certain nombre de métiers, comme un certain journalisme où l’écriture d’un article consiste à mettre en forme certaines données de façon claire et pédagogique. Je pense aux articles financiers ou à de simples comptes-rendus sportifs. Mais on pourrait se demander si cela constitue réellement un problème. Après tout, il y a de moins en moins de caissiers dans les supermarchés du fait de l’apparition des caisses automatiques.

“ Si un journaliste produit de l’information, une intelligence artificielle produit du ‘contenu’ et se moque bien de la vérité”
Pierre Cassou-Noguès

On peut même penser que l’automatisation est une bonne chose. Finalement, si une machine peut remplacer un humain dans une certaine tâche, c’est que celle-ci est mécanique et aliène justement ce qu’il y a d’humain en nous. Il faut alors seulement que le temps qui est ainsi libéré soit équitablement réparti, c’est-à-dire que l’humain qui est remplacé par une machine puisse vivre dignement sans ce travail pour se consacrer à autre chose qui puisse être totalement inutile, improductif : faire de la poésie, des mathématiques ou rêver…

La voie ouverte aux infox ?

Cependant, outre que la mécanisation n’engendre pas actuellement une répartition équitable du temps et des richesses (bien au contraire), elle n’est pas non plus acceptable pour tous les métiers. Si un journaliste produit de l’information, une intelligence artificielle produit du « contenu » et se moque bien de la vérité. ChatGPT colle des mots les uns après les autres selon une logique probabiliste. N’importe qui pourra générer très vite une grande quantité d’articles crédibles sur le fait que les vaccins sont inefficaces ou que la Terre est plate.

Qu’une machine puisse produire un compte-rendu d’une étape du tour de France, ce n’est pas un mal en soi, cela donnera peut-être envie aux journaux sportifs de publier de véritables récits, comme ceux qu’ont donnés en leur temps Antoine Blondin ou Dino Buzzati, notamment Sur le Giro 1949. Mais l’utilisation massive de ce genre de programmes pour produire des infox de façon industrielle, cela représente un danger, celui de noyer la réalité derrière un monde numérique de plus en plus traversé de simulacres trompeurs.

“La dystopie, ce n’est peut-être pas que les humains soient dépossédés de leurs tâches mais que les machines ne deviennent accessibles qu’à quelques-uns”
Pierre Cassou-Noguès

En dernière instance, il nous faut considérer que l’énergie et les terres rares vont coûter de plus en plus cher. Il est possible que cette omniprésence des écrans, de cette accessibilité universelle aux techniques les plus perfectionnées, que tout cela soit finalement assez bref. La dystopie, ce n’est peut-être pas que les humains soient dépossédés de leurs tâches mais que les machines ne deviennent accessibles qu’à quelques-uns, à des monopoles qui en useront pour leur influence ou leur propagande.