Miguel Benasayag / Gilles Dowek : “Va-t-on apprendre autrement avec ChatGPT ?”

Dans un livre qui sort en librairie aujourd’hui, L’IA est-elle une chance ? (Philosophie magazine Éditeur), les deux philosophes s’opposent frontalement sur le sens de la révolution numérique et de l’intelligence artificielle, menace de déshumanisation pour l’un, incontournable progrès technologique pour l’autre. Nous vous proposons en exclusivité un extrait de ce débat passionnant.

Gilles Dowek : ChatGPT n’est pas un objet externe à nous, comme l’est par exemple une météorite qui nous tomberait sur la tête. Il a été construit par des gens pour résoudre des problèmes qui se posaient à eux. Il y a un problème qui est posé par l’invention de l’imprimerie. C’est que nous avons réussi à accumuler, en moins de cinq cents ans, une période courte, 15 millions de volumes écrits en français à la Bibliothèque nationale de France. En tant qu’amoureux de la connaissance, nous devons nous réjouir de tout ce savoir accumulé. Mais qu’en faire ? Lire les 15 millions de volumes ? Personne ne le pourrait. Donc, à un moment nous nous sommes dit que nous avions besoin d’outils informatiques pour traiter ces 15 millions de volumes, des outils capables de traiter des données exprimées dans une langue naturelle. On a alors inventé le Web, puis les moteurs de recherche, pour essayer d’accéder à ce savoir. Aujourd’hui, on a une espèce de super moteur de recherche qui s’appelle « ChatGPT », qui peut nous retrouver des informations dans cette grande masse et les organiser. Cet outil n’est pas parfait et il y en aura de meilleurs demain. Comment allons-nous nous en saisir pour enseigner mieux, ou au moins aussi bien ? Nous pourrions enfermer les élèves dans un caisson étanche où ils n’auraient plus accès à ChatGPT et continuer d’enseigner comme avant, mais je ne crois pas que ce soit ce qu’il faut faire. Il faut apprendre à utiliser ChatGPT, savoir que ce qu’il dit n’a aucune raison d’être vrai. La notion de vérité est étrangère à ChatGPT. Si on lui demande de compléter la phrase « le ciel est », il va dire « bleu ». Non pas parce que le ciel est bleu, mais parce que la phrase « le ciel est bleu » est la plus fréquente dans la masse de données auxquelles il a accès. La deuxième chose, c’est qu’il faut garder les mêmes objectifs pédagogiques, qu’on ait un outil ou non. Et moi, l’objectif que j’ai, c’est que les étudiants apprennent à penser par eux-mêmes, à utiliser des sources. À quoi sert le professeur ? Je me suis beaucoup posé la question avec l’arrivée de Wikipédia. Et je me suis aperçu que les étudiants se perdaient vite dans l’immensité du savoir. Que mon rôle était de leur servir de guide : leur apprendre d’abord des choses simples, avant de les amener à des choses plus complexes. Cela, ChatGPT ne le fait pas, Wikipédia ne le fait pas. Il n’y a aujourd’hui que le professeur qui puisse le faire.

Miguel Benasayag : ChatGPT fonctionne par ce que j’appelle « densité statistique ». Il va restituer ce qui, statistiquement, est plus dense. C’est donc un lieu commun nourri de milliards d’occurrences, un lieu commun très riche. Mais l’intelligence vivante, ce n’est pas ça. C’est celle qui, justement, est capable, par quelque chose de marginal et à peine perceptible, de changer le sens et l’ordre d’une connaissance. Ça, ChatGPT, par nature, ne le peut pas. On nous dit : l’outil va pouvoir écrire les articles de 99% des journalistes ! C’est sûr. Mais ce qu’il ne peut pas être, c’est, disons, Jack London. Ce qu’il ne va pas pouvoir faire, c’est ce qui est le propre du vivant : braver l’impossible. C’est ce qui s’est passé en 1900. Tout à coup, 100 personnes dans le monde se sont dit : « Ce n’est plus possible de peindre comme ça. » « Ce n’est plus possible de danser comme ça. De composer de la musique comme ça... » C’est ce qu’on appelle la révolution épistémologique de 1900. Un congrès scientifique s’est tenu à Paris en 1905 auquel ont participé 300 personnes qui, elles aussi, ont dit : « Ce n’est plus possible. » Seulement 300 personnes, et pourtant ça a changé le monde. Les jeunes vont utiliser ChatGPT pendant leurs études, et nous, les enseignants, il faudra bien qu’on apprenne à faire avec. Je suis d’accord, ce n’est pas une météorite qui nous est tombée dessus, c’est un outil qui a été fabriqué. Ça fait partie de ce que j’appellerais une « autoproduction du monde ». En l’occurrence, on a produit quelque chose qui a une puissance énorme et qu’il faut apprivoiser. Ce qui nous ramène aux corps et à la sensibilité des corps, qui cohabitent avec cette nouvelle puissance. Le philosophe Leibniz a décrit trois niveaux de compréhension (la neurophysiologie en dénombre dix). Leibniz donne un exemple très parlant. Lorsqu’on entre dans la mer, il y a d’abord la perception : on est touché, affecté par des milliards de gouttelettes ; mais on aperçoit aussi la vague, les bruits de la vague, et c’est l’aperception. Perception et aperception forment un premier socle de compréhension du monde. Le troisième niveau, en tout cas pour les organismes qui ont des mécanismes de représentation, est la conscience. La perception tend vers l’infini, mais l’aperception, elle, existe seulement dans la finitude du corps. Ce que moi, individu, j’aperçois – l’aperception –, et donc que je comprends, est une compréhension incarnée, qui n’est jamais exacte. L’information emprunte une autre voie, non incarnée, c’est pourquoi l’information ne modifie en aucun cas ni la raison neuronale ni l’attitude de quiconque. On s’étonne constamment : « Les gens sont informés sur les armes chimiques, et ils n’agissent pas ! » C’est le mythe selon lequel les gens informés vont agir. Les corps ne réagissent pas, les corps agissent. Et quand ils sont dans l’agir, ils incorporent des éléments aperceptifs qui produisent une compréhension. C’est très important, parce qu’on se rend compte que l’expérience éducative ne peut pas être réduite à de l’information.

L’IA est-elle une chance ? Méditations sur le risque, d’Apolline Guillot avec Miguel Benasayag et Gilles Dowek, vient de paraître chez Philosophie magazine Éditeur. 80 p., 9,50€, disponible ici.