Daniel Andler : la pensée humaine est-elle codable ?

Qu’est-ce qui différencie l’intelligence artificielle de son homologue humaine ? Répondre à cette question, explique le mathématicien et philosophe Daniel Andler, suppose de se demander quel est le rapport au monde d’une intelligence privée de corps.

Un certain nombre de personnalités appelaient, récemment, à un moratoire sur l’intelligence artificielle. Qu’en pensez-vous ?

J’ai passé de longues années à dire qu’il ne fallait pas s’affoler et que l’intelligence artificielle ne représentait pas un grand danger, vu ses faibles performances. Mais les choses ont changé assez brusquement, en deux temps. Premier acte : le triomphe du deep learning. Depuis le début des années 2010, les outils issus de cette technologie sont d’une telle puissance qu’ils bouleversent les perspectives dans beaucoup de domaines. Une puissance qui s’accompagne de risques inédits – d’où une aspiration générale pour une « IA éthique ». Deuxième acte : les modèles massifs de langage (MML), apparus en 2018, et dont le monde entier a pu mesurer le potentiel ces derniers temps avec ChatGPT. Ces modèles sont inquiétants pour trois raisons. Primo, on est loin de comprendre comment ils fonctionnent, et donc comment et pourquoi ils se comportent et se comporteront dans différentes situations ; on ne sait donc pas les « domestiquer ». Secundo, insérés dans l’écosystème numérique, ils peuvent noyer les informations, images, représentations de toutes sortes d’origines humaines dans un tsunami de pures fabrications, indiscernables des premières. Tertio, ChatGPT et consorts sont pour l’essentiel entre les mains d’entreprises privées d’une puissance inégalée, dont les intentions vertueuses ne pèsent pas lourd devant le désir de l’emporter sur la concurrence et d’accumuler des fortunes. C’est dire, dans ces conditions, qu’il est impératif de réfléchir. Mais je ne pense pas que les six mois de pause préconisés par l’appel en cours nous feraient beaucoup progresser dans la compréhension des mécanismes et des effets possibles.

Et avec plus de temps, parviendra-t-on à comprendre ce qui se passe dans la boîte noire des IA ?

C’est toute la question, et il est très difficile d’y répondre. D’abord, de qui espère-t-on la compréhension ? S’il s’agit des spécialistes – ceux qui fabriquent les modèles, mais aussi les philosophes, linguistes, experts en sciences cognitives –, on peut raisonnablement espérer qu’ils auront progressé d’ici deux ou trois ans. Pour ce qui est du grand public, je doute qu’il puisse atteindre une compréhension véritable, même quand les spécialistes seront à peu près au clair. Exprimer ce qui se passe dans ces modèles dans des termes du langage courant, ce n’est peut-être pas possible. L’exemple de la physique, même newtonienne, ou de la mécanique quantique, montre que ça n’a rien d’évident.

Qu’est-ce qui différencie, à votre avis, intelligence artificielle et intelligence humaine ?