Marx, le saumon et l’intelligence artificielle

Une intelligence artificielle, à qui on demandait de dessiner un saumon dans une rivière, a représenté des… pavés de saumon ! Elle a confondu l’animal et le produit vendu en magasin. Marx nous explique les dessous de cet imbroglio technologique.

Dessine-moi un saumon !

Les intelligences artificielles (IA) créatrices d’image ont le vent en poupe, avec, par exemple, les programmes Dall-e ou Midjourney. Mais il leur arrive de produire des résultats plutôt loufoques, comme cette représentation de pavés de saumon à la place de l’animal. L’IA a d’abord confondu la partie et le tout… parce qu’elle n’est pas humaine. Quand nous disons : « Ce soir, c’est saumon au dîner », nous savons bien que nous n’allons en déguster qu’une partie. La machine n’est pas encore experte dans l’art, très spontané dans nos esprits, de la synecdoque.

Mais cette petite mécanique mentale ne fonctionne pas pour tous les produits manufacturés. Lever un filet à partir d’un poisson est relativement aisé. Mais qui pourrait dire ce que contient vraiment un pot de tarama, comment a été produite une tablette de chocolat ou quelle transformation a conduit à une boîte de « céréales » du supermarché ? Le processus de production à l’origine de l’immense majorité des produits manufacturés que nous consommons est énigmatique. Nous en avons – au mieux – une vague idée.

Un exemple de « fétichisme de la marchandise » ?

Marx avait pressenti ce brouillage. Dans Le Capital, il avance l’idée de « fétichisme de la marchandise », caractéristique, selon lui, du monde capitaliste. À ses yeux, ce fétichisme correspond à l’oubli du travail humain sous-jacent à la fabrication : « Ce qu'il y a de mystérieux dans la forme-marchandise consiste […] simplement en ceci qu'elle renvoie aux hommes l'image des caractères sociaux de leur propre travail comme des caractères objectifs des produits du travail eux-mêmes, comme des qualités sociales que ces choses posséderaient par nature » On pourrait ajouter, à côté de l’oubli du travail, l’oubli des matières premières à la base du processus de production – l’oubli du saumon. C’est particulièrement vrai dans une société organisée autour d’une division extrême du travail : nous n’occupons en général, dans les processus de production, qu’un rôle très partiel.

Ce changement de regard aboutit, selon Marx, à l’hégémonie de la marchandise. Celle-ci concentre toute l’attention et devient plus réelle que le travail et que les matières premières qui la conditionnent. La marchandise fétichisée se suffit à elle-même. L’ignorance du processus de transformation de la matière brute est comblée par des constructions imaginaires, parfois suggérées par les marques elles-mêmes. Plusieurs millions d’Américains croiraient ainsi que le lait chocolaté serait produit par des vaches marron.

Au fond, l’erreur de l’IA ne fait qu’exacerber la manière dont notre économie produit ce que nous consommons. Imaginons notre avenir : un monde où la pêche serait presque entièrement automatisée à grand renfort de chalutiers pilotés informatiquement. Qui entendrait encore parler de saumon, autrement que sous la forme de pavés tout prêts ? Rien n’empêcherait sans doute alors le glissement aujourd’hui opéré par l’IA.

À moins que des consommateurs, de plus en plus nombreux, ne s’unissent pour savoir comment et à partir de quoi le pavé de saumon qu’ils mangent a été fabriqué. Notre attention à ce que nous consommons empêchera peut-être – qui sait ? – d’autres erreurs d’interprétation. Sous les pavés, la nage !