Shoshana Zuboff : “Le capitalisme de surveillance transforme la vie en une matière malléable”

Selon vous, nous vivons à l’âge du « capitalisme de surveillance ». Que voulez-vous dire ?

Shoshana Zuboff : Comme l’a montré l’économiste Karl Polanyi dans La Grande Transformation [1944], le capitalisme est fondé sur une dynamique qui le pousse à transformer en marchandises ce qui était jusque-là hors marché. Avec le capitalisme de surveillance, il s’agit de capter l’expérience humaine dont on se sert comme d’une matière première pour la transformer en prévisions comportementales monnayables sur un nouveau marché. Nous sommes censés être les usagers de Google et de Facebook, mais ces plateformes utilisent les informations sur nos comportements privés pour les transformer, grâce aux algorithmes d’intelligence artificielle, en prédictions comportementales. Certaines de ces données peuvent être utilisées pour l’innovation et l’amélioration de leurs services. Cependant, la plus grande part est valorisée pour leur fonction prédictive. 

Un exemple ?

Cela a commencé avec le click-through rate [« taux de clics »], le pourcentage d’internautes qui cliquent sur la publicité d’un annonceur lorsqu’ils la voient sur leur écran. Développé par Google en 2001, il permet aux firmes de savoir si et quand leur publicité attire leur client. Il s’est imposé comme la pierre angulaire du marché de la publicité en ligne. Aujourd’hui, les algorithmes prédictifs ont envahi tous les secteurs : on prédit le comportement des consommateurs dans les supermarchés, leurs habitudes alimentaires et sanitaires, les usages des conducteurs automobiles, etc. Dans un mémo de 2018, Facebook prétend que son « IA Hub » qui traite quotidiennement des milliards de données est capable de produire « 6 millions de prédictions de comportement humain par seconde ». Prédire le futur est une aspiration fondamentale de l’humanité. Mais nous avons créé des machines qui se nourrissent de données afin de prédire les comportements quotidiens des individus.

Google, pionnier de cette transformation, ne l’avait pas planifiée. Comme si tout cela avait surgi de manière contingente…

La surveillance n’était pas inscrite dans l’« ADN » de la révolution technologique. Et on peut concevoir d’autres formes d’organisation du monde numérique. Au départ, les fondateurs de Google Larry Page et Serguey Brin méprisaient la publicité. La plateforme voulait « organiser l’information mondiale et la rendre accessible et utile », mais elle n’avait pas de clients ni de marchandises au sens propre. Au début des années 2000, la bulle numérique risquant d’éclater, les investisseurs ont menacé de se retirer si l’entreprise ne trouvait pas un modèle économique plus rentable. L’« état d’exception » a été déclaré, les services de recherche en intelligence artificielle mis en branle pour trouver un moyen de valoriser les données… Un jour d’avril 2002, un incident survint : cinq pics successifs à cinq moments de la journée pour une seule requête – « nom de jeune fille de Carol Brady », du nom d’un personnage de série télé. La question avait été posée pendant l’émission Qui veut gagner des millions ?, diffusée sur les cinq fuseaux horaires américains. Une révélation pour les ingénieurs de Google ! Les requêtes des usagers pouvaient être utilisées comme des signaux permettant de prévoir des événements avant qu’ils n’apparaissent sur les radars des médias traditionnels. Jusque-là, grâce à l’algorithme PageRank, les requêtes étaient utilisées dans le but d’améliorer la vitesse, la précision et la pertinence du moteur de recherche. Et les données excédentaires étaient traitées comme des « déchets». D’un coup, il apparaissait qu’ils recelaient un formidable pouvoir de prédiction. L’expérience humaine, traduite en données, pouvait être transformée en prédictions comportementales.