Proctorio, le pion sans visage

Proctorio, ça vous dit quelque chose ? C’est le nom d’un logiciel de surveillance d’examens à distance (de l’anglais proctor, « surveillant »). Proctorio, ProctorU ou encore Examsoft font partie de ces entreprises à qui la crise sanitaire aura été profitable : l’impossibilité d’organiser des examens sur site a conduit plusieurs grandes universités américaines – tout comme certains établissements français – à faire l’acquisition de ces logiciels, censés garantir que l’étudiant passant son examen à distance ne soit pas en train de lire une antisèche fixée au plafond, ni de communiquer en douce avec un complice.

Pour garantir l’honnêteté du candidat, donc, Proctorio commence par lui demander d’allumer sa webcam et de fournir un panorama à 360 degrés de la pièce où il travaille. Problème : si l’étudiant n’a pas la possibilité de s’isoler chez lui, Proctorio risque d’assimiler la présence d’autres personnes, même si elles ne font que passer, à un risque de tricherie. Sans compter l’aspect intrusif de cette irruption dans l’intimité. Deuxième problème : la reconnaissance faciale par l’intelligence artificielle est essentiellement basée sur l’analyse de visages blancs. Plusieurs étudiants noirs témoignent ainsi sur les réseaux sociaux que le logiciel, à défaut de reconnaître leur visage, commence par refuser de les admettre à l’examen, leur faisant perdre de précieuses minutes – imaginez que le pion à l’entrée de la salle vous dise : « Non, désolé, je ne vous reconnais pas, je vous interdis d’entrer. » Finalement, il leur faut allumer en grand les lumières de la pièce et braquer une lampe sur leur visage pour que le logiciel consente, parfois au bout de plusieurs essais, à les laisser participer – « C’est bon, dit le pion, mais vous passerez l’épreuve avec un projecteur braqué sur vous. » Un récent article du New Yorker cite même le cas d’une étudiante si stressée par le fonctionnement du logiciel qu’elle s’est mise à pleurer en plein milieu de l’examen – l’algorithme, analysant sa consommation de Kleenex comme un cas de triche, a aussitôt envoyé un rapport désastreux à son professeur.

Le pion du futur n’est pas un sadique, et pourtant : il fait craquer les gens. Autre détail angoissant, les logiciels de surveillance incluent un système de détection des mouvements oculaires et de comptage des déplacements de souris : malheur à vous si vous regardez trop souvent en l’air ou restez trop immobile, le pion virtuel en conclura que vous faites autre chose – donc, vous trichez (ou vous ne produisez pas, si le logiciel de surveillance a été installé par votre entreprise). L’intelligence artificielle ne semble pas concevoir que certains ont parfois besoin de quitter leur écran des yeux. Regarder le ciel ? Réfléchir immobile ? Il semblerait que les contemplatifs n’aient pas leur place dans un monde de surveillance. Les contemplatifs, les Noirs, les pauvres (une mauvaise connexion Wifi étant elle aussi susceptible de générer une notification de tricherie), les angoissés… Cela fait pas mal d’humains susceptibles d’être harcelés par ces pions sans visage. Au point que des universités américaines comme Harvard, Berkeley ou Stanford déconseillent désormais leur utilisation. Les algorithmes de surveillance à distance se présentent pourtant comme un remède à une humanité tricheuse – et comme une façon de réduire les coûts. Faut-il risquer la confiance ou créer un monde dans lequel même lever les yeux au ciel sera interdit ? Pour le surveillant sans visage, la réponse ne fait aucun doute.