Stuart Russell : “Les armes autonomes sont la pire des menaces”

Durant la bataille de Mossoul, en 2016-2017, plusieurs douzaines de combattants irakiens ont été tués ou blessés par des grenades de 40 millimètres et autres explosifs de petit calibre largués au-dessus de leurs têtes par une multitude de petits drones émettant un bruit si caractéristique qu’un général américain présent sur zone les a baptisés les « abeilles tueuses ». Un surnom un peu abusif pour des armes mesurant près de 1,5 mètre d’envergure mais dont la principale caractéristique est d’être bon marché – moins de 2 000 dollars pour les modèles employés par les combattants de Daech. Cette nouvelle menace est prise très au sérieux par les agences de lutte antiterroriste qui y voient une méthode peu coûteuse pour mener un attentat. Car si les modèles utilisés par les soldats du Califat n’étaient guère que des avions télécommandés, les progrès de l’intelligence artificielle (IA) devraient permettre dans un avenir proche de lancer des essaims d’engins volants miniaturisés autonomes, équipés de programmes de reconnaissance faciale et dotés d’un armement adéquat. De quoi faire régner la terreur dans n’importe quel lieu de rassemblement en ciblant certains éléments selon un algorithme déterminant qui doit ou non être éliminé. Science-fiction ? Plus maintenant, constate, au cours de l’entretien qu’il nous a accordé, Stuart Russell, l’un des grands noms de l’IA. 

Dans votre célèbre vidéo Slaughterbots, vous en appelez à une prise de conscience concernant les armes meurtrières autonomes : une nuée de petites machines équipées de technologies de reconnaissance faciale pourrait, potentiellement, être utilisée pour rechercher et abattre, sans intervention humaine, des individus spécifiques. Qu’en est-il aujourd’hui ? Est-ce possible ?

Stuart Russell : Oui, tout ceci est, semble-t-il, possible aujourd’hui. Il ne s’agit pas de science-fiction. En fait, ces machines sont plus faciles à réaliser que des voitures autonomes, qui requièrent un bien plus haut degré de performance. Un « robot-tueur » doit seulement être fiable à 90 % – 50 % pourrait être assez. Cette technologie est accessible. Sur le plan pratique, rassembler des petits bouts de software et les faire fonctionner nécessiterait, je pense, une bonne équipe de doctorants et de postdoctorants. Quelques mois pourraient suffire pour créer le prototype, disons d’un quadrirotor pouvant voler dans un bâtiment, trouver une personne spécifique et lui donner une rose ou quoi que ce soit d’autre. Produire en masse des engins de haute technologie, miniaturisés et armés, capables à la fois de manœuvres d’évitement et d’attaques sur un individu, nécessiterait plus de travail. Mais pensez aux crash programs [programmes élaborés dans l’urgence] en temps de guerre comme le projet Manhattan [projet ayant conduit à l’élaboration de la première bombe atomique]… Je suppose que de tels engins pourraient être construits en moins de deux ans.