Éric Hazan : “L’IA peut accélérer la décision militaire, elle ne doit pas faire disparaître notre responsabilité”

Le refus de l’entreprise américaine Anthropic de céder aux exigences de l’administration Trump quant à l’exploitation sans restriction de Claude, son système d’intelligence artificielle, pose la question des usages militaires de l’IA. Pour y voir plus clair, nous avons interrogé l’entrepreneur Éric Hazan, co-auteur de Faut-il encore décider ? La décision humaine à l’heure de l’intelligence artificielle (Flammarion). 

La guerre échappe-t-elle aux calculs de probabilités ?

Avec votre co-auteur Olivier Sibony, vous dites qu’il y a certaines décisions que nous ne devrions pas confier aux IA. Est-ce que les affaires de guerre en font partie ? Et si oui, pourquoi ?

Éric Hazan : Quand on s’intéresse à la délégation de nos décisions à l’intelligence artificielle, il y a deux questions qui se posent. Est-ce que l’IA est pertinente d’un point de vue technique et performance ? Est-ce acceptable de déléguer telle décision à l’IA ? Et avant même d’avancer les raisons éthiques, il y a un problème technique qui se dessine. Pour qu’une IA fonctionne bien, il faut qu’il y ait des données massives stables et que les situations ressemblent à celles qui ont été déjà observées. Car il s’agit avant tout d’un calcul de la solution la plus probable, qui est affinée à mesure que l’échantillon de référence est fourni. Or la guerre, c’est précisément tout l’inverse. Toutes les situations sont nouvelles, les signes sont ambigus, sujets à manipulation. Les conséquences d’une erreur peuvent par ailleurs être assez catastrophiques et conduire à une escalade de la violence. C’est l’environnement de décision le plus incertain qu’il soit, et c’est pour cela que la délégation de la décision est fondamentalement problématique dans ce contexte. Le stratège prussien Carl von Clausewitz parlait du « brouillard de guerre » pour décrire cette opacité des informations – erreurs de perception, désinformation, manipulations, vitesse des événements – bien avant la mise au point de l’intelligence artificielle. 

➤ À lire aussi : ce qui distingue l’intelligence artificielle de l’intelligence humaine, entretien avec le philosophe et mathématicien Daniel Andler

C’est donc la complexité de la décision de guerre qui nécessite qu’elle soit traitée par un humain ? 

Oui, en premier lieu. Mais une décision militaire, et a fortiori une décision de guerre, ce n’est pas seulement un calcul d’efficacité. C’est un acte de souveraineté qui engage la responsabilité d’un État, la légitimité d’un gouvernement, et – dans une démocratie – le consentement des citoyens. Autrement dit, même quand une machine peut produire une recommandation statistiquement optimale, la décision est profondément humaine parce qu’elle est morale et politique. La guerre c’est un espace limite qui rappelle qu’il y a des décisions qui ne sont pas seulement des problèmes d’optimisation, ce sont des actes qui engagent une communauté humaine. 

Avec l’IA, un changement radical du rythme de la guerre

Pourtant, nous savons aujourd’hui que certains programmes d’IA ont été utilisés lors de conflits, à l’instar du programme Lavender utilisé par l’armée israélienne pour repérer ses cibles sur le territoire palestinien. Que peut-on conclure de cette utilisation ?

Ne pas déléguer l’acte de décision à une IA ne signifie pas qu’elle n’est pas utilisée. L’Ukraine, l’Iran, la guerre entre Israël et la Palestine sont, entre autres, des cas d’école de guerres algorithmiques – soit une guerre où il y a beaucoup de drones et beaucoup d’intelligence artificielle. Le ciblage dans la guerre a toujours été un processus assez long, assez lent. On collecte des renseignements, on les analyse, ensuite il y a une validation hiérarchique et, enfin, on décide de frapper. L’IA fait changer d’échelle le processus. Tout d’un coup, on peut analyser des millions de données de renseignement, on peut produire des millions de suspects potentiels très rapidement, on peut générer des milliers de cibles.