Machine, es-tu morale ? 

Juger moralement une machine ? Drôle d'idée. Elle se pose pourtant, maintenant que les intelligences artificielles prennent des décisions qui engagent nos vies. Si une voiture intelligente sauve son passager en sacrifiant un piéton, jugeons-nous qu’elle a bien agi ? César Hidalgo, chercheur à l’institut de recherche en IA de Toulouse (Aniti), préfère poser la question autrement : penserions-nous la même chose... si un humain prenait la même décision ? Dans How Humans Judge Machines (non traduit, MIT Press, à paraître en février 2021), Hidalgo fait juger au public l’une après l’autre les mêmes décisions, venant d’une IA dans un cas, d’un humain dans l’autre. Résultat : nous n'avons pas les mêmes critères ! Selon qu’elle émane de l'homme ou de la machine, une décision identique nous paraîtra tantôt compréhensible, tantôt insupportable. Un accident de voiture ? Le conducteur humain sera jugé avec plus d’indulgence qu’une voiture autonome. À l’inverse, une IA écrivaine qui ferait du plagiat est considérée comme moins coupable qu’un humain. Des résultats curieux et saisissants qui tracent les premières lignes d’un sujet d’avenir : quel est notre rapport moral aux machines ?

• L’IA s’adapte à nos jugements moraux. L’enquête de César Hidalgo et son équipe ne se préoccupe pas de construction d’une IA ou d’enjeux techniques, mais de la façon dont nous jugeons en action des robots déjà conçus. Ce livre offre donc des pistes précieuses aux constructeurs pour rendre le plus moralement acceptable leurs futures IA. Surtout, les formes les plus récentes de la robotique progressent par apprentissage et adaptation à l’environnement culturel dans lequel elles évoluent. Et d’une région à l'autre, les jugements moraux que l’on porte sur elle variant, elles auront mécaniquement tendance... à se conformer aux valeurs du coin ! Fait amusant : “Un algorithme entraîné aux États-Unis, aux Émirats arabes unis ou en Chine développera des comportements différents dans une même situation.” Autrement dit, le jugement qu’on porte sur les IA les transforme. Il y aurait donc comme un jeu de va-et-vient dans la relation de l’humain à la machine intelligente : notre regard la reconfigure et la module perpétuellement. How Humans Judge Machines nous permet de prendre conscience de ce regard.

• Un scénario dramatique. Imaginez un tsunami qui approche d'une ville. Le responsable, humain ou IA, a deux options : sauver la moitié de la population avec certitude (laissant alors les autres mourir) ou essayer de sauver tout le monde, au risque que personne ne survive. Résultat : un humain qui a pris le risque du sauvetage de tous, mais a échoué (occasionnant la mort de la ville entière), est bien mieux perçu qu’une IA ayant fait le même choix ! L’humain est vu comme un être de bonne volonté : le résultat compte moins que l’intention qui a motivé le risque, et elle l’absout en partie. En revanche, la pauvre IA ne bénéficie d’aucune indulgence, et son échec est moralement intolérable. C’est que sa défaite nous l’a fait apparaître comme une pure défaillance technique : elle a échoué comme une calculette qui aurait mal calculé. Elle a perdu l’aura morale positive qu’elle maintient par ailleurs quand elle sauve les habitants. En d’autres termes : “Nous jugeons la moralité des humains à leurs intentions, et celle des intelligences artificielles à leurs résultats.” Mais cela ne joue pas seulement au désavantage des machines… Un robot de maison est surpris dans votre salle de bain en train de nettoyer le sol avec le drapeau national ? Il sera bien plus vite pardonné que si c’était un humain, car on devine instantanément les vilaines intentions antipatriotiques de ce dernier ! En revanche, on sera pris d'empathie pour la rationalité utilitaire du robot : un tissu dont il ne connaît pas la valeur symbolique s’est présenté à lui, il a agi en vue de la seule fin de nettoyer.

• Ces résultats nous replongent dans une vieille question de philosophie morale. La moralité d’un acte provient-elle de son intention ou de son effet ? Pour Emmanuel Kant, la morale ne doit jamais tenir compte de ses conséquences. Dans les Fondements de la métaphysique des moeurs (1785), il prend l’exemple d’un commerçant qui pratique un prix honnête et ne dupe jamais sa clientèle afin de maintenir sa réputation. “Voilà donc une action qui était accomplie, non par devoir, ni par inclination immédiate, mais seulement dans une intention intéressée”, observe-t-il. La morale kantienne est exclusivement celle de la rectitude du vouloir : il faut pour agir moralement le faire avec de pures intentions. Contre cette “doctrine de la bonne volonté” s’élèvent les utilitaristes. Leur plus célèbre représentant, Jeremy Bentham, répond à l’inverse. Selon lui, pour bien agir, il faut pratiquer une “arithmétique des plaisirs” : mesurer par avance les effets de bien-être de vos actions, et vous saurez lesquels sont bons ou mauvais. C’est précisément sur ces critères que nous jugeons de la moralité d’un robot. Nous sommes donc benthamiens pour juger des machines… et kantiens pour juger de nous-mêmes !