Un téléphone se comporte comme celui d'un membre du Hamas : la machine lui attribue une probabilité. Une frappe va tuer des civils autour de la cible : la machine en estime le nombre. Il reste à un humain de dire oui. NAZA, en salles en France depuis le 12 octobre, raconte cette arithmétique de l'intérieur.
Le documentaire de Yuval Abraham et Rachel Szor, prix spécial du jury à Venise, donne la parole, de nuit, sur les toits de Tel-Aviv, à d'anciens militaires et agents du renseignement israéliens. Son titre est l'acronyme hébreu de « dommages collatéraux ». En 2024, Yuval Abraham avait révélé Lavender : 37 000 Palestiniens désignés comme cibles potentielles par un algorithme, des opérateurs qui consacraient 20 secondes à chaque dossier, et jusqu'à 15 ou 20 civils tués tolérés pour un simple combattant. L'armée israélienne répond que ce sont des humains qui choisissent et autorisent les frappes. C'est exact. C'est justement le problème.
Car l'arme qui tue seule n'est déjà plus de la science-fiction. En Ukraine, les drones apprennent à reconnaître et frapper leur cible sans pilote, parce que le brouillage coupe le lien radio. En juillet, à Zaporijjia, un drone russe aurait choisi seul sa cible et tué trois personnes. Et en février, au premier jour de la guerre contre l'Iran, une école primaire de Minab a été frappée : au moins 123 enfants tués. Des enquêteurs du Pentagone mettent en cause une confiance excessive dans Maven, la plateforme de ciblage de Palantir, que l'OTAN déploie à son tour et dont Paris et Berlin veulent désormais une version européenne.
D'où la question de ce dossier : « l'humain dans la boucle » suffit-il encore ? Tous les États jurent qu'un humain garde la main. La France refuse les armes « autonomes » mais accepte celles qui « intègrent de l'autonomie ». Mais quand la machine trie, classe, recommande et chronomètre, que reste-t-il de la décision humaine ? Une signature, un tampon ? Les partisans de l'autonomie promettent des machines sans peur ni vengeance, donc plus respectueuses du droit de la guerre. Lavender et Minab montrent l'inverse : l'algorithme ne corrige pas nos biais, il les industrialise et les accélère.
Le 5 septembre, à Genève, 128 États se sont accordés sur un rapport qui définit enfin ces armes. En novembre, ils devront décider, au consensus, d'ouvrir ou non la négociation d'un traité. Les États-Unis, la Russie, l'Inde et Israël freinent. Tout se jouera sur trois mots, « contrôle humain significatif », et sur le courage de les écrire assez clairement pour qu'on puisse un jour prouver qu'ils ont été violés.
