Le "tour de passe-passe" de la France

« La France effectue une sorte de tour de passe-passe, estime pour sa part la chercheuse à l'Institut français des relations internationales (IFRI), Laure de Roucy-Rochegonde. En agissant ainsi, les autorités françaises s'autorisent à développer les technologies qui permettent d'avoir des armes entièrement autonomes, tout en disant qu'il y aura toujours un humain dans la boucle. Mais la tendance est à l'accélération exponentielle du rythme de la guerre, avec parfois 20 secondes de temps de vérification pour une décision de frappe. C'est extrêmement court et ça tend à s'accélérer encore. On peut donc se retrouver dans une situation où l'humain n'aura plus le temps d'exercer son discernement et à ce moment-là, on sera obligé d'autonomiser complètement. »

[...]

L'Ukraine, laboratoire des armes autonomes

« Pour se nourrir, l'intelligence artificielle a besoin de données. Et pour recueillir ces données, il faut expérimenter. C'est pour ça que l'Ukraine constitue une 'mine d'or' pour l'industrie de défense, analyse la chercheuse à l'Institut français des relations internationales, Laure de Roucy-Rochegonde, auteure du livre La guerre à l'ère de l'intelligence artificielle. Quand les machines prennent les armes (Presses universitaires de France, 2024). Quand on veut avoir recours à ce type de systèmes, on a tout intérêt à les tester dans le plus de cadres différents, afin de capter le maximum de données opérationnelles permettant aux algorithmes de s'améliorer. »

[...]

« L'Ukraine est vraiment devenu l'eldorado de toutes ces entreprises, constate la chercheuse Laure de Roucy-Rochegonde, avec des acteurs comme Palantir ou Clearview AI qui étaient très sulfureux aux États-Unis parce qu'ils étaient considérés comme associés à des pratiques de surveillance de masse qui avaient fait scandale après les révélations d'Edward Snowden. Ils ont redoré leur blason en se présentant comme les sauveurs des Ukrainiens, en proposant gratuitement leur service, dans le but évidemment d'améliorer leur technique et de capter beaucoup de données. »

[...]

Un ciblage très aléatoire à Gaza

L'intelligence artificielle est également utilisée par l'armée israélienne dans ses bombardements à Gaza, à la suite des massacres du 7 octobre perpétrés par le Hamas. « L'opérateur qui se voit recommander une cible par un programme d'intelligence artificielle ne connaît pas précisément la nature des données qui ont permis de considérer qu'un individu était une cible légitime, explique la responsable du Centre géopolitique des technologies à l'IFRI, Laure de Roucy-Rochegonde. Il sait que des images satellites, des écoutes téléphoniques ou des images de drones ont été prises en compte, mais il ne connaît pas précisément leur contenu. »

[...]

« 37 000 Gazaouis ont été identifiés comme des membres potentiels du Hamas, souligne Laure de Roucy-Rochegonde. Or, les opérateurs humains se sont aperçus qu'il y avait une marge d'erreur de 10 %. Donc dans 90 % des cas la personne identifiée était effectivement un membre du Hamas, mais dans 10 % des cas, elle ne l'était pas du tout. »

Un autre programme utilisé par l'armée israélienne s'appelle 'Where is Daddy ?' ('Où est papa ?').  Il permet d'identifier les moments où les membres présumés du Hamas se trouvent chez eux, potentiellement avec leur famille. « Si on considère qu'une famille Gazaoui comprend en moyenne cinq personnes, en réalité sans doute plus, on se retrouve très vite avec des chiffres qui peuvent atteindre plus de 20 000 personnes qui sont victimes de frappes pour lesquelles elles n'ont aucune raison légale d'être ciblés », estime Laure de Roucy-Rochegonde.

[...]

Réguler avant la catastrophe

« Il a fallu le gaz moutarde durant la Première Guerre mondiale pour ensuite interdire les gaz chimiques, il a fallu Hiroshima et Nagasaki pour encadrer les armes nucléaires, constate la chercheuse Laure de Roucy-Rochegonde. On peut citer d'autres exemples : les mines antipersonnel, les armes incendiaires, le napalm au Vietnam. Ce que disent les militants opposés aux robots tueurs autonomes, c'est qu'il faut réguler avant la catastrophe. Il faut trouver une manière d'encadrer ces armes, avant que le choc psychologique collectif ne rende nécessaire leur régulation. »

[...]

Lire l'article dans son intégralité sur le site de Franceinfo.

Acheter le livre de Laure de Roucy-Rochegonde, « La guerre à l'ère de l'intelligence artificielle » sur le site de PUF.