Drônes militaire US : 12000 morts à cause d’un algorithme foireux
Les révélations de l’ancien consultant Edward Snowden ont permis de mettre en lumière de nombreux programmes secrets de l’agence de sécurité nationale américaine, la NSA. L’an dernier, le magazine en ligne The Intercept a ainsi publié des documents présentant Skynet, en référence à l’intelligence artificielle qui veut détruire l’espèce humaine dans les films « Terminator ».
L’agence de renseignement scrute l’ensemble des Pakistanais pour déceler et éliminer les éventuels terroristes. L’ensemble se base sur un algorithme aux calculs « foireux » : Skynet.
Ce programme collecte une montagne de données (nom, localisation, etc.) à partir de téléphones portables au Pakistan, afin d’identifier et de traquer des terroristes potentiels sur la base d’un algorithme, pour ensuite les éliminer avec des frappes de drones. Seul problème : l’algorithme de Skynet est « complètement foireux », affirme Patrick Ball, expert scientifique au Human Rights Data Analysis Group, dans une interview au site spécialisé Ars Technica, publiée mardi 16 février.
Pis, selon lui, des centaines d’innocents ont pu être désignées comme « terroristes » et tuées par des drones, sur la base de cet algorithme inefficace.
Ars Technica explique que l’algorithme de Skynet fonctionne exactement comme celui d’une entreprise du Big Data. Le programme collecte et stocke des millions de métadonnées sur les serveurs de la NSA et les mouline afin d’obtenir les informations qui l’intéresse. Sauf qu’au lieu d’identifier des consommateurs potentiels, l’algorithme désigne des futures cibles des drones américains.
Potentiellement 15.000 tués par erreur
Pour identifier un terroriste potentiel, le programme de la NSA se base sur les échanges et comportements de terroristes connus. Les communications (leur destinataire, leur durée, leur heure…), mais aussi les déplacements sont scrutés. Sur les 192 millions d’habitants du Pakistan (et 120 millions de téléphones portables), l’agence américaine a pu analyser les données de 55 millions d’utilisateurs de mobiles pakistanais.
Là où le bât blesse, c’est dans le fonctionnement pour déceler d’éventuels terroristes. En effet, toute l’analyse repose sur la comparaison aux profils de terroristes déjà connus. Sauf que la NSA ne dispose du profil que de 7 terroristes identifiés au Pakistan.
Un échantillon trop faible ? Pas de quoi freiner l’agence américaine. Ainsi, Skynet fonctionne sur une recherche du « septième », c’est-à-dire qu’il calcule tous les comportements possibles entre six profils (sur la base de 80 propriétés), afin d’identifier le septième larron (soit le terroriste en puissance).
Patrick Ball pointe que ce chiffre de 7 est beaucoup trop faible pour que l’algorithme soit un tant soit peu fiable. Selon l’analyste, Skynet génère un fort taux de faux positifs, qu’il chiffre à 0,008%. Pas grand-chose ? Sauf que rapporté à la population pakistanaise, cela représente pas moins de 15.000 personnes qui ont pu être désignées par erreur comme « terroristes », voire tuées par des drones américains.
« Nous tuons sur la base de métadonnées »
C’est une mauvaise utilisation de la science », conclut l’analyste. Lorsque l’on condamne quelqu’un à mort, généralement cela se fait ‘hors de tout doute raisonnable’, ce qui n’est pas du tout le cas » avec Skynet.
Le Bureau of Investigative Journalism rapporte que, depuis 2004, entre 2.500 et 4.000 personnes tuées au Pakistan par des frappes de drones étaient identifiées par le gouvernement américain comme « extrémistes ».
En 2014, les directeurs de la NSA et de l’agence de renseignement américaine CIA avaient ensemble admis « tuer des gens sur la base de métadonnées ». Ars Technica conclut sur une interrogation :
Il est facile d’ignore ce qui se passe loin à l’étranger. Mais que se passera-t-il lorsque Skynet se penchera sur nous, pour lutter contre la drogue, les anarchistes ou simplement ceux qui ne sont pas d’accord avec le gouvernement ? »
