Demain, pourrons-nous prévoir les attentats grâce aux algorithmes ?

Depuis des années, chercheurs et hacktivistes planchent sur un algorithme capable de détecter les projets d’attentat, et d’en avertir la population au plus vite. Mais pour le philosophe Eric Sadin, ces dispositifs se heurtent déjà à «l'irréductible imprévisibilité du réel»

Classé parmi les 30 personnalités les plus influentes de la toile par leTime, le hacker The Jester («le jocker» en anglais) s’est forgé une réputation en attaquant des sites antiaméricains, homophobes ou djihadistes. Sa dernière pépite : un algorithme capable de prédire les attentats ou tueries de masse, ou de détecter au plus vite celles en cours. C’est au lendemain du drame du marathon de Boston que le pirate informatique l’a imaginé. Baptisé Internet AWACS, en référence au système de détection et de commandement aéroporté de certains aéronefs, l’algorithme fonctionne en partie grâce à l’intelligence artificielle. Images, publications sur les réseaux sociaux, comptes des utilisateurs radicaux, chats en ligne, hashtags ou même conversations radios de la police et de la FAA (administration fédérale de l’aviation civile), rien n’échappe au nouveau bijou du Jester. Au total, ce sont plusieurs térabits de données qu’il décrypte chaque semaine. Et en plus d’en analyser le contenu brut, l’IA serait capable d’en déterminer le ton, indiquant le degré de violence de la conversation, et les intentions dissimulées des auteurs.

Analyser le passé pour prédire le futur

Par le passé, d’autres ont déjà tenté de mettre au point de tels algorithmes. Fin 2014, Kira Radinsky, une jeune fondatrice de startup de 27 ans, avait été repérée par le MIT Tech Review - revue appartenant au Massachusetts Institute of Technology, ndlr) pour son invention, un logiciel pour prédire l’avenir. Ce dernier se basait sur une analyse minutieuse du passé. A chaque crise ou épidémie, étaient ainsi associés des facteurs déclencheurs bien précis. Dès lors que ces derniers se répétaient, une alerte était donnée. Plus récemment, un groupe de physiciens de l’Université de Miami a annoncé avoir créé un algorithme statistique qui puisse prédire les attaques des organisations djihadistes, en étudiant les messages et publications de leurs membres sur les réseaux sociaux.

Pour l'écrivain et philosophe Eric Sadin, auteur de La Vie algorithmique, ces tentatives révéleraient «la tension entre l’instabilité, l’anxiété de l’époque, et une volonté de tout voir, tout savoir». «[Cette dernière] se formalise dans la capacité, de plus en plus réalisée et réalisable, à élaborer des systèmes qui concourent à la maîtrise des choses. Ils se basent sur des données, des formes d’algorithmes, qui permettent de révéler l’état des choses en temps réel et à la fois, d’en déduire des projections projectives». Pour lui, il faut saisir cette «volonté quasi névrotique» de tout prédire à l’aune de«l’imminence continuelle de la catastrophe». Une obsession qui n’épargnerait les plus hautes sphères de l’État. C’est d’ailleurs à elles que Jester semble destiner son mystérieux algorithme. L’interface, par exemple, a été pensée spécialement pour les écrans larges, du même modèle que ceux que l’on trouve dans les centres de commande.

Pourtant parfaitement illégal, le système aurait déjà séduit «de nombreux membres des forces de l’ordre et des officiels spécialisés dans les situations d’urgence», raconte le hacker au Washington Post. Ils auraient été convaincus par le tout premier test, mené à Bâton-Rouge, en Louisiane, alors que des manifestants du mouvement nationaliste New Black Panther s’étaient rassemblés. Sur une telle utilisation des données personnelles par l’État, pourtant, Eric Sadin ne cache pas son scepticisme. «Pour l’instant, décrit-il, on n’a pas trop de réticences vis-à-vis de l’usage ou la dissémination de nos données par les compagnies privées. Mais dès lors que c’est l’État, le rapport est différent». Il ajoute : «On parle tout de suite du "méchant État", faisant appel à la sempiternelle et désormais inopérante figure du Big Brother de George Orwell».

Schématiser la logique des attentats

Autre limite, c’est bien celle des critères sur lesquels s’appuient les algorithmes. Que ce soit celui du Jester ou celui des physiciens de Miami, ils correspondraient uniquement à des «schémas conceptuels, des représentations, de facto restrictives», raconte Eric Sadin. Le second, par exemple, est basé sur les «modèles de comportement» de sympathisants de Daech, construits à partir de données collectées sur les réseaux sociaux, entre 2014 et 2015. Mais non seulement cela pose la question des messages signalés puis supprimés par les plateformes, qui ne sont de fait pas pris en compte, mais aussi celle du raisonnement qui est induit. «Ces algorithmes reposent sur la confiance en la répétition, nous explique ainsi Eric Sadin. Or ce que l’on voit de plus en plus, ce qu’on a entendu avec Nice, c’est que [l’assaillant] ne correspond à aucun profil identifié». Selon l’auteur, rien ne saurait donc contourner cette «irréductible imprévisibilité du réel».

Perrine Signoret