L’analyse comportementale version IBM au service du contrôle social dans la métropole Toulousaine

International Business Machines, ou les données au service du contrôle social et de la guerre

Avant d’entrer dans le vif du sujet, ça vaut le coup de faire un petit détour par le passé trouble de ce mastodonte des technologies de l’information. L’histoire commence à la fin du XIXème siècle avec la création en 1896 à Washington D.C. de la Tabulating Machine Company [1], intégrée un peu plus tard au sein de la holding CTR (Computing-Tabulating-Recording [2]) qui deviendra International Business Machines (IBM) en 1924.

Pointeuse automatique IBM (annnées 30)

Depuis ses débuts les marchés liés à la surveillance gouvernementale et au contrôle social ont joué un rôle crucial dans le développement de la compagnie. Elle possédait notamment des brevets concernant le traitement d’informations à l’aide de cartes perforées, et a été chargée par le gouvernement étatsunien du grand recensement de 1900. Elle a ensuite inventé la première machine à pointer pour enregistrer les heures de présence des employé.e.s, puis en 1935, en pleine Grande Dépression, a été missionnée pour équiper l’ensemble des nouveaux services gouvernementaux de sécurité sociale en dispositifs de traitement des informations sur 26 millions de travailleur.euse.s, un contrat en or qui a non seulement sauvé le groupe de la faillite mais l’a également propulsé à l’avant-garde de l’industrie du contrôle social jusqu’à aujourd’hui.

Pendant la 2ème guerre mondiale la compagnie connaît une forte croissance (bénéfices multipliés par 3), en continuant à produire des outils de traitement de l’information utiles à la guerre et en convertissant une partie de sa production à des fins d’armement (fusils d’assaut). Elle joue un double jeu en fournissant également équipement et support technique au régime Nazi, notamment pour l’organisation logistique du recensement et de la déportation des Juifs, à travers ses filiales Dehomag et Watson Business Machines [3].

Après une période difficile au début des années 90 suite à plusieurs décennies d’éparpillement et à la concurrence féroce avec d’autres acteurs plus dynamiques du marché des technologies de l’information, la stratégie d’IBM est recentrée par son nouveau PDG Louis Gertsner autour des solutions intégrées de type middleware (ou intergiciel) conçues pour être vendues notamment aux gouvernements, aux agences gouvernementales, et aux grandes entreprises afin d’interconnecter des données provenant de différentes sources. La société se place donc à l’avant-garde de la course au « big data » [4], mais avec une approche beaucoup plus centralisatrice que celles de Facebook ou Google, qui vise avant tout à mettre les données entre les mains des décideur.euse.s et à rendre plus efficaces et puissantes leurs décisions.

La matrice Google de 200 pages Wikipédia Représentation sous forme de tableau imagé des liens entre 200 pages de Wikipédia, où chaque carré vert indique la présence d’un lien entre les pages correspondant à la ligne et à la colonne du tableau. Ce type de représentation qui s’attache aux liens entre les données plutôt qu’aux données elles mêmes a été utilisé notamment par l’algorithme historique de Google, PageRank, et est à la base de toutes les analyses massives de données dites « big data ».

Quand la gouvernance municipale prend des allures de jeu vidéo

Un individu indésirable se fait traquer par IBM Intelligent Video Analytics

Le système commercialisé par IBM [5] dont Toulouse Métropole commence à s’équiper est déjà déployé à Chicago (USA), à Verona (Italie), et dans de nombreuses autres villes. Baptisé « IBM Intelligent Video Analytics », il est constitué de plusieurs éléments interconnectés, dont un des plus innovants et le plugin d’analyse du comportement développé par le centre de recherche historique Thomas J. Watson d’IBM [6]… Cette vidéo promotionelle en résume bien les différentes fonctionnalités [7] :

• surveillance vidéo en direct assistée par des alertes automatiques programmables en cas d’événement « particulier » ,
• outils avancés d’analyse des vidéos enregistrées, permettant de localiser rapidement des événements, objets ou personnes en particulier,
• analyse statistique pouvant tenir compte de centaines de millions d’événements passés dans une zone vidéosurveillée,
• importation de n’importe quelle vidéo en provenance de l’extérieur (internet, caméras privées, caméra portable…),
• manipulation des vidéos avant export (floutage, etc.)
• reconnaissance faciale utilisant une base de données extérieure.

Analyse de trajectoires de véhicules par IBM Intelligent Video Analytics

Ce logiciel peut également fonctionner dans le cadre d’une plateforme plus large que JLM a peut-être demandé comme cadeau de Noël pour 2017, puisqu’elle s’intitule « Smarter Cities Intelligent Operations » [8]. Elle ambitionne rien de moins que d’être une solution intégrée de gestion de l’ensemble des problématiques d’une métropole intelligente… tiens tiens [9]. En creusant un peu on s’aperçoit que ces récents développements s’inscrivent dans une politique volontariste pro-sécuritaire de la division spécialiste du Big Data « IBM Analytics » qui dure depuis 25 ans, que la propagande de la boîte appelle « IBM Safer Planet » [10]. C’est par exemple des systèmes d’analyse rapide des données de plaques d’immatriculation comme celui qui équipe désormais la police de Rochester, ou bien l’analyse de l’impact d’une ville sur les réseaux sociaux comme cela a déjà été expérimenté à Toulouse en 2014.

Le marché florissant de la « vidéo surveillance intelligente »

Aux États-Unis il y a eu un premier boom du marché de la vidéosurveillance après les attentats du 11 septembre 2001, puis un nouveau boom, après l’attentat du marathon de Boston le 15 avril 2013. Dans chaque cas au cours de l’enquête l’utilisation des images de vidéo-surveillance a été fortement mise en avant par les médias, surtout parce qu’elle leur fournit des images choc immédiatement exploitables et qui leur assurent une forte audience. Le même phénomène a eu lieu à Londres après les attentats de 2007. Quelques années plus tard, le Royaume-Uni est devenu le pays le plus vidéo-surveillé au monde en termes de nombre de caméras par habitant.e, avec environ 500.000 caméras à Londres (soit environ une pour 17 habitant.e.s) et jusqu’à 6.000.000 sur l’ensemble du territoire (soit une pour 11 habitant.e.s…) [11]

Face à cette instrumentalisation efficace d’événements chocs pour construire des débouchés durables à l’industrie de la sécurité, les principales critiques audibles émanent de mouvements citoyennistes qui mettent en avant les atteintes à la vie privée occasionnées par un tel dispositif de surveillance. Au Royaume-Uni par exemple, la campagne NO CCTV a regroupé une documentation plutôt fournie (en anglais) qui démonte systématiquement les arguments classiques servant à justifier l’installation de nouvelles caméras, notamment les affirmations selon lesquelles elles augmenteraient la fréquence de résolution des affaires « criminelles » ou qu’elles auraient un rôle dissuasif.

Or un argument qui fait plus ou moins consensus et peut être utilisé soit pour critiquer soit pour encourager la vidéo-surveillance est qu’elle servirait « seulement » à résoudre et punir des « crimes » a posteriori, et ne serait pas efficaces pour les empêcher sur le moment. C’est donc pour dépasser cette limite inhérente au temps de réaction humain que des systèmes d’analyse des comportements en temps réel ont été développés, surtout aux États Unis mais aussi en Europe avec le projet INDECT [12]. Ces nouvelles fonctionnalités ont convaincu de nombreuses municipalités, comme celle de Chicago qui s’est convertie dès 2006 ou celle de Washington D.C. qui se vante d’analyser et d’enregister 1800 plaques d’immatriculation par minute.

Marseille, composante clé de la stratégie de conversion des villes françaises

À Mexico c’est le fleuron militaro-industriel français Thalès qui s’est chargé de déployer le programme Ciudad Segura [13] (ville sûre, encore et toujours), installé en 2010 pour 460 millions de dollars et qui assure comme à Londres l’interconnection entre toutes les caméras municipales ainsi que celles des transports en commun et également les caméras routières permettant l’identification automatique des plaques minéralogiques, ainsi que des caméras embarquées à bord de drones, soit plus de 15000 caméras en tout. Les images en sont traitées en temps réel par cinq centres opérationnels répartis par quartiers, et dont les activités peuvent être au besoin pilotées par un centre de contrôle. Deux centres opérationnels mobiles peuvent également être déployés en supplément.

De retour en France, Marc Darmon un des dirigeants de Thalès a entrepris un travail de lobbying important auprès des collectivités notamment à travers le CICS, « Conseil des Industries de la Confiance et de la Sécurité », qu’il dirige depuis 2014 et dont font également partie Safran et Airbus. Surfant notamment sur la vague sécuritaire enclenchée par les attentats de 2015 à Paris, ce consortium d’entreprises a signé fin 2016 avec le ministère de l’intérieur une « charte de solidarité en situation d’exception » prévoyant la mise à disposition gratuite de moyens matériels « pour soutenir les forces de sécurité engagées dans la lutte contre le terrorisme » par des « entreprises de sécurité qui souhaitent apporter une contribution citoyenne à l’action mise en œuvre par les forces de sécurité »…

Une des conséquences les plus frappantes de ces actions de lobbying efficaces menées par la filière a été la conversion depuis 2012 de la ville de Marseille en laboratoire français du tout-sécuritaire. Mais les plus de 1000 caméras déjà installées et la vingtaine de keufs devant les écrans 24h/24 au Centre de Supervision Urbain du 40 avenue Roger Salengro ne sont qu’une première étape. Un système global de sécurité inspiré par le concept de « Safe City » à la IBM, se mettrait en place graduellement à compter de 2017. Plus de 1000 caméras supplémentaires seraient prévues, et un appel d’offre est en cours pour recruter le prestataire privé à qui le système informatique d’analyse du comportement sera sous-traité. Sans surprise, des rumeurs laissent entendre que Thalès semble bien placé pour le remporter…

Une fois la pieuvre sortie du Vieux Port, rien de plus facile que de lui ajouter des tentacules étendant la surveillance à de nouveaux secteurs. Les problèmes techniques ayant été surmontés depuis longtemps, il ne s’agira plus que de vaincre les quelques réticences du corps social à se voir contrôler toujours plus. Ely de Travieso, patron de la société Phonesec qui a effectué une étude en amont pour le compte de la Ville, dévoile bien la vision effrayante des tenants d’une telle évolution : « d’abord il faut une seule chaîne de commandement, on ne peut plus avoir deux polices soi-disant complémentaires, ensuite, la CNIL (Commission nationale de l’informatique et des libertés) doit faciliter le croisement des données afin que l’on puisse utiliser la reconnaissance faciale. D’autre part, il faut que les villes aient le pouvoir sur l’installation des antennes télécoms […] afin de pouvoir suivre tous les mouvements de GSM sur son territoire. Évidemment, sans aucune personnification ! Il faut aussi utiliser les technologies qui existent, comme celle des Google Glass, et utiliser les lunettes et voitures de citoyens volontaires afin d’y placer des mini-caméras et avoir des yeux partout en ville. Il n’y a rien de fou là-dedans, on est sur la même démarche que l’initiative « voisins vigilants ». »

Quid justement de la reconnaissance faciale ?

Techniquement elle est devenue un outil assez banal, depuis l’apparition des premiers algorithmes efficaces au début des années 90. Elle est par exemple utilisée de façon routinière par Facebook avec son algorithme Deepface pour traquer les internautes [14]. Les restrictions à un usage plus répandu, notamment par les pouvoirs publics, sont donc uniquement de nature juridique. En France la mise en œuvre sur la voie publique de toute technologie impliquant une reconnaissance faciale, définie par la CNIL comme l’identification d’un individu « en s’appuyant sur une base de photographies préenregistrées reliée à un système de vidéoprotection et à un dispositif de reconnaissance automatique des visages », est actuellement illégale.

Une proposition de loi du 17 juin 2016 est cependant en cours d’étude qui permettrait d’utiliser la reconnaissance faciale pour les enquêtes terroristes en interrogeant les photos d’identité stockées dans le fichier automatisé des empreintes digitales (FAED), mais cette recherche serait autorisée uniquement pour les personnes visées par une fiches S au fichier des personnes recherchées (FPR) [15]. Cette loi n’a pas encore été discutée en séance publique [16].

Retour à Toulouse

Le logiciel IBM ayant déjà été installé et testé, la seule limite aux données qu’il peut engranger est fixée par les capacités de calcul disponibles. Dans un premier temps, selon Arsac seules les images de 50 caméras du centre-ville sur les 236 en fonctionnement seraient fournies au logiciel, mais a priori rien n’empêche les services de police d’augmenter ce nombre à tout moment. Il n’y a en effet aucunement besoin d’installer de nouvelles caméras, mais seulement de rediriger le parcours des images, d’un parcours classique qui les affiche sur un écran et les sauvegarde sur un disque dur, à un parcours « intelligent » qui les fait passer par le logiciel d’analyse en temps réel. Par la suite, il suffira d’acheter quelques nouveaux ordinateurs pour rendre accessible à l’analyse avancée du comportement l’intégralité des caméras de la ville, et bien plus : caméras Tisséo, bornes Vélib, radars…

Et bien entendu, une fois le système mis en place il n’y a en principe plus qu’à cocher une case pour activer la reconnaissance faciale, qui fait déjà partie intégrante des fonctionnalités du logiciel.