The Walls Have Eyes, la surveillance à l'ère des algorithmes

De plus en plus d'entreprises technologiques privées sont chargées de mettre au point des technologies de prise de décision automatisée qui facilitent la violence institutionnelle tout en éliminant l'obligation de rendre des comptes.

 

The Walls Have Eyes, Surviving Migration in the Age of Surveillance, Petra Molnar
The New Press 2024
ISBN 9781620978368

 

Iason Athanasiadis 

 

Quelque part au début du XXIe siècle, la surveillance s'est normalisée. Alors que les réseaux sociaux et la technologie des téléphones portables nous poussent à nous raconter dans des récits personnels censés nous valoriser, nous avons aussi relégué au second plan l'idée que nous étions surveillés 24 heures sur 24, le narcissisme est devenu notre mode de fonctionnement.

Les changements d'époque se produisent généralement alors que la plupart des gens regardent ailleurs. Le temps que les caractéristiques de la nouvelle ère deviennent un sujet de débat public, des garde-fous ont déjà été mis en place et plusieurs fortunes sont déjà faites. Il en va de même pour les technologies de surveillance, longtemps invisibles, dispersées, elles sont soudain devenues aussi intimes pour chacun d'entre nous que le téléphone portable au fond de notre poche, ou les caméras et les scanners dans nos rues, nos supermarchés et nos aéroports.

Ce sentiment de familiarité s'est dissipé en septembre lorsqu'une série d'explosions de bippeurs, de talkies-walkies et de systèmes solaires a tué des dizaines de personnes et en a blessé plus de 3 000 au Liban. Bien que le sabotage israélien présumé ait probablement impliqué une interception sur la chaîne d'approvisionnement plutôt qu'une simple activation à distance, ce rebondissement profondément troublant au cœur de notre ère du confort a démontré que de nombreux types d'appareils en réseau peuvent être rendus mortels de loin. La transformation d'objets apparemment familiers en armes a rappelé le coût réel de l'abandon de la vie privée au profit de la commodité et de l'acceptation de vivre dans un état de surveillance constante. La leçon a été renforcée lorsque le co-fondateur de l'application de messagerie Telegram et défenseur de la liberté d'expression Pavel Durov a été arrêté et a consenti à divulguer aux autorités requérantes les numéros de téléphone et les adresses IP de ses utilisateurs.

Un nouveau livre aborde les technologies de surveillance sous un angle nouveau, en plaçant Israël au centre du boom des technologies de surveillance militarisées. The Walls Have Eyes affirme qu'une multitude d'acteurs étatiques et transnationaux créés au cours des deux dernières décennies, tels que le Homeland Security du gouvernement américain et Frontex de l'Union européenne, font de plus en plus appel à des entreprises technologiques privées et dans l'ombre pour développer des technologies de prise de décision automatisée qui facilitent la violence institutionnelle tout en éliminant l'obligation de rendre des comptes. Alors que ces dangers font lentement l'objet d'une réglementation, un secteur privé florissant, peuplé d'entreprises telles que l'américaine Palantir et la française Civipol, s'est mis à dévorer les données des populations vulnérables tout en se livrant au commerce florissant de leur vente illégale à des gouvernements autoritaires, conduisant à des scandales ayant éclaté dans des endroits tels que Libye et la Grèce.

Autrice tchéco-jordanienne, Petra Molnar nous offre un sombre carnet de voyage sur les lignes de front de la guerre mondiale contre les mouvements humains, à partir des expériences des populations vulnérables de réfugiés et de migrants, de plus en plus ciblées par les entreprises technologiques. Cette foire d'empoigne sur le marché du développement technologique était censée nous conduire à une utopie techno-solutionniste, mais dans les faits, elle a approfondi les espaces de traçage et de surveillance sans aucune restriction. Alors que des institutions puissantes comme l'Union européenne commencent à adopter des lois limitant la collecte gratuite de données initiée ces vingt dernières années, les entreprises redoublent d'efforts pour exploiter les zones grises de ces législations que constituent les populations informelles.

Actuellement basée entre Athènes et New York, Petra Molnar a passé plusieurs années à suivre la crise des réfugiés, qui a commencé en 2015 sur les îles de la mer Égée faisant face à l'Asie, elle a observé comment les États ont donné la priorité à la technologie pour limiter les mouvements au lieu de financer des solutions pour lutter contre le racisme aux frontières ou améliorer l'équité dans les procédures d'asile. Elle dirige le Migration and Technology Monitor (Observatoire des migrations et des technologies), un centre d'archives et une plateforme permettant aux personnes en déplacement de raconter leur histoire, y compris leur rencontre avec la surveillance des frontières. Une vignette mémorable montre Molnar bravant de nombreux points de contrôle de la police pendant le confinement lié au Covid pour sauver un enfant réfugié bloqué sur la rivière entre la Grèce et la Turquie.

"Ces histoires et ces perspectives devaient être au cœur du livre", a déclaré Petra Molnar lors d'un entretien avec TMR, "pour aider à humaniser les questions pour les décideurs politiques et un public qui ne prendrait pas un rapport de recherche ou un traité théorique, mais qui pourrait s'identifier à un vrai récit qui rend ces questions humaines".

Le voyage de Petra Molnar à travers les zones frontalières, aujourd'hui sur-surveillées, vise à démontrer comment "les populations du soi-disant Sud global sont souvent les sujets de puissantes expériences d'extraction de données qui justifient le suivi de pans entiers du monde pour servir les intérêts géopolitiques du Nord global". Elle étend le problème en soulignant que les technologies de surveillance sont conçues sur la base des priorités de l'élite mondiale et que "le fait de rendre les personnes du continent africain traçables est l'un des moyens par lesquels l'UE et les États-Unis sont en mesure de maintenir une forme de contrôle néocolonial sur la gestion de la migration mondiale".

Le livre se déroule à travers un assortiment extraordinaire de zones frontalières sécurisées, y compris le corridor fortifié entre la Pologne et la Biélorussie, les îles grecques à côté de la masse continentale asiatique de la Turquie, la ville fantôme d'Hébron en Cisjordanie occupée, la frontière américano-mexicaine, et les arènes isolées et déterritorialisées des expositions de systèmes de défense. Au Congrès mondial sur la sécurité des frontières, Petra Molnar a pu observer les entreprises privées en train de vendre drones, robots-chiens et radars aux gouvernements, alors même que son badge d'universitaire ne lui a valu que des rebuffades en bonne et due forme.

"Lorsque j'ai commencé à travailler pour essayer d'exposer les impacts des technologies frontalières en 2018, je me sentais comme un poisson hors de l'eau", a déclaré Molnar à TMR. "Cependant, j'ai aussi rapidement réalisé que ce que je faisais en fin de compte ne concernait pas la technologie en soi, c'était plutôt une tentative de comprendre les dynamiques de pouvoir : la technologie ouvre une perspective utile pour examiner les différences de pouvoir, en particulier dans la question des migrations et des frontières."

En Israël, Petra Molnar tombe sur des entreprises telles qu'Elbit Systems, le fabricant d'armes systémique israélien, AnyVision, une startup qui utilise l'IA et la reconnaissance faciale pour transformer des "des caméras passives en systèmes de sécurité proactifs" et Elimec, une entreprise dont l'application Blue Wolf joue à photographier sans restriction la population palestinienne pour alimenter la base de données de reconnaissance faciale de l'armée israélienne, ce qui permet aux soldats israéliens d'accéder instantanément à l'historique de tous les Palestiniens qu'ils rencontrent. Il s'agit dans tous les cas de technologies développées par Israël. Les géants de la technologie de la Silicon Valley comme Amazon, Microsoft et Google ont également soutenu les offensives militaires d'Israël en fournissant des services de stockage sur clouds à Mamram (l'unité du Centre des systèmes informatiques et d'information de l'armée israélienne) et au projet Nimbus, afin d'intégrer en temps réel les quantités considérables de données sur le champ de bataille fournies par les caméras, les drones et les satellites. Les programmes assistés par l'IA tels que Gospel, Fire Factory et Lavender contournent la sélection humaine pour choisir unilatéralement des cibles et effectuer des attentats à la bombe. "De puissants groupes disposent aujourd'hui d'une telle quantité d'outils qu'elle éclipse la quantité de matériel accessible au public", a déclaré Julian Assange, fondateur de Wikileaks, dès 2012. "Les opérations de Wikileaks ne représentent qu'une fraction de ce matériel privé."

Les débuts d'internet avaient été annoncés comme annonçant la liberté de l'individu et le recul du pouvoir de l'État. Mais si internet a massivement simplifié le processus de communication transfrontalière, les États les plus puissants ont également utilisé la technologie en réseau pour renforcer leur emprise sur leurs populations. Ils ont persécuté les indésirables ou leur ont imposé des interdictions d'entrée et ont employé des États plus faibles comme mandataires en matière de sécurité dans le cadre d'un processus actif visant à repousser leurs frontières vers l'extérieur. De nouvelles collaborations avec des entreprises technologiques du secteur privé ont créé un nouveau climat déconcertant où personne ne doit rendre de comptes, permettant aux gouvernements nationaux de se dédouaner de toute responsabilité en échange de l'extension de leur emprise sur la vie de leurs citoyens et de ceux qui n'en font pas partie.

"Samos est le premier camp de réfugiés high-tech, il a ouvert ses portes en 2021 et je le suis depuis des années à travers de nombreuses visites - des plans originaux à l'ouverture officielle, en passant par les conséquences de son installation", a déclaré Petra Molnar en août, debout juste à l'extérieur du camp parce qu'elle n'avait pas réussi à obtenir un permis de visite. "Le camp est une manifestation des politiques européennes qui donnent la priorité aux interventions technologiques plutôt qu'à la vie des gens, et c'est aussi l'un des épicentres où se déroulent les opérations illégales de refoulement."

Les programmes de surveillance conçus par Israël et utilisés dans le camp de Samos démontrent que si la technologie est neutre, les priorités de ceux qui l'utilisent ne le sont pas. Le livre de Molnar est une plongée fascinante dans les préjugés et les excès de chauvinisme très humains qui alimentent les priorités de la technologie apparemment neutre, celle-là même qui régule invisiblement nos vies et détermine de plus en plus qui a accès à quoi. L'ouvrage contient l'analyse d'un expert en immigration dont les recherches prouvent que les sujets traumatisés peuvent tromper les logiciels conçus pour détecter la malhonnêteté en ne se souvenant pas des événements de manière linéaire, en évitant le contact visuel et en répétant d'autres schémas trompeurs, ce qui conduit le logiciel à les rejeter. Une grande partie du livre est un appel urgent à se recentrer sur les conséquences de la technologie de surveillance qui nous a bercés dans un sentiment de sécurité qui nous isolent du reste du monde. 

"Les ethnographies diffèrent du journalisme en ce sens qu'elles ne s'efforcent pas d'être objectives, comme d'ailleurs aucun écrit ne l'est", a déclaré Petra Molnar à TMR. "Les récits de ce livre sont tous filtrés à travers mon prisme personnel, colorés par mon passé, mes expériences et mes angles morts, en reconnaissant que les souvenirs sont malléables et socialement construits". 

Les préoccupations de Petra Molnar sur ce qui se passe lorsque la technologie agit comme un grand niveleur mais que la géopolitique internationale perpétue les mêmes divisions préexistantes, recoupent celles d'autres penseurs sur l'injustice. "Allez vous poster à la frontière américano-mexicaine, c'est ça la mondialisation", a déclaré Yanis Varoufakis, l'auteur de Techno Feudalism, What Killed Capitalism, dans une interview récente. "Les gens ne peuvent pas se déplacer, ils sont entassés contre la clôture, tenus à l'écart comme de la vermine. Les marchandises entrent et sortent, les capitaux circulent librement, (et) les êtres humains sont derrière des barrières".

Les Nations unies utilisent elles aussi la biométrie, c'est-à-dire la "reconnaissance automatisée des individus sur la base de leurs caractéristiques biologiques et comportementales", explique Petra Molnar. Il s'agit notamment des empreintes digitales, des scanners rétiniens, de la reconnaissance faciale, de la reconnaissance des circuits veineux et de la reconnaissance de la démarche. Elle s'intéresse également aux stratégies de résistance à la technologie déployée contre les personnes en déplacement, qui vont jusqu'à brûler leurs empreintes digitales pour éviter d'être enregistrées dans la base de données EURODAC de l'Union européenne. 

Bien que Petra Molnar ne parvienne pas à pénétrer le monde des entreprises de surveillance technologique du secteur privé, son livre offre une vue d'ensemble utile et intrigante d'un secteur dont nous savons extraordinairement peu de choses, compte tenu de son impact sur nos vies. 

"Les technologies sont présentées comme apolitiques dans un monde déstabilisé, comme une porte vers un futur utopique potentiel où la complexité est éliminée", écrit Petra Molnar. "Mais qui, exactement, a le droit de rêver ces futurs utopiques ?"

 

*La lecture de The Palestine Laboratory: How Israel Exports the Technology of Occupation (Verso 2023), d'Antony Loewenstein, est hautement recommandée.